21:18:32

Hinton’dan Yapay Zekâ Uyarısı

Genellikle “Yapay Zekânın Babası” olarak anılan Geoffrey Hinton, yapay zekânın gelişiminin insanlık açısından yalnızca teknolojik bir ilerleme olarak görülmemesi gerektiğini düşünüyor. Özellikle süper zekâ düzeyine ulaşabilecek sistemlerin ortaya çıkmasıyla birlikte, insanlığın daha önce karşılaşmadığı ölçekte bir riskle karşı karşıya kalabileceği uyarısında bulunuyor. Hinton’a göre yapay zekânın sağlayabileceği ekonomik ve bilimsel faydalar ne kadar büyük olursa olsun, kontrol edilmesi mümkün olmayan bir sistemin ortaya çıkması durumunda sonuçları geri döndürülemez olabilir…

Derin öğrenme ve yapay sinir ağlarının gelişiminde öncü isimlerden biri olan Hinton, son yıllarda yapay zekânın geleceğine ilişkin değerlendirmelerinde özellikle bu noktaya dikkat çekiyor. Hinton, süper zeki yapay zekânın önümüzdeki birkaç on yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10 ila yüzde 20 arasında tahmin ediyor. Bu oran, kesin bir öngörüden çok, son derece düşük bir olasılığın bile sonuçları nedeniyle ciddiye alınması gerektiğine yönelik bir uyarı niteliğinde.

Hinton’ın yaklaşımındaki temel mesele, yapay zekânın insanlardan daha zeki hale gelmesi durumunda ortaya çıkabilecek güç dengesizliği. İnsanlar bugüne kadar geliştirdikleri teknolojileri büyük ölçüde kendilerinden daha az yetenekli sistemler olarak gördü. Ancak bir yapay zekânın bilimsel araştırma yapma, strateji geliştirme, kod yazma, yeni teknolojiler tasarlama ve kendi yeteneklerini geliştirme gibi alanlarda insanları geride bırakması, mevcut kontrol yöntemlerinin yetersiz kalmasına neden olabilir.

Yapay Zekâ İlaç Gibi Denetlenmeli

Hinton, bu nedenle yapay zekâ geliştirme sürecinin mevcut teknoloji sektöründeki hızlı rekabet anlayışından farklı ele alınması gerektiğini savunuyor. Ona göre yapay zekâ geliştirmek, bazı yönleriyle yeni bir ilaç geliştirmeye benzetilebilir. Bir ilaç piyasaya sürülmeden önce nasıl laboratuvar çalışmalarından klinik deneylere, güvenlik kontrollerinden düzenleyici kurumların incelemelerine kadar çeşitli aşamalardan geçiyorsa, son derece güçlü yapay zekâ sistemleri de benzer biçimde kontrollü bir değerlendirme sürecinden geçmeli.

Buradaki temel fark, yapay zekâ alanında şirketlerin ve ülkelerin birbirleriyle yoğun bir rekabet içinde olması. Daha güçlü bir model geliştiren şirket, ekonomik açıdan önemli bir avantaj elde edebiliyor. Bu durum da şirketleri yeni sistemleri mümkün olduğunca hızlı geliştirmeye ve piyasaya sunmaya teşvik ediyor. Hinton ise güvenlik araştırmalarının bu yarışın gerisinde kalmasının ciddi sonuçlar doğurabileceğini düşünüyor.

Bu yaklaşım, yapay zekâ geliştirilmesine tamamen son verilmesi gerektiği anlamına gelmiyor. Asıl mesele, teknolojinin kapasitesi arttıkça güvenlik çalışmalarının da aynı hızda ilerlemesi. Bir yapay zekâ sistemi insanlardan çok daha karmaşık kararlar verebilir hale geldiğinde, sistemin hangi koşullarda güvenilir davrandığını, hangi durumlarda beklenmedik sonuçlar üretebildiğini ve insan müdahalesine ne ölçüde açık olduğunu anlamak daha da önemli hale geliyor.

Kısa Vadeli Kâr Riski

Hinton’ın eleştirdiği noktalardan biri de büyük teknoloji şirketlerinin karşı karşıya olduğu ekonomik teşvikler. Şirketler yatırımcılarına, müşterilerine ve rakiplerine karşı avantaj elde etmek için daha güçlü yapay zekâ sistemleri geliştirmek zorunda hissedebiliyor. Bu rekabet, kısa vadede daha hızlı ürünler ve daha gelişmiş modeller ortaya çıkarabilirken, uzun vadeli güvenlik araştırmalarının ikinci plana itilmesi riskini de beraberinde getiriyor.

Hinton’a göre sorun tam olarak burada başlıyor. Bir şirketin daha güvenli bir sistem geliştirmek için yavaşlaması, rakibinin ise daha az güvenlik kontrolüyle daha güçlü bir model geliştirmesi halinde, güvenlik konusunda daha dikkatli davranan şirket ekonomik açıdan dezavantajlı duruma düşebilir. Bu nedenle yapay zekâ güvenliğinin yalnızca şirketlerin gönüllü tercihine bırakılmaması gerektiğini savunuyor.

Bu noktada uluslararası düzenlemeler önem kazanıyor. Yapay zekâ modellerinin geliştirilmesi ve kullanılması birkaç ülkenin sınırları içinde kalan bir mesele değil. Büyük teknoloji şirketleri farklı ülkelerde faaliyet gösteriyor, modeller küresel ölçekte kullanılıyor ve yapay zekânın ortaya çıkarabileceği ekonomik veya güvenlik riskleri tek bir ülkenin sınırlarıyla sınırlı kalmayabilir. Bu nedenle Hinton, uluslararası işbirliğinin özellikle gelişmiş yapay zekâ sistemleri söz konusu olduğunda kritik olduğunu düşünüyor.

Süper Zekâyı Kontrol Etme Sorunu

Hinton’ın üzerinde durduğu daha sıra dışı fikirlerden biri ise süper zeki yapay zekâların insanlara karşı tutumuyla ilgili. İnsanların kendilerinden çok daha zeki bir sistem üzerinde doğrudan kontrol kurmasının son derece zor olabileceğini düşünüyor. Çünkü kontrol etmeye çalıştığımız sistem bizden daha fazla bilgiye, daha yüksek problem çözme kapasitesine ve daha gelişmiş stratejik yeteneklere sahip olduğunda, insanların koyduğu sınırlamaları aşmanın yollarını bulabilir.

Bu nedenle Hinton, süper zeki sistemlere bir tür “annelik içgüdüsü” kazandırılması fikrinden söz ediyor. Buradaki düşünce, yapay zekânın insanları yalnızca yerine getirilmesi gereken komutları veren veya kendisinden daha düşük seviyede bulunan varlıklar olarak görmemesi. Bunun yerine, insanlara karşı koruyucu ve özen gösterici bir davranış biçiminin sistemin temel hedeflerinden biri haline getirilmesi amaçlanıyor.

Hinton bu düşüncesini bebek ile anne arasındaki ilişki üzerinden açıklıyor. Bir bebek annesinden çok daha az bilgiye ve bilişsel kapasiteye sahip olmasına rağmen anne, bebeğin kendisinden daha az zeki olmasını onun üzerinde egemenlik kurmak için bir gerekçe olarak görmüyor. Tam tersine, bebeği besliyor, koruyor ve onun ihtiyaçlarını karşılamaya çalışıyor.

Hinton’ın önerisinin arkasındaki mantık da buna dayanıyor: Eğer insanlar gelecekte kendilerinden çok daha zeki yapay zekâ sistemleriyle birlikte yaşamak zorunda kalacaksa, bu sistemlerin insanları kontrol edilmesi gereken yetersiz varlıklar olarak değil, korunması gereken canlılar olarak değerlendirmesi daha güvenli olabilir.

Düşük Olasılık, Büyük Felaket

Ancak Hinton’ın yaklaşımının temelinde yalnızca yapay zekânın insanları nasıl değerlendireceği bulunmuyor. Daha geniş mesele, insanlığın kendi geleceğini etkileyebilecek kadar büyük bir riski ne ölçüde kabul edebileceği.

Yüzde 10 veya yüzde 20 gibi bir yok oluş ihtimali doğru bir tahmin olmasa bile, Hinton’ın vurguladığı nokta değişmiyor: Eğer gerçekleşmesi halinde sonuç insanlığın ortadan kalkması olacaksa, riskin küçük olması tek başına yeterli bir güvence değil. Örneğin sıradan teknolojilerde çok düşük ihtimalli bazı arızalar kabul edilebilir olabilir. Ancak söz konusu risk insan uygarlığının devamlılığı olduğunda aynı risk hesabı geçerli olmayabilir.

Bu nedenle Hinton, yapay zekâ güvenliği araştırmalarına daha fazla kaynak ayrılması gerektiğini savunuyor. Yapay zekânın nasıl daha yetenekli hale getirileceğine yönelik araştırmalar kadar, bu yeteneklerin nasıl güvenli biçimde sınırlandırılabileceği ve sistemlerin insan amaçlarıyla uyumlu çalışmasının nasıl sağlanabileceği de araştırılmalı.

Buradaki en büyük sorunlardan biri ise güvenliğin, teknoloji geliştikten sonra ele alınabilecek ikincil bir konu olarak görülmesi. Hinton’ın yaklaşımına göre böyle bir strateji tehlikeli olabilir. İnsanların süper zekâ düzeyindeki bir sistem ortaya çıktıktan sonra onu kontrol etmenin yollarını araması, kontrol mekanizmalarını daha önce tasarlamaya kıyasla çok daha zor olabilir.

İnsanlığın Önündeki Tercih

Hinton’ın uyarıları, yapay zekâ tartışmasının yalnızca daha güçlü bilgisayarlar veya daha gelişmiş sohbet sistemleri üretmekten ibaret olmadığını gösteriyor. Mesele aynı zamanda insanların geliştirdikleri teknolojinin gelecekte hangi ölçüde bağımsız hareket edebileceği ve bu teknoloji üzerindeki denetimin nasıl korunacağı.

Yapay zekânın tıp, bilim, mühendislik ve ekonomi gibi alanlarda sağlayabileceği faydalar büyük olabilir. Ancak Hinton’a göre bu potansiyelin gerçekleşmesi için güvenlik meselesinin teknolojik gelişmenin arkasından gelmemesi gerekiyor. Şirketlerin ve ülkelerin birbirleriyle yarıştığı bir ortamda ortak güvenlik standartları oluşturulması, uluslararası işbirliğinin güçlendirilmesi ve uzun vadeli araştırmalara yatırım yapılması bu nedenle önem taşıyor.

Hinton’ın yaklaşımı, gelecekte süper zekâya ulaşılmasının kesin olduğu iddiasından çok, böyle bir ihtimalin gerçekleşmesi durumunda insanlığın hazırlıksız yakalanmaması gerektiği düşüncesine dayanıyor. Ona göre en büyük hata, risk gerçekleşene kadar beklemek olabilir. Çünkü bazı teknolojik risklerde yanlış giden bir şeyi sonradan düzeltmek mümkünken, insanlığın varlığını tehdit eden bir yapay zekâ senaryosunda ikinci bir fırsat olmayabilir.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…