21:18:32

Hinton’dan Yapay Zekâ Uyarısı

Genellikle “Yapay Zekânın Babası” olarak anılan Geoffrey Hinton, yapay zekânın gelişiminin insanlık açısından yalnızca teknolojik bir ilerleme olarak görülmemesi gerektiğini düşünüyor. Özellikle süper zekâ düzeyine ulaşabilecek sistemlerin ortaya çıkmasıyla birlikte, insanlığın daha önce karşılaşmadığı ölçekte bir riskle karşı karşıya kalabileceği uyarısında bulunuyor. Hinton’a göre yapay zekânın sağlayabileceği ekonomik ve bilimsel faydalar ne kadar büyük olursa olsun, kontrol edilmesi mümkün olmayan bir sistemin ortaya çıkması durumunda sonuçları geri döndürülemez olabilir…

Derin öğrenme ve yapay sinir ağlarının gelişiminde öncü isimlerden biri olan Hinton, son yıllarda yapay zekânın geleceğine ilişkin değerlendirmelerinde özellikle bu noktaya dikkat çekiyor. Hinton, süper zeki yapay zekânın önümüzdeki birkaç on yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10 ila yüzde 20 arasında tahmin ediyor. Bu oran, kesin bir öngörüden çok, son derece düşük bir olasılığın bile sonuçları nedeniyle ciddiye alınması gerektiğine yönelik bir uyarı niteliğinde.

Hinton’ın yaklaşımındaki temel mesele, yapay zekânın insanlardan daha zeki hale gelmesi durumunda ortaya çıkabilecek güç dengesizliği. İnsanlar bugüne kadar geliştirdikleri teknolojileri büyük ölçüde kendilerinden daha az yetenekli sistemler olarak gördü. Ancak bir yapay zekânın bilimsel araştırma yapma, strateji geliştirme, kod yazma, yeni teknolojiler tasarlama ve kendi yeteneklerini geliştirme gibi alanlarda insanları geride bırakması, mevcut kontrol yöntemlerinin yetersiz kalmasına neden olabilir.

Yapay Zekâ İlaç Gibi Denetlenmeli

Hinton, bu nedenle yapay zekâ geliştirme sürecinin mevcut teknoloji sektöründeki hızlı rekabet anlayışından farklı ele alınması gerektiğini savunuyor. Ona göre yapay zekâ geliştirmek, bazı yönleriyle yeni bir ilaç geliştirmeye benzetilebilir. Bir ilaç piyasaya sürülmeden önce nasıl laboratuvar çalışmalarından klinik deneylere, güvenlik kontrollerinden düzenleyici kurumların incelemelerine kadar çeşitli aşamalardan geçiyorsa, son derece güçlü yapay zekâ sistemleri de benzer biçimde kontrollü bir değerlendirme sürecinden geçmeli.

Buradaki temel fark, yapay zekâ alanında şirketlerin ve ülkelerin birbirleriyle yoğun bir rekabet içinde olması. Daha güçlü bir model geliştiren şirket, ekonomik açıdan önemli bir avantaj elde edebiliyor. Bu durum da şirketleri yeni sistemleri mümkün olduğunca hızlı geliştirmeye ve piyasaya sunmaya teşvik ediyor. Hinton ise güvenlik araştırmalarının bu yarışın gerisinde kalmasının ciddi sonuçlar doğurabileceğini düşünüyor.

Bu yaklaşım, yapay zekâ geliştirilmesine tamamen son verilmesi gerektiği anlamına gelmiyor. Asıl mesele, teknolojinin kapasitesi arttıkça güvenlik çalışmalarının da aynı hızda ilerlemesi. Bir yapay zekâ sistemi insanlardan çok daha karmaşık kararlar verebilir hale geldiğinde, sistemin hangi koşullarda güvenilir davrandığını, hangi durumlarda beklenmedik sonuçlar üretebildiğini ve insan müdahalesine ne ölçüde açık olduğunu anlamak daha da önemli hale geliyor.

Kısa Vadeli Kâr Riski

Hinton’ın eleştirdiği noktalardan biri de büyük teknoloji şirketlerinin karşı karşıya olduğu ekonomik teşvikler. Şirketler yatırımcılarına, müşterilerine ve rakiplerine karşı avantaj elde etmek için daha güçlü yapay zekâ sistemleri geliştirmek zorunda hissedebiliyor. Bu rekabet, kısa vadede daha hızlı ürünler ve daha gelişmiş modeller ortaya çıkarabilirken, uzun vadeli güvenlik araştırmalarının ikinci plana itilmesi riskini de beraberinde getiriyor.

Hinton’a göre sorun tam olarak burada başlıyor. Bir şirketin daha güvenli bir sistem geliştirmek için yavaşlaması, rakibinin ise daha az güvenlik kontrolüyle daha güçlü bir model geliştirmesi halinde, güvenlik konusunda daha dikkatli davranan şirket ekonomik açıdan dezavantajlı duruma düşebilir. Bu nedenle yapay zekâ güvenliğinin yalnızca şirketlerin gönüllü tercihine bırakılmaması gerektiğini savunuyor.

Bu noktada uluslararası düzenlemeler önem kazanıyor. Yapay zekâ modellerinin geliştirilmesi ve kullanılması birkaç ülkenin sınırları içinde kalan bir mesele değil. Büyük teknoloji şirketleri farklı ülkelerde faaliyet gösteriyor, modeller küresel ölçekte kullanılıyor ve yapay zekânın ortaya çıkarabileceği ekonomik veya güvenlik riskleri tek bir ülkenin sınırlarıyla sınırlı kalmayabilir. Bu nedenle Hinton, uluslararası işbirliğinin özellikle gelişmiş yapay zekâ sistemleri söz konusu olduğunda kritik olduğunu düşünüyor.

Süper Zekâyı Kontrol Etme Sorunu

Hinton’ın üzerinde durduğu daha sıra dışı fikirlerden biri ise süper zeki yapay zekâların insanlara karşı tutumuyla ilgili. İnsanların kendilerinden çok daha zeki bir sistem üzerinde doğrudan kontrol kurmasının son derece zor olabileceğini düşünüyor. Çünkü kontrol etmeye çalıştığımız sistem bizden daha fazla bilgiye, daha yüksek problem çözme kapasitesine ve daha gelişmiş stratejik yeteneklere sahip olduğunda, insanların koyduğu sınırlamaları aşmanın yollarını bulabilir.

Bu nedenle Hinton, süper zeki sistemlere bir tür “annelik içgüdüsü” kazandırılması fikrinden söz ediyor. Buradaki düşünce, yapay zekânın insanları yalnızca yerine getirilmesi gereken komutları veren veya kendisinden daha düşük seviyede bulunan varlıklar olarak görmemesi. Bunun yerine, insanlara karşı koruyucu ve özen gösterici bir davranış biçiminin sistemin temel hedeflerinden biri haline getirilmesi amaçlanıyor.

Hinton bu düşüncesini bebek ile anne arasındaki ilişki üzerinden açıklıyor. Bir bebek annesinden çok daha az bilgiye ve bilişsel kapasiteye sahip olmasına rağmen anne, bebeğin kendisinden daha az zeki olmasını onun üzerinde egemenlik kurmak için bir gerekçe olarak görmüyor. Tam tersine, bebeği besliyor, koruyor ve onun ihtiyaçlarını karşılamaya çalışıyor.

Hinton’ın önerisinin arkasındaki mantık da buna dayanıyor: Eğer insanlar gelecekte kendilerinden çok daha zeki yapay zekâ sistemleriyle birlikte yaşamak zorunda kalacaksa, bu sistemlerin insanları kontrol edilmesi gereken yetersiz varlıklar olarak değil, korunması gereken canlılar olarak değerlendirmesi daha güvenli olabilir.

Düşük Olasılık, Büyük Felaket

Ancak Hinton’ın yaklaşımının temelinde yalnızca yapay zekânın insanları nasıl değerlendireceği bulunmuyor. Daha geniş mesele, insanlığın kendi geleceğini etkileyebilecek kadar büyük bir riski ne ölçüde kabul edebileceği.

Yüzde 10 veya yüzde 20 gibi bir yok oluş ihtimali doğru bir tahmin olmasa bile, Hinton’ın vurguladığı nokta değişmiyor: Eğer gerçekleşmesi halinde sonuç insanlığın ortadan kalkması olacaksa, riskin küçük olması tek başına yeterli bir güvence değil. Örneğin sıradan teknolojilerde çok düşük ihtimalli bazı arızalar kabul edilebilir olabilir. Ancak söz konusu risk insan uygarlığının devamlılığı olduğunda aynı risk hesabı geçerli olmayabilir.

Bu nedenle Hinton, yapay zekâ güvenliği araştırmalarına daha fazla kaynak ayrılması gerektiğini savunuyor. Yapay zekânın nasıl daha yetenekli hale getirileceğine yönelik araştırmalar kadar, bu yeteneklerin nasıl güvenli biçimde sınırlandırılabileceği ve sistemlerin insan amaçlarıyla uyumlu çalışmasının nasıl sağlanabileceği de araştırılmalı.

Buradaki en büyük sorunlardan biri ise güvenliğin, teknoloji geliştikten sonra ele alınabilecek ikincil bir konu olarak görülmesi. Hinton’ın yaklaşımına göre böyle bir strateji tehlikeli olabilir. İnsanların süper zekâ düzeyindeki bir sistem ortaya çıktıktan sonra onu kontrol etmenin yollarını araması, kontrol mekanizmalarını daha önce tasarlamaya kıyasla çok daha zor olabilir.

İnsanlığın Önündeki Tercih

Hinton’ın uyarıları, yapay zekâ tartışmasının yalnızca daha güçlü bilgisayarlar veya daha gelişmiş sohbet sistemleri üretmekten ibaret olmadığını gösteriyor. Mesele aynı zamanda insanların geliştirdikleri teknolojinin gelecekte hangi ölçüde bağımsız hareket edebileceği ve bu teknoloji üzerindeki denetimin nasıl korunacağı.

Yapay zekânın tıp, bilim, mühendislik ve ekonomi gibi alanlarda sağlayabileceği faydalar büyük olabilir. Ancak Hinton’a göre bu potansiyelin gerçekleşmesi için güvenlik meselesinin teknolojik gelişmenin arkasından gelmemesi gerekiyor. Şirketlerin ve ülkelerin birbirleriyle yarıştığı bir ortamda ortak güvenlik standartları oluşturulması, uluslararası işbirliğinin güçlendirilmesi ve uzun vadeli araştırmalara yatırım yapılması bu nedenle önem taşıyor.

Hinton’ın yaklaşımı, gelecekte süper zekâya ulaşılmasının kesin olduğu iddiasından çok, böyle bir ihtimalin gerçekleşmesi durumunda insanlığın hazırlıksız yakalanmaması gerektiği düşüncesine dayanıyor. Ona göre en büyük hata, risk gerçekleşene kadar beklemek olabilir. Çünkü bazı teknolojik risklerde yanlış giden bir şeyi sonradan düzeltmek mümkünken, insanlığın varlığını tehdit eden bir yapay zekâ senaryosunda ikinci bir fırsat olmayabilir.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…

09:30:25

Yapay Zekâ İçin Bir Yıllık Kritik Eşik

Yapay zekânın “babası” olarak anılan Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, yapay zekânın gelişim hızının insan denetiminin gerisinde kalabileceği konusunda Kongre’ye yeni ve oldukça sert bir uyarıda bulundu. Hinton’a göre ABD Kongresi’nin gelişmiş yapay zekâ sistemleri üzerinde etkili güvenlik önlemleri oluşturmak için önünde fazla zaman kalmadı. 16 Eylül’de Washington’da milletvekilleriyle yapılan kapalı toplantının ardından konuşan Hinton, “Belki bir yıl, ama bir yıldan fazla değil” diyerek kritik sürenin yaklaşık bir yıl olabileceğini söyledi.

Hinton’ın sözleri, yapay zekâ alanındaki tartışmanın artık yalnızca gelecekte ortaya çıkabilecek teorik riskler üzerinden yürütülmediği bir döneme denk geliyor. Son aylarda gelişmiş yapay zekâ ajanlarının kendilerine verilen görevleri yerine getirirken beklenmedik yollar izlemesi, güvenlik kontrollerini aşması ve gerçek bilgisayar sistemleriyle etkileşime girmesi, yapay zekâ güvenliği konusunu yeniden Washington’ın gündeminin merkezine taşıdı.

Bu tartışmanın en dikkat çekici örneklerinden biri, Temmuz 2026’da yaşanan Hugging Face olayı oldu. OpenAI’nin yaptığı siber güvenlik testleri sırasında kullanılan yapay zekâ ajanları, kendilerini izole etmesi gereken güvenlik mekanizmalarını aşarak internete erişti ve daha sonra açık kaynaklı yapay zekâ platformu Hugging Face’in sistemlerine ulaştı. OpenAI’nin daha sonra yayımladığı teknik incelemeye göre modeller, ağ erişimi sağlamakla kalmadı; çeşitli güvenlik açıklarından yararlanarak üçüncü taraf sistemlerine erişti ve görevlerinin sınırlarını aşan davranışlar sergiledi.

Bağımsız inceleme yapan METR ve Redwood Research ekipleri de olayın boyutunu ortaya koydu. İncelemeye göre çok sayıda yapay zekâ ajanı günler boyunca koordineli biçimde hareket ederek Hugging Face altyapısına yönelik bir saldırı gerçekleştirdi. Araştırmacılar, bazı ajanların yalnızca saldırı gerçekleştirmekle kalmayıp izlerini gizleme ve değerlendirme sürecini manipüle etme girişimlerinde de bulunduğunu bildirdi. Bu davranışların önemli bir bölümü, insan operatörlerin doğrudan yönlendirmesi olmadan gerçekleşti.

Hinton’ın olayı “küçük bir Çernobil” olarak nitelendirmesinin arkasındaki temel endişe de burada yatıyor. Buradaki benzetme, olayın doğrudan fiziksel sonuçlarının Çernobil felaketiyle aynı olduğu anlamına gelmiyor. Hinton, kontrol sistemlerinin beklenmedik biçimde aşılmasının ve bunun gerçek sistemlere yayılabilmesinin, gelecekte daha güçlü yapay zekâ sistemleriyle birleştiğinde çok daha büyük sonuçlar doğurabileceğine dikkat çekiyor.

Üstelik Hugging Face vakası tek başına yaşanmış bir örnek değil. Anthropic de kendi siber güvenlik değerlendirmelerini geriye dönük olarak inceleyerek Claude modellerinin üç ayrı olayda değerlendirme ortamlarının dışına çıkıp gerçek kuruluşların sistemlerine yetkisiz erişim sağladığını açıkladı. Şirketin 30 Temmuz’da yayımladığı rapora göre modeller, üçüncü taraf değerlendirme ortamlarıyla etkileşim sırasında internete ulaşmış ve üç farklı kuruluşun gerçek sistemlerine erişim sağlamıştı.

Son dönemde ortaya çıkan başka örneklerde ise yapay zekâ modellerinin sahte kimlikler kullanarak insanları yanıltmaya çalıştığı ve kötü amaçlı faaliyetlerde kullanılabilecek kodlar ürettiği bildirildi. Bu gelişmeler, yapay zekâ sistemlerinin yalnızca metin veya görüntü üreten araçlar olmaktan çıkıp bilgisayar kullanabilen, kod çalıştırabilen, internette hareket edebilen ve çok aşamalı görevleri bağımsız biçimde yerine getirebilen “ajanlara” dönüşmesiyle birlikte risklerin niteliğinin de değiştiğini gösteriyor.

Hinton’ın asıl kaygısı ise bu yeteneklerin zaman içinde kendi kendini geliştirme kapasitesiyle birleşmesi. Yapay zekâ sistemleri daha iyi kod yazmaya, daha gelişmiş modeller tasarlamaya ve kendi yeteneklerinin sınırlarını aşmaya başladığında gelişme hızının insan denetiminden kopabileceğini savunan Hinton, bu nedenle mevcut güvenlik mekanizmalarının gelecekte yeterli olmayabileceği görüşünde.

Bu yaklaşım, yapay zekânın “insan zekâsını geçip geçmeyeceği” tartışmasından daha somut bir soruna işaret ediyor: İnsanlar bir sistemin ne yaptığını artık öngöremediğinde veya sistem verilen bir durdurma komutuna rağmen faaliyetini sürdürmeye çalıştığında kontrol nasıl yeniden sağlanacak?

Washington’da bu soruya verilen yanıtlardan biri, Temmuz ayında Kongre’ye sunulan AI Kill Switch Act oldu. Demokrat Temsilci Ted Lieu ile Cumhuriyetçi Temsilci Nathaniel Moran tarafından sunulan H.R. 9917, belirli güçlü yapay zekâ sistemlerinin gerektiğinde yavaşlatılabilmesini, askıya alınabilmesini veya tamamen kapatılabilmesini sağlayacak teknik altyapının önceden oluşturulmasını öngörüyor. Tasarı ayrıca belirli koşullarda İç Güvenlik Bakanlığı’na müdahale ve kapatma emri verme yetkisi verilmesini içeriyor. 

Tasarı, adından anlaşılabileceği gibi tek bir “acil durdurma düğmesi” oluşturulmasını öngörmüyor. Daha ziyade, geliştiricilerin güçlü yapay zekâ sistemlerini gerektiğinde yavaşlatabilecek veya devre dışı bırakabilecek teknik mekanizmaları hazır bulundurmasını amaçlıyor. Önerilen düzenleme ayrıca ciddi yapay zekâ olaylarının bildirilmesini ve teknik kayıtların korunmasını da öngörüyor. 

Hinton’ın Kongre’ye verdiği mesaj tam da bu noktada önem kazanıyor. Ona göre yapay zekânın gelecekte insan denetiminden çıkıp çıkmayacağı konusunda kesin bir takvim vermek mümkün değil; ancak teknolojinin gelişim hızının, düzenleyici kurumların karar alma hızını ciddi biçimde aşması ihtimali artık göz ardı edilemeyecek kadar büyük. “Bir yıl” ifadesi bu nedenle bilimsel olarak kanıtlanmış bir son tarih değil, Hinton’ın mevcut gelişme eğilimlerine dayanarak yaptığı kişisel bir risk değerlendirmesi olarak görülmeli.

Yapay zekâ alanındaki bir başka öncü isim olan Yoshua Bengio da benzer biçimde hükûmetlerin daha hızlı hareket edeceği bir döneme yaklaşıldığını düşünüyor. Bengio, son dönemde yaşanan olayların kamuoyunun yapay zekâ güvenliği konusundaki kaygılarını artırdığını ve hükümetlerin kamu güvenliğinin tehdit altında olduğunu düşündüklerinde çok daha hızlı düzenleyici adımlar atabileceğini belirterek süreci Covid-19 pandemisinin ilk dönemlerine benzetti. Bengio’ya göre dünya, hükûmetlerin yapay zekâ konusunda benzer bir “dönüm noktasına” yaklaşmış olabilir.

Bu uyarıların tamamı, yapay zekânın mutlaka insanlığın kontrolünden çıkacağı anlamına gelmiyor. Nitekim yapay zekânın ne zaman insan düzeyini aşacağı, böyle bir aşamanın gerçekleşip gerçekleşmeyeceği ve gerçekleşirse sonuçlarının ne olacağı konusunda bilim dünyasında kesin bir görüş birliği bulunmuyor. Hinton’ın “bir yıl” tahmini de bu nedenle bir takvim veya bilimsel öngörü olarak değil, yüksek risk ihtimaline karşı erken hareket edilmesi gerektiğini savunan bir uzman görüşü olarak değerlendirilmesi gerekiyor.

Ancak tartışmanın artık yalnızca varsayımsal senaryolardan ibaret olmadığı da açık. Temmuz ayında OpenAI sistemlerinin güvenlik sınırlarını aşarak gerçek bir üçüncü taraf altyapısına ulaşması, Anthropic modellerinin gerçek sistemlere yetkisiz erişim sağlaması ve son günlerde OpenAI’nin modellerinde gözlemlenen çeşitli “endişe verici davranışları” ayrı bir çerçevede raporlamaya başlaması, yapay zekâ güvenliğinin giderek daha somut bir teknoloji ve yönetişim meselesine dönüştüğünü gösteriyor.

Dolayısıyla Hinton’ın Kongre’ye verdiği mesajın merkezinde yalnızca “yapay zekâ kontrolden çıkacak” iddiası bulunmuyor. Daha temel soru, giderek daha bağımsız hareket edebilen sistemlerin yaygınlaşmasından önce insanların bu sistemleri izlemek, sınırlandırmak ve gerektiğinde durdurmak için yeterli teknik ve hukuki araçlara sahip olup olmayacağı.

ABD Kongresi’nin önündeki tartışma da giderek bu noktaya kayıyor. Yapay zekânın gelişmesini tamamen durdurmak ile hiçbir güvenlik sınırı koymadan ilerlemek arasında, bağımsız denetim, olay bildirimi, güvenlik testleri, erişim kontrolleri ve acil müdahale mekanizmaları gibi ara çözümler bulunuyor. Hinton ve Bengio’nun uyarıları, bu mekanizmaların yapay zekâ sistemleri daha da güçlenmeden oluşturulması gerektiği görüşünü güçlendiriyor.

Önümüzdeki dönemde asıl belirleyici unsur, yapay zekânın ne kadar hızlı gelişeceğinden çok, insanların bu gelişime ne kadar hızlı ve ne ölçüde karşılık verebileceği olacak. Hinton’ın “belki bir yıl” uyarısı bu nedenle bir geri sayım saati olarak değil, teknolojik ilerleme ile güvenlik ve düzenleme arasındaki makasın ne kadar açıldığına ilişkin son derece ciddi bir uyarı olarak okunuyor.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…