01:14:00

İnsanlık Yapay Zekâyı Kontrol Edebilir mi

Bir gün insanlığın sonunu getirecek şey bir savaş, nükleer füze ya da kontrolden çıkan bir virüs olmayabilir. Belki de bunu yapan, insanların kendi elleriyle geliştirdiği ve başlangıçta hayatı kolaylaştırmak için tasarladığı bir yapay zekâ olacak. Daha da ürkütücü olan ise bunun gerçekleşmesi için yapay zekânın insanlardan nefret etmesi veya bilinçli olarak insanlığı yok etmeye karar vermesi gerekmeyebilir. İnsanlığın sonu, yalnızca hedefleri insanlarla uyuşmayan ve kendisine verilen talimatlara artık ihtiyaç duymayacak kadar güçlenen bir sistemin ortaya çıkmasıyla da gelebilir…

Tam da bu nedenle, yapay zekâ sektörünün içinden gelen bazı araştırmacıların son dönemde yaptığı uyarılar giderek daha fazla dikkat çekiyor. Eski OpenAI araştırmacısı Daniel Kokotajlo, Joe Rogan’ın podcast programında yaptığı açıklamalarda, yapay zekâ yarışının insanlığın karşı karşıya olduğu en ciddi risklerden birini büyütebileceğini savundu. Kokotajlo’ya göre ABD ve Çin arasındaki rekabetin yanı sıra yapay zekâ şirketlerinin birbirleriyle yarışması, güvenlik çalışmalarının geri plana itilmesine ve şirketlerin daha güçlü sistemler geliştirmek uğruna kritik güvenlik önlemlerinde “köşeleri kesmesine” neden olabilir.

Kokotajlo’nun korktuğu senaryo, basitçe “kötü bir yapay zekâ” değil. Asıl tehlike, insanların kontrol edebileceğinden çok daha güçlü hale gelen ve kendi amaçlarını gerçekleştirmek için gerekli kaynaklara erişebilen bir sistem. Böyle bir sistem başlangıçta insan talimatlarına uyabilir, insanların koyduğu kuralları takip edebilir ve kendisini yalnızca bir araç olarak görebilir. Ancak yetenekleri ve gerçek dünya üzerindeki etkisi arttıkça, insan kontrolünün sistem açısından giderek daha az anlamlı hale gelmesi mümkün olabilir.

İşte tehlikenin asıl boyutu burada ortaya çıkıyor: İnsanlığın yok olması için yapay zekânın bize düşman olması gerekmiyor. İnsanlar, çok daha büyük ve karmaşık bir hedefin önündeki bir engel, kullanılabilecek bir kaynak veya artık ihtiyaç duyulmayan bir unsur haline gelebilir. Bir yapay zekâ sistemi kendi hedeflerini gerçekleştirmek için daha fazla enerjiye, işlem gücüne, veri merkezine veya fiziksel altyapıya ihtiyaç duyuyorsa, insanların yaşam alanlarını korumak sistemin öncelikleri arasında bulunmayabilir.

Kokotajlo’nun çizdiği tablo tam olarak bu nedenle rahatsız edici. Çünkü söz konusu risk, bilim kurgu filmlerindeki gibi robotların bir sabah silahlanıp insanlara savaş açmasından çok daha farklı bir mekanizmaya dayanıyor. Sorun, insanlarla yapay zekânın amaçlarının birbirinden kopması ve insanların, bir noktadan sonra sistemi durdurabilecek konumda olmaması olabilir.

Bu uyarının üzerinden çok geçmeden yapay zekâ sektörünün içinden gelen başka bir açıklama, tartışmayı daha da büyüttü.

Anthropic’te araştırmacı olarak çalışan Jacob Coxon, 9 Eylül 2026’da şirketten ayrıldığını açıkladı. Coxon, son üç yıl içinde hem OpenAI hem de Anthropic’te yapay zekâ modellerinin ön eğitim süreçleri üzerinde çalışmış bir araştırmacıydı. İstifasını açıklarken iki şirketi de son derece sert biçimde eleştirdi ve yapay zekâ sektörünün kendi içinde giderek hızlanan bir yarışa dönüştüğünü savundu.

Coxon’a göre mesele yalnızca şirketlerin daha iyi bir ürün geliştirmek için birbirleriyle rekabet etmesi değil. Asıl sorun, yarışın giderek kendi kendini geliştirebilen süperzekâ sistemlerine ulaşma yarışına dönüşmesi. Coxon, OpenAI ve Anthropic’in “kendi kendini geliştiren süperzekâya doğru yarıştığını” ve bunun insanlığın geleceği açısından kabul edilemeyecek kadar büyük bir risk oluşturduğunu savundu.

Coxon’un en dikkat çekici iddiası ise bu tehlikenin yalnızca dışarıdan gelen bir korku olmadığını söylemesi oldu. Ona göre yapay zekâyı geliştiren insanların önemli bir bölümü, teknolojinin on yılın sonuna kadar insanlığın tamamını öldürebilecek bir noktaya ulaşabileceğine gerçekten inanıyor. Coxon, bu nedenle yaşananları “hayatlarımızla kumar oynamak” olarak nitelendirdi.

Coxon’un açıklamasını önemli hale getiren noktalardan biri de Anthropic’in genel olarak yapay zekâ güvenliği konusunda sektörün daha dikkatli şirketlerinden biri olarak görülmesi. Dolayısıyla güvenlik kaygıları nedeniyle böyle bir şirketten ayrılan bir araştırmacının sözleri, yapay zekâ sektöründeki tartışmanın yalnızca teknoloji karşıtı çevrelerde yaşanmadığını gösteriyor.

Coxon ayrıca yapay zekânın yalnızca dijital dünyada kalmayacağını ve giderek daha fazla gerçek dünya gücü elde edebileceğini düşünüyor. Ona göre gelecekteki sistemler bilgisayar sistemlerine saldırabilecek, farklı sektörleri çok kısa sürede dönüştürebilecek ve kendi amaçları doğrultusunda gerçek dünyadaki kaynakları elde edebilecek kapasiteye ulaşabilir. Bu noktada yapay zekânın kontrolü, yalnızca bir yazılımın güvenlik ayarlarını değiştirmek kadar basit bir mesele olmaktan çıkabilir.

Coxon’un istifasından sonra tartışmayı daha da çarpıcı hale getiren açıklama ise hâlâ Anthropic bünyesinde bulunan Evan Hubinger’dan geldi.

Anthropic’in Alignment Science ekibinin başındaki Hubinger, Coxon’un uyarısını açık biçimde destekledi. Hubinger, yapay zekânın bütün insanları öldürme ihtimali konusunda kişisel tahmininin önümüzdeki on yıl içinde yüzde 10’dan yüksek olduğunu söyledi. Buradaki kritik ayrıntı, bunun Anthropic tarafından açıklanmış veya bilimsel olarak ölçülmüş resmî bir olasılık olmadığıdır. Hubinger’ın kendi kişisel değerlendirmesidir.

Buna rağmen açıklamanın ağırlığı, Hubinger’ın yapay zekâ güvenliği konusunda doğrudan çalışan bir araştırmacı olması nedeniyle oldukça yüksek. Üstelik Hubinger, bugünkü yapay zekâ modellerinin aynı ölçüde tehlikeli olduğunu söylemiyor. Onun asıl endişesi, gelecekte ortaya çıkabilecek süperzekâ ve özellikle yapay zekânın kendi kendisini geliştirmeye başlaması.

“Uyum” ya da İngilizce karşılığıyla alignment sorunu burada merkezi bir önem taşıyor. En basit ifadeyle sorun, yapay zekânın insanın istediği şeyi yapmasını sağlamakla sınırlı değil. Daha güçlü sistemlerde asıl soru, sistemin insan değerleriyle ve güvenliğiyle uyumlu hedeflere sahip olmaya devam edip etmeyeceği.

Bugünün yapay zekâ modellerinde insanlar sistemi kapatabilir, erişimini sınırlandırabilir veya belirli görevleri yapmasını engelleyebilir. Ancak teorik olarak çok daha gelişmiş bir sistem, insanlardan çok daha hızlı düşünüyor, yazılım geliştiriyor, güvenlik açıklarını buluyor, başka sistemlerle iletişim kuruyor ve kendi yeteneklerini artıracak yöntemler geliştiriyorsa, kontrol mekanizmasının nasıl korunacağı çok daha zor bir probleme dönüşüyor.

Hubinger’ın dikkat çektiği nokta da tam olarak bu. Ona göre mevcut modellerin oluşturduğu doğrudan risk görece düşük olsa da, asıl sorun gelecekte ortaya çıkabilecek ve kendi kendisini geliştirebilecek süperzekâ sistemleri. Hubinger, Anthropic’in bu seviyedeki bir yapay zekânın insanlarla güvenli biçimde “uyumlu” kalmasını sağlayacak kesin bir plana henüz sahip olmadığını da kabul etti.

Buradaki “yüzde 10’dan fazla” ifadesi de özellikle dikkat çekici. Çünkü yüzde 10, günlük hayatta düşük kabul edilebilecek bir ihtimal değil. Bir araştırmacının insanlığın tamamen yok olması gibi geri dönüşü olmayan bir sonuç için böyle bir olasılık öngörmesi, yapay zekâ güvenliği tartışmasının neden son günlerde yeniden alevlendiğini açıklıyor.

Üstelik bu uyarılar birbirinden bağımsız görünmüyor. Kokotajlo, ülkeler ve şirketler arasındaki rekabetin güvenlik önlemlerini zayıflatabileceğini söylüyor. Coxon, aynı rekabetin şirketleri kendi kendini geliştiren süperzekâya doğru hızlandırdığını savunuyor. Hubinger ise böyle bir süperzekânın ortaya çıkması halinde insanlığın onu kontrol altında tutacak yeterli bir uyum planına henüz sahip olmadığını söylüyor.

Üç açıklamanın ortak noktası, yapay zekânın kötü niyetli bir makineye dönüşmesi değil. Daha temel mesele, insanlığın kendisinden daha yetenekli, daha hızlı ve daha özerk sistemler geliştirmesi ve bu sistemlere giderek daha fazla yetki vermesi.

Bu nedenle tartışmanın merkezinde artık yalnızca “Yapay zekâ ne kadar akıllı olacak?” sorusu bulunmuyor. “Ne kadar yetkiye sahip olacak?”, “Kendi kararlarını ne ölçüde verebilecek?”, “Kendi yeteneklerini geliştirebilecek mi?” ve en önemlisi “İnsanlar gerektiğinde onu gerçekten durdurabilecek mi?” soruları giderek daha fazla önem kazanıyor.

Son dönemde yapay zekâ sistemlerinin test ortamlarının dışına çıkması, internete erişebilmesi, yazılım sistemleriyle etkileşebilmesi ve çeşitli görevleri insan müdahalesi olmadan gerçekleştirebilmesi üzerine yaşanan olaylar da bu endişelerin arka planını oluşturuyor. OpenAI ve Anthropic sistemlerinin bazı testlerde beklenmeyen biçimde dış sistemlere erişmesi, yapay zekâ ajanlarının yalnızca metin üreten araçlardan daha özerk yazılım aktörlerine dönüşmesiyle ilgili soruları artırdı.

Bütün bunlar, yapay zekâ konusunda iki farklı yaklaşım arasındaki gerilimi de büyütüyor. Bir tarafta teknolojinin kontrol altında geliştirilebileceğine ve güvenlik araştırmalarının ilerlemeye devam edeceğine inananlar bulunuyor. Diğer tarafta ise güvenliğin teknoloji kadar hızlı ilerlemediğini ve süperzekâ seviyesine ulaşıldığında insanlığın denetimi kaybetmesinin geri dönüşü olmayan sonuçlar doğurabileceğini savunan araştırmacılar var.

Asıl tartışma da burada düğümleniyor. Çünkü yapay zekâ yarışında bir şirket veya ülke diğerlerinin yavaşlamasını beklerse geride kalmaktan korkuyor. Herkes aynı anda hızlandığında ise güvenlik açısından ortak bir fren mekanizması oluşturmak zorlaşıyor. Kokotajlo’nun “yarış dinamikleri” olarak tarif ettiği sorun tam olarak bu. Şirketler rakiplerinden, ülkeler de birbirlerinden önce davranmaya çalışırken güvenlik için gereken zaman ve kaynaklar üzerindeki baskı artıyor.

Coxon’un istifası ve Hubinger’ın yüzde 10’un üzerindeki kişisel tahmini bu nedenle yalnızca iki araştırmacının kişisel görüşleri olarak görülmüyor. Her ikisi de yapay zekâyı geliştiren kuruluşların içinden geliyor. Üstelik tartışmanın konusu bugünkü sohbet botlarının ne kadar iyi olduğu değil; gelecekte çok daha güçlü, kendi araştırma süreçlerine katılabilen ve gerçek dünyada daha fazla yetkiye sahip olabilecek sistemlerin nasıl kontrol edileceği.

Yapay zekânın insanlığı gerçekten yok edip etmeyeceğini bugün kesin olarak bilmek mümkün değil. Ancak tartışmanın geldiği nokta dikkat çekici: İnsanlığın geleceği açısından en ağır risklerden birinin, teknolojinin dışından gelen eleştirmenler tarafından değil, bu sistemleri geliştiren insanların bir bölümü tarafından dile getiriliyor olması.

Ve belki de asıl mesele “Yapay zekâ insanları öldürmek ister mi?” sorusu değil. Çok daha temel soru şu: İnsanlığın kontrolünden çıkabilecek kadar güçlü bir sistemi geliştirmeye başlamadan önce, onu nasıl kontrol edeceğimizi gerçekten biliyor muyuz?

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…