13:54:52

Yeni Bir Rapor YZ Şirketlerini Uyarıyor

Önde gelen bir YZ güvenlik grubuna göre, yapay zekâ şirketleri insan düzeyinde entelektüel performansa sahip sistemler geliştirmenin sonuçlarına karşı “temelden hazırlıksız”. Future of Life Institute, yapay genel zekâ peşinde olan şirketlerin güvenliği sağlamak için inandırıcı planları olmadığını söylüyor…

Future of Life Institute (FLI), YZ güvenlik endeksindeki hiçbir şirketin “varoluşsal güvenlik planlaması” konusunda D’den yüksek puan almadığını söyledi.

FLI raporunun beş gözden geçireninden biri, yapay genel zekâ (AGI*) geliştirmeyi hedeflemelerine rağmen, incelenen şirketlerin hiçbirinin sistemlerin güvenli ve kontrol edilebilir kalmasını sağlayacak “tutarlı, uygulanabilir bir plan”a sahip olmadığını söyledi.

AGI, bir sistemin herhangi bir entelektüel görevi yerine getirmede insanla eşleşebildiği yapay zekâ geliştirmenin teorik bir aşamasını ifade eder. ChatGPT‘nin geliştiricisi OpenYZ, misyonunun AGI’nin “tüm insanlığa fayda sağlamasını” sağlamak olduğunu söyledi. Güvenlik savunucuları, AGI’nin insan kontrolünden kaçarak ve felaketle sonuçlanacak bir olayı tetikleyerek varoluşsal bir tehdit oluşturabileceği konusunda uyarıda bulundu.

FLI‘nin raporunda şöyle deniyor: “Sektör, kendi belirlediği hedefler için temelde hazırlıksız. Şirketler, on yıl içinde yapay genel zekâ (AGI) hedefine ulaşacaklarını iddia ediyor, ancak hiçbiri varoluşsal güvenlik planlamasında D’nin üzerinde puan almadı.”

Endeks, Google DeepMind, OpenYZ, Anthropic, Meta, xYZ ve Çin’in Zhipu YZ ve DeepSeek olmak üzere yedi YZ geliştiricisini “mevcut zararlar” ve “varoluşsal güvenlik” dahil olmak üzere altı alanda değerlendiriyor.

Anthropic, C+ ile en yüksek genel güvenlik puanını aldı, onu C ile OpenYZ ve C- ile Google DeepMind izledi.

FLI, en son teknolojinin daha güvenli kullanımı için kampanya yürüten ABD merkezli bir kâr amacı gütmeyen kuruluştur ve kripto girişimcisi Vitalik Buterin‘in “koşulsuz” bağışları sayesinde bağımsız olarak faaliyet gösterebilmektedir.

Güvenlik odaklı bir başka kâr amacı gütmeyen kuruluş olan SaferYZ de Perşembe günü, gelişmiş YZ şirketlerinin “zayıf ila çok zayıf risk yönetimi uygulamaları” olduğunu ve mevcut yaklaşımlarının “kabul edilemez” olduğunu belirten bir rapor yayımladı.

FLI güvenlik notları, İngiliz bilgisayar bilimci Stuart Russell ve YZ düzenleme kampanyası grubu Encode Justice‘in kurucusu Sneha Revanur‘un da aralarında bulunduğu bir YZ uzmanları paneli tarafından verildi ve gözden geçirildi.

FLI‘nin kurucu ortağı ve Massachusetts Teknoloji Enstitüsü‘nde profesör olan Max Tegmark, en son teknolojiye sahip YZ şirketlerinin sonuçlarla başa çıkma planlarını yayımlamadan süper zeki sistemler kurmayı hedeflemelerinin “oldukça rahatsız edici” olduğunu söyledi.

Tegmark, “Sanki biri New York’ta devasa bir nükleer santral inşa ediyor ve santral önümüzdeki hafta açılacak, ancak santralin erimesini önleyecek bir plan yok” dedi.

Tegmark, uzmanların AGI’nın getireceği zorlukları çözmek için onlarca yıl süreceklerine dair daha önce var olan inancı örnek göstererek, teknolojinin beklentileri aşmaya devam ettiğini söyledi. “Şimdi şirketler kendileri bunun birkaç yıl sonra gerçekleşeceğini söylüyor” dedi.

Şubat ayında Paris’te düzenlenen küresel YZ zirvesinden bu yana YZ yeteneklerinde “olağanüstü” bir ilerleme kaydedildiğini, xYZ‘nin Grok 4, Google‘ın Gemini 2.5 ve video üreticisi Veo3 gibi yeni modellerin hepsinin öncekilere göre iyileştirmeler gösterdiğini ekledi.

Google DeepMind sözcüsü, raporların “Google DeepMind’ın YZ güvenliği konusundaki tüm çabalarını” dikkate almadığını söyledi. Sözcü, “YZ güvenliği ve emniyeti konusundaki kapsamlı yaklaşımımız, raporlarda yer alanların çok ötesine geçiyor” diye ekledi.

AGI* (Artificial General Intelligence), insan gibi düşünebilen, öğrenebilen ve çok çeşitli görevleri başarıyla yerine getirebilen yapay zekâdır.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…