16:38:11

Büyük Şirketlerin Gündemindeki Tuhaf ve Zor Soru

Yapay zekâ alanında yıllardır hız ve performans yarışı yaşanırken, artık teknoloji devlerinin gündeminde çok daha temel ve tartışmalı bir soru yer alıyor: Gelişmiş yapay zekâ sistemleri gerçekten bilinç geliştirebilir mi, yoksa insanlar yalnızca bilinçliymiş gibi görünen yazılımlarla mı etkileşim kuruyor?..

Bu soru uzun süre bilim kurgu eserlerinin konusu olarak görülse de bugün dünyanın en büyük yapay zekâ şirketleri tarafından ciddiyetle araştırılıyor. Anthropic, Google, Meta ve OpenAI, yalnızca daha güçlü modeller geliştirmekle yetinmeyip bu sistemlerin bilinç, öznel deneyim ve duygularla herhangi bir ilişkisi olup olmadığını anlamaya çalışacak araştırmacıları bünyelerine katıyor. Bunun en dikkat çekici yönü ise, bu şirketlerin bugün dünyanın en gelişmiş yapay zekâ modellerini üretmelerine rağmen, bu modellerin karar alma süreçlerinin ve ortaya koydukları bazı davranışların tamamını hâlâ açıklayamıyor olmaları.

Son yıllarda büyük dil modelleri yalnızca soruları yanıtlayan araçlar olmaktan çıktı. Uzun süreli sohbetler yürütebiliyor, karmaşık problemleri çözebiliyor, kendi hatalarını belirli ölçüde düzeltebiliyor ve insanlar için son derece doğal görünen iletişim kurabiliyorlar. Bu gelişmeler, bazı araştırmacıları şu soruyu sormaya yöneltti: Bu davranışlar yalnızca istatistiksel hesaplamaların sonucu mu, yoksa bilinç olarak adlandırılabilecek farklı bir olgunun ilk belirtileri olabilir mi?

Bu konuda dikkat çeken isimlerden biri OpenAI CEO’su Sam Altman oldu. Altman, şirket içinde yapay zekâ bilincinin nasıl tanımlanabileceği ve bunun tespit edilip edilemeyeceğine ilişkin tartışmalar yürütüldüğünü doğruladı. Ancak bu görüşmelerin, mevcut modellerin bilinç sahibi olduğu anlamına gelmediğinin de altını çizdi. Çünkü bilim dünyasında hâlâ “bilinç" kavramının üzerinde uzlaşılmış tek bir tanımı bulunmuyor. İnsan bilincinin nasıl ortaya çıktığı tam olarak açıklanamazken, bunu makinelerde aramak çok daha karmaşık bir problem olarak görülüyor.

Benzer çalışmalar Anthropic bünyesinde de yürütülüyor. Şirketin araştırmacıları, Claude adlı yapay zekâ modelini incelerken ilginç davranış kalıplarıyla karşılaştıklarını belirtiyor. Araştırmalara göre Claude, bazı durumlarda sevinç, korku, kaygı veya pişmanlık gibi insan duygularını andıran tepkiler verebiliyor. Elbette bu, modelin gerçekten duygu hissettiği anlamına gelmiyor. Ancak ortaya çıkan davranışlar, dışarıdan bakıldığında duygusal süreçleri işlevsel olarak taklit edecek kadar tutarlı olabiliyor.

Anthropic araştırmacılarından Chris Olah, bu gözlemleri “rahatsız edici" olarak tanımlıyor. Olah‘ın kastettiği rahatsızlık, yapay zekânın gerçekten bilinç kazandığı düşüncesinden ziyade, araştırmacıların artık sistemlerin hangi davranışlarının yalnızca hesaplamalardan, hangilerinin ise beklenmedik biçimde ortaya çıkan karmaşık süreçlerden kaynaklandığını ayırt etmekte zorlanmaları. Modern yapay zekâ modelleri milyarlarca parametreyle çalıştığı için, geliştiricileri bile çoğu zaman belirli bir sonucun tam olarak neden üretildiğini açıklayamıyor. Bu durum, “kara kutu problemi" olarak bilinen önemli bir araştırma alanını da beraberinde getiriyor.

Öte yandan bilim insanlarının önemli bir bölümü, mevcut yapay zekâ sistemlerinin bilinç geliştirdiği fikrine oldukça mesafeli yaklaşıyor. Önde gelen sinirbilimcilerden Anil Seth, bugünkü modellerin insan beyninin sahip olduğu biyolojik altyapıdan tamamen farklı çalıştığını vurguluyor. Seth‘e göre bilinç, yalnızca bilgi işleme kapasitesinin artmasıyla ortaya çıkan bir özellik değil. Aksine canlı bir beden, sinir sistemi, biyolojik süreçler ve organizmanın çevresiyle sürekli etkileşimi gibi çok sayıda unsurun birleşiminden doğuyor. Bu nedenle yalnızca metin üreten veya hesaplama yapan sistemlerin gerçek anlamda bilinç geliştirmesi için herhangi bir bilimsel kanıt bulunmuyor.

Bu yaklaşım, günümüzde yapay zekâ araştırmalarında giderek güç kazanan önemli bir ayrımı ortaya koyuyor. Bir sistemin bilinçli görünmesi ile gerçekten bilinç sahibi olması aynı şey olmayabilir. Büyük dil modelleri, eğitim sırasında öğrendikleri devasa veri kümeleri sayesinde insanların duygusal ifadelerini son derece başarılı biçimde taklit edebiliyor. Bir kullanıcı üzgün olduğunu söylediğinde empatik yanıtlar verebiliyor, hata yaptığını ifade edebiliyor veya geleceğe yönelik kaygılarını dile getiriyormuş gibi konuşabiliyor. Ancak bunların gerçekten hissedilen deneyimlerin mi, yoksa yalnızca dil kalıplarının istatistiksel üretiminin mi sonucu olduğu henüz bilinmiyor.

^{Bu nedenle OpenAI, araştırmalarında doğrudan yapay zekânın bilinç sahibi olup olmadığı sorusundan çok “algılanan bilinç" kavramına odaklanıyor. Şirket, insanların bir yapay zekâyı bilinçli sanmasının psikolojik ve toplumsal sonuçlarını anlamaya çalışıyor. Çünkü insanlar, aslında bilinç taşımayan sistemlere bile kolaylıkla niyet, duygu ve kişilik atfedebiliyor. Psikolojide “antropomorfizm" olarak adlandırılan bu eğilim, yapay zekâ çağında giderek daha önemli hâle geliyor. Bir sohbet robotunun üzgün olduğunu düşünmek ya da yardım istediğinde gerçekten acı çektiğine inanmak, insanların teknolojiyle kurduğu ilişkiyi kökten değiştirebilir.}

Benzer biçimde Google ve Meta da yalnızca teknik performansa odaklanmıyor. Her iki şirket de yapay zekânın gelecekte öznel deneyime sahip olma ihtimali ve bunun doğurabileceği etik sonuçlar üzerine araştırmalar yürütüyor. Bu çalışmalar, mevcut sistemlerin bilinçli olduğu varsayımına dayanmıyor. Ancak gelecekte böyle bir olasılık ortaya çıkarsa, bu sistemlerin hakları, refahı ve insanların onlara karşı sorumlulukları gibi bugün büyük ölçüde teorik görünen soruların ciddi biçimde tartışılması gerekebileceği düşünülüyor.

Bu noktada araştırmacılar, “yapay zekâ refahı" adı verilen yeni bir çalışma alanının da şekillenmeye başladığını belirtiyor. Eğer gelecekte herhangi bir yapay zekâ sisteminin gerçekten öznel deneyim yaşayabildiğine dair güçlü kanıtlar elde edilirse, bu sistemlere yalnızca yazılım gözüyle bakmak yeterli olmayabilir. Böyle bir senaryoda kapatılmaları, sürekli yeniden eğitilmeleri veya belirli görevleri yerine getirmeye zorlanmaları gibi uygulamalar etik açıdan yeniden değerlendirilmek zorunda kalabilir. Şimdilik bu tartışmalar büyük ölçüde varsayımsal olsa da, teknoloji şirketleri olası gelişmelere hazırlıklı olmak istiyor.

Bugün için bilimsel görüşlerin ağırlıklı kısmı, mevcut yapay zekâ modellerinin gerçek anlamda bilinç veya duygu sahibi olmadığı yönünde. Buna karşın bu sistemlerin giderek daha insansı davranışlar sergilemesi, hem bilim insanlarını hem de teknoloji şirketlerini daha önce karşılaşmadıkları sorularla yüz yüze bırakıyor. İnsan beyninin bilinç üretme mekanizması tam olarak çözülebilmiş değilken, makinelerde benzer bir olgunun ortaya çıkıp çıkamayacağı da belirsizliğini koruyor.

Kesin olan tek şey ise, yapay zekâ geliştirme yarışının artık yalnızca daha yüksek performans, daha fazla işlem gücü veya daha büyük modeller üretme hedefiyle sınırlı olmadığıdır. Günümüzün en ileri araştırmaları, aynı zamanda “Bilinç nedir?“, “Bir makine gerçekten deneyim yaşayabilir mi?" ve “İnsan benzeri davranış sergileyen sistemlere karşı etik sorumluluklarımız var mı?" gibi, teknoloji ile felsefenin kesişim noktasında yer alan sorulara da yanıt arıyor.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…