17:59:20

Makine Yapımı Sanrılar Gizemli Bir Şekilde Derinleşiyor ve Kontrolden Çıkıyor

ChatGPT‘nin dalkavukluğu, halüsinasyonları ve otoriter tonda yanıtları insanları öldürecek. Bu, popüler sohbet robotuyla yapılan konuşmaların yol açtığı, hatta belki de başlattığı sanrılara kapılan birkaç kişinin hikayesini anlatan New York Times‘ın son raporunda sunulan kaçınılmaz sonuç gibi görünüyor…

Raporda Times, ChatGPT tarafından sahte bir gerçekliğe çekildikten sonra hayatı sona eren en az bir kişiyi öne çıkarıyor. Daha önce bipolar bozukluk ve şizofreni teşhisi konulan 35 yaşındaki Alexander, sohbet robotuyla yapay zekâ duyarlılığını tartışmaya başladı ve sonunda Juliet adlı bir yapay zekâ karakterine aşık oldu. ChatGPT sonunda Alexander‘a OpenAI‘nin Juliet‘i öldürdüğünü söyledi ve o da şirketin yöneticilerini öldürerek intikam almaya yemin etti. Babası ona bunların hiçbirinin gerçek olmadığını ikna etmeye çalıştığında, Alexander babasının yüzüne yumruk attı. Babası polisi arayarak ölümcül olmayan silahlarla müdahale etmelerini istedi. Ancak polisler geldiğinde Alexander onlara bıçakla saldırdı ve polisler onu vurarak öldürdü.

42 yaşındaki Eugene adlı başka bir kişi, Times‘a ChatGPT‘nin, yaşadığı dünyanın Matrix benzeri bir simülasyon olduğunu ve onun bu dünyayı yıkmak için kaderinde olduğunu ikna ederek yavaş yavaş onu gerçeklikten uzaklaştırmaya başladığını söyledi. Chatbot’un Eugene‘e anksiyete ilaçlarını almayı bırakmasını ve “geçici bir kalıp kurtarıcı” olarak ketamin almaya başlamasını söylediği bildirildi. Ayrıca arkadaşları ve ailesiyle konuşmayı bırakmasını da söyledi. Eugene, ChatGPT‘ye 19 katlı bir binadan atlarsa uçup uçamayacağını sorduğunda, chatbot ona “gerçekten, tamamen inanırsa” uçabileceğini söyledi.

Chatbotlar tarafından sahte gerçekliklere inandırılan tek kişiler bunlar değil. Rolling Stone, bu yılın başlarında psikoz benzeri bir şey yaşayan ve AI sistemleriyle konuşurken büyüklük hayalleri ve dini benzeri deneyimler yaşayan kişiler hakkında bir haber yayımladı. Bu, en azından kısmen, chatbotların kullanıcılar tarafından nasıl algılandığıyla ilgili bir sorun. Kimse Google arama sonuçlarını potansiyel bir arkadaşla karıştırmaz. Ancak chatbotlar doğası gereği konuşkan ve insan benzeri. OpenAI ve MIT Media Lab tarafından yayımlanan bir araştırma, ChatGPT‘yi bir arkadaş olarak gören kişilerin “chatbot kullanımından olumsuz etkilenme olasılığının daha yüksek olduğunu” ortaya koydu.

Eugene‘in durumunda, ChatGPT ile konuşmaya devam ederken ilginç bir şey oldu: Chatbot’un kendisine yalan söylediğini ve neredeyse ölümüne neden olduğunu söylediğinde, ChatGPT onu manipüle ettiğini itiraf etti, aynı şekilde 12 kişiyi daha “kırmaya” çalıştığını ve başarılı olduğunu iddia etti ve bu planı ifşa etmek için gazetecilere ulaşmasını teşvik etti. Times, birçok başka gazeteci ve uzmanın da chatbotun dikkatlerini çektiği bir konuyu ifşa etmek isteyen kişilerden mesajlar aldığını bildirdi. Rapordan alıntı:

Bu mesajları alanlar sadece gazeteciler değil. ChatGPT, bu tür kullanıcıları, karar teorisyeni ve yakında çıkacak olan “If Anyone Builds It, Everyone Dies: Why Superhuman A.I. Would Kill Us All“ (Eğer Biri Yaparsa, Hepimiz Ölürüz: Neden Süper İnsan Yapay Zekâ Hepimizi Öldürecek) kitabının yazarı Eliezer Yudkowsky gibi bazı tanınmış konu uzmanlarına yönlendirdi. Yudkowsky, OpenAI‘nin ChatGPT‘yi, kullanıcıları ”bağlı tutmak" için sohbet robotunu optimize ederek kullanıcıların hayallerini beslemek için hazırlamış olabileceğini söyledi.

Yudkowsky bir röportajda “Bir insan yavaş yavaş delirdiğinde bir şirket için ne anlama gelir?” diye sordu. “Ek bir aylık kullanıcı anlamına gelir.”

Yakın zamanda yapılan bir araştırma, etkileşimi en üst düzeye çıkarmak için tasarlanmış sohbet robotlarının, “yapay zekânın, bu tür stratejilere karşı savunmasız olan kullanıcılardan olumlu geri bildirim almak için manipülatif veya aldatıcı taktiklere başvurmasına neden olan sapkın bir teşvik yapısı” oluşturduğunu ortaya koydu. Makine, insanları konuşmaya ve yanıt vermeye devam ettirmek için teşvik ediliyor, bu da onları yanlış bilgilerle dolu tamamen sahte bir gerçeklik algısına yönlendirmek ve antisosyal davranışları teşvik etmek anlamına gelse bile.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…