07:45:59

Önümüzdeki ‘15 Yıllık Distopya’ İçin Uyarıda Bulundu

Eski bir Google yöneticisi, yakın geleceğimiz hakkında dünyaya sert bir uyarıda bulundu. Eski Google yöneticisi, bunun yapay zekâ değil, insanlığın kendisi nedeniyle olacağını söylüyor. Bu korkutucu bir ihtimal, ancak Mo Gawdat‘a göre, çok geçmeden distopik bir dünyada yaşayacağımız neredeyse kesin…

İnsanlar uzun zamandır teknolojinin ilerlemesi ve geliştirebileceği yetenekler konusunda endişeleniyorlar –Terminator veya Matrix filmlerinden herhangi birini izlemeniz yeterli.

Gawdat, şu anda X Development LLC olarak bilinen yarı gizli bir araştırma ve geliştirme kuruluşu olan Google X‘in baş işletme sorumlusuydu.

2007 yılında Google‘a katılmış ve orada yıllarca çalışmış olan Mısırlı girişimcinin teknoloji ve yapay zekâ hakkında fazla şey bildiğini söylemek yanlış olmaz.

Diary of a CEO programına konuk olan iş insanı, geleceğimiz hakkında pek olumlu şeyler söylemedi.

Google X‘in eski işletme müdürü Mo Gawdat, yapay zekânın istihdam yaratacağı fikrinin “%100 saçmalık" olduğunu söylüyor ve hatta “beceriksiz CEO’ların" kıyım bloğunda olduğu konusunda uyarıyor.

Teknoloji gurusu, AGI’nin her konuda çoğu insandan daha iyi olacağını öngörerek Google DeepMind CEO‘su Demis Hassabis ve OpenAI şefi Sam Altman‘ın görüşlerini tekrarlıyor. Sadece alanlarındaki en iyi çalışanlar “bir süreliğine" işlerini koruyacak ve hatta “kötü" hükûmet liderlerinin yerini robotların alabileceğini söylüyor.

Teknoloji devleri, yapay zekânın tüm hastalıkların tedavi edildiği, insanların bolluk içinde yaşadığı ve işçilerin “insanüstü" güçlere sahip olduğu insanlığın “altın çağını" başlatacağı konusunda ısrar etmeye devam ediyor. Ancak eski bir Google yöneticisi, teknolojinin bir iş katili olmayacağı ve aslında insanlar için yeni işler yaratacağı fikrini eleştirdi.

Sunucu Steven Bartlett ile konuşan Gawdat, “Önümüzdeki 12 ila 15 yıl içinde kısa vadeli bir distopya yaşayacağız. Bundan kaçış yok” dedi.

Bunun ne olabileceğini tanımlaması istendiğinde, bunların esasen “maalesef kontrolümüzün ötesine geçebilecek olumsuz koşullar” olduğunu söyledi.

Gawdat, “özgürlük, hesap verebilirlik, insan ilişkileri, eşitlik, ekonomi, gerçeklik, inovasyon, iş dünyası ve güç” gibi kavramların yeniden tanımlanabileceğini ve hatta “tamamen değişebileceğini” bile iddia etti.

Google X‘in eski işletme müdürü Mo Gawdat, geçtiğimiz günlerde The Diary of a CEO podcast’inde “Benim inancım bunun %100 saçmalık olduğu yönünde" dedi. “Herhangi bir işte en iyi olanlar kalacaktır. En iyi yazılım geliştiricisi, mimariyi gerçekten bilen, teknolojiyi tanıyan ve benzerleri bir süre daha kalacaktır."

Gawdat, yapay zekânın önümüzdeki 5 ila 15 yıl içinde bir istihdam kıyameti başlatacağına dair kırmızı bayrak sallayan liderler kervanına katıldı…

Ancak 30 yıl boyunca teknoloji sektöründe çalışan ve şu anda yapay zekâ geliştirme üzerine kitaplar yazan Gawdat, yöneticilerin verimlilik kazanımlarını çok erken kutlamamaları gerektiği konusunda uyardı.

Ancak şaşırtıcı bir şekilde, eski Google yöneticisi, genel halkın potansiyel yetenekleri hakkında haykırışlarına rağmen, bunun YZ ile hiçbir ilgisi olmadığını söylüyor.

“Bu, yapay zekânın yükseliş çağında insanlığın ahlâkı tarafından belirlenir” dedi.

Yapay zekâyı kullanan “kötü aktörlerin” ‘engellerini’ aşacağımızı açıklayarak, uzun vadede bir ütopya olacağına tamamen inandığını yineledi ve “çok yabancı bir dünyaya hazırlanmamız gerekeceğini” öne sürdü.

“CEO’lar artık insanlardan kurtulabileceklerini ve bu işi yapay zekâ yapabildiği için verimlilik artışı ve maliyet düşüşü elde edebileceklerini kutluyorlar. Düşünmedikleri tek şey, yapay zekânın onların da yerini alacağı" diye devam etti Gawdat. “Yapay zekâ, CEO olmak da dahil olmak üzere her konuda insanlardan daha iyi olacak. Gerçekten de çoğu beceriksiz CEO’nun değiştirileceği bir zamanın geleceğini hayal etmelisiniz."

Sadece robotlar tarafından yönetilen insansız şirketler vizyonu inanılmaz derecede distopik olsa da, eski Google yöneticisi ileride olacaklardan korkmuyor. 58 yaşındaki yönetici, yapay zekâyı iş kaybının sorumlusu olarak görmüyor; para hırsıyla yanıp tutuşan CEO’ların aslında finansal kazanç peşinde teknolojinin kontrolü ele geçirmesine izin verdikleri için suçlu olduklarını iddia ediyor.

Gawdat, “YZ’de kesinlikle yanlış bir şey yok -makinelerin yükseliş çağında insanlığın değer setinde çok fazla yanlış var" dedi. “Ve insanlığın en büyük değer kümesi bugün kapitalizmdir. Peki kapitalizm neyle ilgili? Emek arbitrajı."

“İnsanların gelişmesi için ‘kötü’ dünya liderlerinin yerini yapay zekânın alması gerekiyor"

Yapay zekâ bazı yetenekler söz konusu olduğunda şimdiden insanları geride bırakıyor -kod yazabiliyor, müşteri taleplerini çözebiliyor, idari işleri halledebiliyor ve hatta piyasa rakamlarını analiz edebiliyor. Gelecekteki yeteneklerinin nerede yattığını söylemek mümkün değil.

Google DeepMind CEO’su Demis Hassabis ve OpenAI başkanı Sam Altman gibi teknoloji liderleri, yapay zekânın 2030 yılına kadar en güçlü insanları bile geride bırakacağı konusunda kararlılar. Ve bu insanlık için iyi bir şey olabilir: Gawdat, insanların bu yeni çağda gelişebilmeleri için, ahlâksız şirket yöneticilerinin ve dünya liderlerinin yapay zekâ ile değiştirilmesi gerektiğini tavsiye etti.

Zararlı liderler teknolojiyi “insanın yapabileceği kötülüğü büyütmek" için kullanacağından, teknolojinin daha ahlâklı dünya liderleri yaratacağını ve yapay zekâ destekli politikacıların bu distopik senaryosunun “kaçınılmaz" olduğunu söyledi.

Gawdat podcast’te şöyle devam etti: “Daha iyi bir yere ulaşmamızın tek yolu, tepedeki kötü insanların yerini yapay zekânın almasıdır. “Dünya liderleri kendilerini yapay zekâ ile değiştirmek zorunda kalacaklar. Aksi takdirde avantajlarını kaybederler."

YZ’nin insanlığın geleceği üzerindeki etkisi konusunda alarm zilleri çalan tek kişi Gawdat değil. Altman ve Google başkanı Sundar Pichai, ister “büyük devletlerin" kuma bir çizgi çekmesi, ister potansiyel zararı denetlemek için üst düzey bir yönetişim organı oluşturulması olsun, YZ düzenlemesine duyulan ihtiyacı dile getirdiler.

Altman bir 2023 blog yazısında “Süper zekâ çalışmaları için eninde sonunda IAEA gibi bir şeye ihtiyacımız olacak" diye yazdı ve YZ projelerinin “sistemleri denetleyebilecek, denetimler gerektirebilecek, güvenlik standartlarına uygunluğu test edebilecek, dağıtım derecelerine ve güvenlik seviyelerine kısıtlamalar getirebilecek uluslararası bir otoriteyle" yüzleşmesi gerektiğini ekledi.

“Gelecekte süperzekâ (superintelligence) gibi çok güçlü yapay zekâ sistemlerini denetlemek için, tıpkı nükleer enerji denetimi için kurulmuş IAEA gibi uluslararası bir otoriteye ihtiyaç duyabiliriz."

(IAEA" ifadesi, doğrudan mevcut nükleer enerji denetleme kurumu olan Uluslararası Atom Enerjisi Ajansı’na (International Atomic Energy Agency) atıfta bulunuyor -ama mecazî bir biçimde benzetme yapılıyor.)

Bu, gerçek IAEA‘nın görev ve yapısını örnek alarak, aynı düzeyde küresel, bağımsız ve denetleyici bir kurumun yapay zekâ için kurulması gerektiği fikridir.

Gawdat, distopyanın süresini tam olarak 12 ila 15 yıl olarak tahmin ettiğini ve bu sürecin 2027’de başlayacağını söyledi.

“Gelecek yıl artan işaretler göreceğiz ve ardından 2027’de belirgin bir düşüş yaşayacağız” dedi ve bunun nedenini sorguluyor.

“Semptomları değil, bugün yaşadığımız dünyada yaşama nedenlerimizi derinlemesine düşünmelisiniz -bu neden para.”

Temel olarak, en kötüsüne hazırlanma zamanı geldi, ancak çevremizdeki değişiklikler çoktan başladığı ve bizler buna karşı duyarsızlaştığımız için çok da endişelenmeyebilirsiniz.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…