12:42:30

Yapay Zekâ İçin Alarm Zilleri

Bill Gates, yapay zekânın geleceğine ilişkin son değerlendirmelerinde önceki yıllardaki görece iyimser yaklaşımından belirgin biçimde uzaklaşarak çok daha sert bir tablo çiziyor. Gates’e göre yapay zekâ artık yalnızca verimliliği artıran, bazı meslekleri dönüştüren ve yeni iş alanları yaratan bir teknoloji olmaktan çıkıyor. Biyoloji, siber güvenlik ve iş gücü piyasası gibi kritik alanlarda, toplumların mevcut kurumları ve düzenlemeleriyle başa çıkmakta zorlanabileceği eşiklere hızla yaklaşılıyor…

Gates’in asıl endişesi teknolojinin gelişmesinden ziyade, bu gelişme hızının toplumların uyum sağlama kapasitesini aşması. Geçmişte teknolojik dönüşümlerin önemli ölçüde yönetilebilir olduğunu, kaybolan işlerin yerini zaman içinde yeni mesleklerin alabileceğini savunan Gates, bugün aynı iyimserliğin yapay zekâ için geçerli olmayabileceğini düşünüyor.

Bu değişimin merkezinde yapay zekânın önceki teknolojik devrimlerden farklı bir özelliği bulunuyor: Makineler artık yalnızca insanların fiziksel gücünü veya belirli mekanik becerilerini değil, doğrudan zihinsel faaliyetlerini de taklit edebiliyor. Üstelik bunu giderek daha hızlı, daha ucuz ve daha geniş bir ölçekte yapabiliyor.

Teknolojik Değişimin Hızı

Sanayi Devrimi sırasında makineler öncelikle fiziksel emeğin verimliliğini artırdı. Bilgisayarlaşma döneminde ise hesaplama, veri işleme ve büro işlerinin önemli bölümü otomatikleşti. Yapay zekâ ise bu iki dönüşümden farklı olarak karar verme, analiz, yazma, kodlama, araştırma ve iletişim gibi daha önce büyük ölçüde insanlara özgü kabul edilen faaliyetlerin içine giriyor.

Bu nedenle ortaya çıkan sorun yalnızca “Bazı meslekler ortadan kalkacak mı?” sorusundan ibaret değil. Daha büyük soru, aynı anda çok sayıda mesleğin temel görevlerinin otomatikleştirilmesi durumunda ekonominin bunu ne kadar hızlı absorbe edebileceği.

Gates’in kaygısı tam da burada ortaya çıkıyor. Serbest piyasanın yeni teknolojilere uyum sağlama konusunda önemli bir kapasitesi olduğunu kabul etmekle birlikte, piyasanın her zaman yeterince hızlı hareket edemeyebileceğini savunuyor. Yapay zekâdaki gelişme birkaç yıl içinde gerçekleşirken, insanların yeni beceriler edinmesi, eğitim sistemlerinin değişmesi, şirketlerin yeni iş modelleri oluşturması ve kamu politikalarının buna göre düzenlenmesi çok daha uzun sürebilir.

Bu iki hız arasındaki fark büyüdükçe ekonomik ve sosyal sorunların da derinleşmesi mümkün.

İnsan Emeğinin Geleceği

Gates’in en dikkat çekici öngörülerinden biri, yapay zekânın zaman içinde ekonomideki işlerin çok daha büyük bir bölümünü insanların elinden alabileceği yönünde.

Burada önemli olan, yapay zekânın bir gecede milyonlarca insanı işsiz bırakacağı şeklinde basit bir senaryo değil. Daha karmaşık ve uzun vadeli bir dönüşüm söz konusu. Yapay zekâ önce bazı görevleri otomatikleştirecek, ardından bu görevlerin bulunduğu işlerin sayısını azaltacak ve nihayetinde bazı mesleklerin bugünkü biçimleriyle ekonomik anlamını yitirmesine neden olabilecek.

Örneğin bir çalışanın yaptığı işin yüzde 20’sinin otomatikleştirilmesi başlangıçta yalnızca verimlilik artışı olarak görülebilir. Ancak aynı teknoloji yüzde 50, yüzde 70 veya yüzde 90 oranında otomasyon sağladığında şirketlerin aynı işi yapmak için eskisi kadar çalışana ihtiyaç duymaması kaçınılmaz hale gelebilir.

Bu noktada klasik ekonomik varsayım devreye giriyor: Teknoloji bazı işleri ortadan kaldırırken yeni işler yaratır.

Ancak yapay zekâ söz konusu olduğunda bunun otomatik olarak gerçekleşeceğinin garantisi bulunmuyor.

Yeni işlerin ortaya çıkması, kaybolan işlerin sayısı kadar hızlı olmayabilir. Dahası, yeni işlerin gerektirdiği beceriler ile işini kaybeden insanların sahip olduğu beceriler arasında büyük bir fark bulunabilir. Bir muhasebe çalışanının yapay zekâ nedeniyle işini kaybetmesi, aynı kişinin birkaç ay içinde yapay zekâ mühendisi veya veri bilimcisi olabileceği anlamına gelmiyor.

Dolayısıyla mesele yalnızca iş sayısı değil, iş gücü ile yeni ekonominin ihtiyaçları arasındaki uyum meselesi.

İnsanların Vazgeçilmez Olduğu Alanlar

Gates’in önerilerinden biri, bazı meslek ve faaliyet alanlarının yapay zekânın tamamen devralamayacağı veya en azından insan unsurunun korunacağı alanlar olarak belirlenmesi.

Özellikle bakım, eğitim ve ruh sağlığı gibi alanlar bu açıdan öne çıkıyor.

Bir hemşirenin veya bakıcının yaptığı iş yalnızca teknik görevlerden oluşmuyor. Hastaya dokunmak, onun korkusunu anlamak, yakınlarıyla iletişim kurmak ve beklenmedik durumlarda insani bir değerlendirme yapmak da işin parçası.

Benzer şekilde öğretmenlik yalnızca bilgi aktarmaktan ibaret değil. Öğrencinin motivasyonunu anlamak, sınıf dinamiklerini yönetmek, çocuğun davranışlarındaki değişiklikleri fark etmek ve gerektiğinde aileyle iletişim kurmak öğretmenliğin önemli unsurları.

Ruh sağlığı alanında ise insan ilişkilerinin niteliği daha da kritik hale geliyor. Bir yapay zekâ sistemi son derece gelişmiş psikolojik analizler yapabilse bile, insanın başka bir insanla kurduğu ilişkinin tamamını teknik bir probleme indirgemek mümkün olmayabilir.

Bu nedenle Gates’in yaklaşımı, “Yapay zekâ hiçbir şekilde kullanılmamalı” şeklinde değil. Tam tersine, bu alanlarda yapay zekânın yardımcı araç olarak kullanılabileceği, ancak insan unsurunun sistemin merkezinden çıkarılmaması gerektiği düşüncesine dayanıyor.

Yapay Zekâya Vergi Önerisi

Gates’in tartışmaya açtığı bir diğer konu ise yapay zekâ ve robotların ekonomik etkilerinin vergilendirilmesi.

Mantık oldukça basit: Bir şirket bir insan çalışanı istihdam ettiğinde ücret üzerinden gelir vergisi, sosyal güvenlik primi ve benzeri mali yükümlülüklerle karşılaşıyor. Buna karşılık aynı işin bir robot veya yapay zekâ sistemi tarafından yapılması durumunda bu istihdam maliyetlerinin önemli bir bölümü ortadan kalkabiliyor.

Bu durum şirketler açısından son derece cazip. Fakat toplum açısından bakıldığında başka bir problem yaratıyor. İş gücü üzerinden elde edilen vergi gelirleri azalırken sosyal destek, eğitim ve yeniden beceri kazandırma ihtiyacı artabilir.

Gates’in önerdiği yaklaşım, yapay zekâ hesaplama kapasitesi veya robot kullanımı üzerinden belirli vergiler alınarak bu dönüşümün toplumsal maliyetlerinin finanse edilmesi.

Bu tür bir verginin amacı teknolojiyi cezalandırmak değil, teknolojik dönüşümün oluşturduğu ekonomik avantaj ile toplumsal maliyet arasında bir denge kurmak.

Elde edilen kaynakların yeniden beceri kazandırma programlarına, eğitime ve insanların yeni ekonomik düzene uyum sağlamasına harcanması durumunda verginin bir tür geçiş mekanizması olarak çalışması mümkün olabilir.

Ancak burada ciddi bir tartışma da var. Yapay zekâ kullanımının aşırı vergilendirilmesi, şirketleri inovasyondan uzaklaştırabilir veya yatırımların daha az düzenlemeye sahip ülkelere kaymasına neden olabilir. Bu nedenle mesele yalnızca “YZ’ye vergi koyalım” kadar basit değil. Verginin nasıl hesaplanacağı, hangi şirketlerin kapsama gireceği ve teknolojik yatırımları ne ölçüde etkileyeceği kritik sorular.

Biyolojik Riskler

Gates’in endişeleri yalnızca istihdamla sınırlı değil.

Yapay zekânın biyoloji alanındaki gelişmeleri hızlandırması, önemli bilimsel fırsatların yanı sıra ciddi güvenlik riskleri de yaratabilir. Yapay zekâ sistemleri biyolojik verilerin analizini, protein tasarımını, ilaç geliştirme süreçlerini ve laboratuvar araştırmalarını hızlandırabilir.

Bu gelişmeler kanser, nadir hastalıklar veya enfeksiyon hastalıkları gibi alanlarda büyük kazanımlar sağlayabilir. Fakat aynı araçların kötü niyetli kişiler tarafından biyolojik tehditler oluşturmak için kullanılabilme ihtimali de bulunuyor.

Dolayısıyla yapay zekânın biyolojiyle kesiştiği nokta, klasik teknoloji politikalarının ötesine geçen bir güvenlik meselesi haline geliyor.

Gates bu nedenle biyoterörizm gibi aşırı risklerin yalnızca şirketlerin gönüllü güvenlik politikalarıyla yönetilemeyeceğini düşünüyor. Burada ulusal kurumların ve uluslararası mekanizmaların devreye girmesi gerektiğini savunuyor.

Siber Güvenlikte Yeni Cephe

Benzer bir sorun siber güvenlikte de ortaya çıkıyor.

Yapay zekâ saldırıların tespit edilmesini ve savunma sistemlerinin geliştirilmesini kolaylaştırabilir. Ancak aynı teknoloji saldırganların da daha hızlı hareket etmesini sağlayabilir.

Bugün bir siber saldırının hazırlanması için gereken teknik bilgi, zaman ve insan kaynağı belirli bir seviyede uzmanlık gerektiriyor. Yapay zekâ bu eşikleri düşürdükçe, daha az teknik bilgiye sahip kişilerin bile daha karmaşık saldırılar gerçekleştirme kapasitesi artabilir.

Üstelik yapay zekâ saldırganların yalnızca saldırı kodu üretmesine değil, hedefleri analiz etmesine, güvenlik açıklarını araştırmasına ve saldırı süreçlerini otomatikleştirmesine de yardımcı olabilir.

Bu nedenle yapay zekâ güvenliği, yalnızca modelin kendisinin güvenli olmasından ibaret değil. Modellerin gerçek dünyadaki kötüye kullanım ihtimali de dikkate alınmak zorunda.

Nükleer Silah Modeli

Gates’in önerdiği uluslararası denetim yaklaşımının en dikkat çekici taraflarından biri, bunu nükleer teknolojinin denetlenmesine benzer bir çerçevede düşünmesi.

Nükleer silahların ortaya çıkması, devletleri yalnızca ulusal düzenlemeler geliştirmeye değil, uluslararası anlaşmalar ve denetim mekanizmaları kurmaya da zorladı. Çünkü belirli teknolojilerin etkileri bir ülkenin sınırları içinde kalmıyor.

Yapay zekâ için de benzer bir durum söz konusu olabilir.

Bir ülkede geliştirilen son derece güçlü bir yapay zekâ sisteminin etkileri başka ülkelerde de hissedilebilir. Siber saldırılar sınır tanımıyor, biyolojik riskler ulusal sınırları aşabiliyor ve küresel iş gücü piyasaları birbirine bağlı durumda.

Bu nedenle yalnızca tek tek devletlerin kendi yasalarını çıkarması yeterli olmayabilir.

Uluslararası standartlar, bağımsız denetim kurumları, güvenlik protokolleri ve ülkeler arasında bilgi paylaşımı gibi mekanizmaların geliştirilmesi giderek daha önemli hale gelebilir.

Şirketlerin Denetimi Yeterli mi?

Gates’in en sert eleştirilerinden biri teknoloji şirketlerinin kendi kendilerini denetleme kapasitesine yönelik.

Şirketler elbette güvenlik ekipleri kurabilir, modellerini test edebilir ve risk değerlendirmeleri yapabilir. Ancak burada temel bir çıkar çatışması bulunuyor: Aynı şirket hem teknolojiyi geliştiren hem de piyasaya sürerek bundan ekonomik kazanç sağlayan aktör olduğunda, güvenlik ile ticari hız arasında gerilim oluşabilir.

Yapay zekâ yarışının giderek daha rekabetçi hale gelmesi bu problemi büyütebilir. Bir şirket daha güçlü bir modeli piyasaya sürerse rakiplerinin de benzer şekilde hareket etmesi gerekebilir. Böyle bir ortamda “ilk olma” baskısı, güvenlik testlerinin daha fazla zaman almasına rağmen şirketleri ürünü mümkün olduğunca hızlı piyasaya sürmeye itebilir.

Bu nedenle kamu denetiminin devreye girmesi gerektiği savunuluyor.

Buradaki amaç şirketlerin önünü tamamen kesmek değil. Tam tersine, hangi risklerin kabul edilebilir olduğu konusunda ortak bir çerçeve oluşturmak ve şirketlerin tek başına karar vermek zorunda kalmayacağı bir sistem kurmak.

En Büyük Tehlike Tepki

Gates’in uyarısının belki de en önemli bölümü burada ortaya çıkıyor.

Yapay zekânın yaratabileceği tehlikeler yalnızca teknolojinin kendisinden kaynaklanmıyor. Toplumun bu teknolojiye karşı geliştireceği tepki de başlı başına bir risk oluşturuyor.

Eğer insanlar yapay zekânın işlerini ellerinden aldığını, kişisel güvenliklerini tehdit ettiğini veya devletlerin ve şirketlerin bu teknoloji üzerinde yeterli kontrol sahibi olmadığını düşünmeye başlarsa, teknolojiye yönelik güçlü bir toplumsal tepki oluşabilir.

Bu tepki yalnızca belirli şirketlere veya ürünlere yönelik olmayabilir. Bilimsel araştırmalara, otomasyona ve yeni teknolojilerin tamamına karşı daha geniş bir güvensizliğe dönüşebilir.

Bu da yapay zekânın gerçekten faydalı olabileceği alanları olumsuz etkileyebilir.

Örneğin hastalıkların daha hızlı teşhis edilmesi, yeni ilaçların geliştirilmesi, bilimsel araştırmaların hızlandırılması veya iklim modellerinin daha iyi analiz edilmesi gibi alanlarda yapay zekânın sağlayabileceği faydalar oldukça büyük.

Ancak toplum teknolojiye güvenini kaybederse, bu faydaların önünü açacak yatırımlar ve düzenlemeler de siyasi baskı altında kalabilir.

Mesele Yapay Zekâ Değil

Gates’in yaklaşımını yalnızca “Yapay zekâ tehlikeli” şeklinde okumak eksik olur.

Asıl mesele, insanlığın şimdiye kadar geliştirdiği en güçlü teknolojilerden birinin hangi hızda, hangi sınırlar içinde ve kimin denetimi altında kullanılacağı.

Yapay zekânın tamamen durdurulması gerçekçi görünmüyor. Aynı şekilde teknolojinin kendi haline bırakılması da giderek daha zor savunulabilir hale geliyor.

Asıl ihtiyaç, inovasyon ile güvenlik arasında bir denge kurmak.

Bunun için bazı mesleklerde insan unsurunun korunması, iş gücünün dönüşüme hazırlanması, otomasyonun ekonomik etkilerinin yeniden değerlendirilmesi, yapay zekâ ve robotların vergilendirilmesi konusunda dengeli modeller geliştirilmesi ve biyolojik ve siber güvenlik alanlarında uluslararası denetim mekanizmalarının kurulması gündeme gelebilir.

Fakat bütün bunların ortak bir noktası var: Zaman.

Yapay zekâ geliştikçe karar vericilerin önünde daha az zaman kalıyor. Eğitim sistemlerinin dönüşmesi, yeni yasaların hazırlanması veya uluslararası anlaşmaların yapılması yıllar sürebilir. Buna karşılık yeni yapay zekâ modelleri aylar içinde çok daha gelişmiş hale gelebiliyor.

Gates’in önceki iyimserliğinden uzaklaşmasının temelinde de büyük ölçüde bu hız farkı yatıyor.

Sorun teknolojinin ilerlemesi değil; teknolojinin, toplumun onu yönetme kapasitesinden daha hızlı ilerlemesi.

Eğer hükûmetler, şirketler ve uluslararası kuruluşlar bu dönüşümün ekonomik ve güvenlik boyutlarını zamanında ele alabilirse yapay zekâ insanlık tarihinin en büyük üretkenlik sıçramalarından birine dönüşebilir. Aksi durumda ise aynı teknoloji, daha az iş, daha fazla ekonomik eşitsizlik, daha büyük güvenlik açıkları ve toplumda teknolojiye karşı ciddi bir güvensizlik yaratabilir.

Bu nedenle önümüzdeki dönemin asıl tartışması “Yapay zekâ insanları işsiz bırakacak mı?” sorusundan çok daha geniş olacak.

Asıl soru şu: İnsanlık, kendisinden çok daha hızlı gelişen bir teknolojiyi yönetebilecek kurumları ve kuralları zamanında oluşturabilecek mi?

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…