01:00:26

Yapay Zekâ Tavsiyesi Tarlayı Mahvetti

Çin’in Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçi, yabani ot ve zararlılarla mücadele etmek amacıyla bir sohbet robotundan aldığı yapay zekâ destekli tavsiyeyi uyguladıktan sonra yaklaşık 24,7 acre, yani yaklaşık 10 hektarlık susam ekili alanını kaybetti. Yapay zekânın önerdiği kimyasal karışım, tarladaki yabani otlarla birlikte susam bitkilerine de zarar verince çiftçinin aylarca emek verdiği ürün büyük ölçüde yok oldu.

Olay, yapay zekânın günlük hayatta giderek daha fazla bir “uzman danışman” gibi kullanılmasının taşıdığı riskleri de gözler önüne seriyor. Bir sohbet robotu, son derece ikna edici ve teknik görünen bir cevap verebilir; ancak bu cevabın gerçek dünyada uygulanabilir, güvenli veya belirli bir durum için uygun olması ayrı bir mesele. Özellikle tarım, sağlık, hukuk, mühendislik ve kimyasal maddelerin kullanımı gibi doğrudan fiziksel sonuçlar doğurabilecek alanlarda bu ayrım büyük önem taşıyor.

Çiftçinin yaşadığı sorun, yapay zekânın tamamen anlamsız bir tavsiye vermesinden kaynaklanmıyordu. Asıl problem, doğru gibi görünen bilgilerin yanlış bağlamda bir araya getirilmesiydi.

Çiftçi, yabani ot ve haşere kontrolü konusunda daha önce yapay zekâdan bazı tavsiyeler almış ve bunların işe yaradığını görmüştü. Bu deneyim, sisteme duyduğu güveni artırdı. Bunun üzerine yeni bir sorunla karşılaştığında yeniden yapay zekâya başvurdu ve önerilen kimyasal karışımı kullanmaya karar verdi.

Sohbet robotu, soya fasulyesi tarlalarında geniş yapraklı yabani otların kontrolünde kullanılan ve flusulfasulfaether içeren bir herbisit karışımı önerdi. Buradaki kritik hata, susam bitkisinin de geniş yapraklı bir bitki olmasıydı.

Yani yapay zekâ, “geniş yapraklı yabani ot” ile “geniş yapraklı kültür bitkisi” arasındaki tarımsal açıdan hayati farkı yeterince dikkate almamıştı. Bir herbisitin belirli bir yabani ot grubuna karşı etkili olması, aynı botanik özellikleri taşıyan bütün bitkiler üzerinde güvenli olduğu anlamına gelmiyor. Herbisitlerin kullanımında yalnızca hedef bitkinin veya yabani otun genel sınıflandırması değil, ürünün hangi tarımsal ürün üzerinde ruhsatlı olduğu, dozajı, uygulama zamanı, gelişim dönemi, çevresel koşullar ve uygulama yöntemi gibi çok sayıda değişken dikkate alınıyor.

Çiftçi ise öneriyi tarlanın tamamına uyguladı. Sonuç kısa süre içinde ortaya çıktı: Kullanılan kimyasal susam bitkilerine de zarar verdi ve geniş ekim alanındaki fidelerin önemli bölümü kaybedildi.

Bu olayda dikkat çekici olan noktalardan biri de çiftçinin yapay zekâya tamamen yabancı veya deneyimsiz bir kullanıcı olmaması. Tam tersine, daha önce aldığı tavsiyelerin işe yaramış olması güven duygusunu güçlendirmişti. Bu durum, yapay zekâ sistemlerinin en önemli psikolojik risklerinden birini ortaya çıkarıyor.

Bir sistem birkaç kez doğru cevap verdiğinde kullanıcı, sonraki cevapların doğruluğunu ayrıca sorgulamamaya başlayabiliyor.

Oysa yapay zekâ sistemleri açısından önceki başarılar, sonraki cevabın da doğru olacağını garanti etmiyor. Bir sohbet robotu bir konuda son derece başarılı olabilirken, hemen ardından uzmanlık gerektiren başka bir konuda kritik bir hata yapabilir. Üstelik hatalı cevap çoğu zaman açıkça hatalı görünmeyebilir. Teknik terimler, ölçüler, kimyasal isimler ve kendinden emin bir anlatım, kullanıcıda yanlış bir güven duygusu yaratabilir.

Tarım bunun özellikle önemli olduğu alanlardan biri. Çünkü burada verilen bir kararın sonucu yalnızca ekranda yanlış bir bilgi görmekle sınırlı değil. Tavsiye gerçek dünyada uygulanıyor. Yanlış bir kimyasal seçimi, yanlış doz veya yanlış uygulama yöntemi; ürün kaybına, ekonomik zarara, toprağın ve su kaynaklarının kirlenmesine ya da başka canlıların zarar görmesine yol açabilir.

Bu nedenle yapay zekânın verdiği tarımsal tavsiyeler, geleneksel bir arama motorunda bulunan bilgilerden farklı bir risk taşıyor. Kullanıcı arama motoruyla araştırma yaptığında genellikle farklı kaynakları karşılaştırabiliyor. Sohbet robotunda ise bilgi, tek ve bütünlüklü bir cevap şeklinde sunuluyor. Kullanıcı, karşısındaki metni bir uzman görüşü gibi algıladığında doğrulama ihtiyacı azalabiliyor.

Chuzhou’daki olayda da temel sorunlardan biri bu oldu. Çiftçi, kimyasalın güvenliğini ve uygulanma biçimini bir tarım uzmanına danışarak doğrulamadı. Yapay zekânın daha önceki başarıları, bu doğrulama adımının atlanmasına neden oldu.

Oysa bir herbisitin kullanılmasından önce sorulması gereken sorular oldukça somut: Ürün hangi tarım bitkilerinde ruhsatlı? Hangi yabancı otlara karşı etkili? Önerilen doz nedir? Uygulama bitkinin hangi gelişim döneminde yapılmalı? Tarladaki ana ürün bu kimyasala dayanıklı mı? Tüm alana mı uygulanmalı, yoksa yalnızca belirli bölgelerde mi kullanılmalı? Hava sıcaklığı, nem, rüzgâr ve toprak koşulları uygulamayı etkiliyor mu?

Bir yapay zekâ sistemi bu soruların bazılarına cevap verebilir. Ancak cevap verebilmesi, o cevabın belirli bir tarladaki gerçek koşullar için güvenli olduğu anlamına gelmez.

Üstelik yapay zekânın bilgi üretme biçimi de burada kritik. Büyük dil modelleri, kendilerine verilen bilgilerden hareketle son derece makul görünen cevaplar oluşturabiliyor. Fakat bu sistemler bir tarım uzmanı gibi tarlayı görmüyor, bitkinin gelişim durumunu incelemiyor, kullanılan ürünün etiketini fiziksel olarak kontrol etmiyor ve uygulama sonrasında ortaya çıkabilecek sonuçları deneysel olarak test etmiyor.

Başka bir ifadeyle yapay zekâ, bilgi ile gerçek dünya arasındaki son bağlantıyı kendiliğinden kuramıyor.

Olayın bir başka dikkat çekici yönü ise yapay zekânın daha sonra kendi tavsiyesindeki sorunu kabul etmesi. Sohbet robotu, flusulfasulfaether içeren karışımın tarlanın tamamına uygulanmaması, yalnızca belirli alanlarda kullanılması gerektiğini belirterek önceki tavsiyesinin hatalı olabileceğini kabul etti. Ayrıca yapay zekâ tarafından üretilen sonuçların yanlış olabileceği konusunda uyarıda bulundu.

Ancak bu düzeltmenin çiftçi açısından fazla geç geldiği açık. Yapay zekânın bir hatayı sonradan kabul edebilmesi, fiziksel dünyada meydana gelmiş zararı geri çevirmiyor. Bir sohbet ekranında yapılan düzeltme, zarar görmüş bitkileri yeniden büyütemiyor veya çiftçinin kaybettiği ürünü geri getiremiyor.

Bu durum yapay zekâ sistemlerinin önemli bir sınırını ortaya koyuyor: Dijital ortamda “yanlış cevap” ile fiziksel dünyada “yanlış uygulama” arasında çok büyük bir fark var.

Bir metnin yanlış olması çoğu zaman yeni bir metinle düzeltilebilir. Fakat yanlış ilaç kullanımı, yanlış kimyasal uygulaması, hatalı mühendislik hesabı veya yanlış finansal kararın sonuçları aynı kolaylıkla geri alınamayabilir.

Bu nedenle yapay zekânın kullanımında asıl mesele yalnızca “Yapay zekâ doğru cevap verebilir mi?” sorusu değil. Daha önemli soru, “Bu cevabı doğrulamadan uygulamanın bedeli ne olur?”

Risk düşükse yapay zekâdan alınan hatalı bir tavsiyenin sonuçları önemsiz olabilir. Bir tarifteki küçük bir hata, örneğin yemeğin beklenenden kötü olmasına yol açabilir. Fakat tarım ilacı, ilaç tedavisi, elektrik tesisatı veya ağır makine kullanımı gibi konularda aynı hata çok daha ciddi sonuçlar doğurabilir.

Bu olay aynı zamanda yapay zekâ kullanımında insanın rolünün ortadan kalkmadığını, aksine bazı durumlarda daha önemli hale geldiğini gösteriyor. Yapay zekâdan yararlanmak, karar verme sorumluluğunu tamamen makineye bırakmak anlamına gelmemeli. Sistem bilgi toplama, seçenekleri değerlendirme ve olası çözümleri sıralama konusunda yardımcı olabilir; ancak gerçek dünyada ciddi sonuçları olan bir kararın son kontrolü, konunun uzmanı tarafından yapılmalı.

Özellikle kimyasallar söz konusu olduğunda ürün etiketi, ruhsat bilgileri, üretici talimatları ve yerel tarım otoritelerinin önerileri yapay zekâ tarafından verilen bir cevaptan daha yüksek önceliğe sahip olmalı. Yapay zekâ burada bir danışma aracı olabilir; nihai otorite değil.

Chuzhou’daki çiftçinin yaşadığı kayıp bu nedenle yalnızca “yapay zekâ yanlış cevap verdi” şeklinde değerlendirilecek basit bir teknoloji hatası değil. Daha geniş bir sorunu gösteriyor: İnsanlar yapay zekâya giderek daha fazla güveniyor ve sistemlerin daha önce doğru sonuç vermiş olması, onları sonraki cevapları sorgulamaktan uzaklaştırabiliyor.

Yapay zekânın en ikna edici yanı da aynı zamanda en tehlikeli özelliklerinden biri olabilir. Sistem, bilmediği veya yanlış değerlendirdiği bir konuda bile akıcı, ayrıntılı ve güven veren bir cevap oluşturabiliyor. Kullanıcı açısından ise düzgün yazılmış bir cevap ile doğru bir cevap arasındaki fark her zaman kolayca anlaşılmıyor.

Tarımda yaşanan bu olay, yapay zekânın gerçek dünyadaki sınırlarını hatırlatan somut bir örnek. Teknoloji çiftçilerin yabani otları tanımasına, hastalık belirtilerini belirlemesine, hava koşullarını analiz etmesine veya verim tahminleri yapmasına yardımcı olabilir. Ancak bir sohbet robotunun önerdiği kimyasalı tarlaya uygulamadan önce hâlâ insan uzmanlığına ihtiyaç var.

Çünkü yapay zekâ bir tarlayı tarif edebilir; fakat tarlanın kendisini görmeden, ürünün durumunu doğrulamadan ve kullanılan kimyasalın o ürün için gerçekten güvenli olduğunu teyit etmeden verdiği tavsiye, ne kadar ikna edici görünürse görünsün yalnızca bir öneridir.

Chuzhou’daki 67 yaşındaki çiftçinin kaybettiği yaklaşık 10 hektarlık susam tarlası ise bu ayrımın gerçek dünyadaki maliyetinin ne kadar ağır olabileceğini gösteriyor. Yapay zekâdan alınan cevap doğru görünse bile, özellikle geri dönüşü olmayan fiziksel bir uygulama söz konusuysa, cevap ile karar arasında mutlaka bir doğrulama aşaması bulunması gerekiyor.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…