07:40:52

Gerçek Bilgileri Sağlamak İçin Ona Güvenmek Risklidir

Hatalarla dolu hukuki belgeler, iş yerinde yapay zekâ araçlarına güvenmenin sınırlarını gösteriyor. Dünyanın dört bir yanındaki hakimler, yapay zekâ yardımıyla oluşturulmuş, hatalarla dolu hukuki belgelerle karşı karşıya kalıyor…

Avukatlar ve mahkeme belgelerine göre, dünyanın dört bir yanındaki yargıçlar giderek büyüyen bir sorunla karşı karşıya: Yapay zekâ yardımıyla oluşturulan ve var olmayan davalara atıflar gibi hatalar içeren hukuki özetler.

Bu eğilim, iş yerinde yapay zekâ araçlarını kullanmayı öğrenenler için bir uyarı niteliğinde. Birçok işveren, araştırma yapmak ve rapor hazırlamak gibi görevlerde yardımcı olmak için bu teknolojiyi kullanabilen çalışanları işe almak istiyor. Öğretmenler, muhasebeciler ve pazarlama uzmanları, fikir üretmek ve verimliliği artırmak için yapay zekâ sohbet robotları ve asistanları kullanmaya başladıkça, bu programların da hata yapabileceğini keşfediyorlar.

Fransız veri bilimcisi ve avukat Damien Charlotin, son altı ayda en az 490 mahkeme dosyasını katalogladı. Bu dosyalarda, yanlış veya yanıltıcı bilgiler içeren yapay zekâ yanıtları olan “halüsinasyonlar" bulunuyordu. Daha fazla insan yapay zekâyı kullandıkça bu hız artıyor, dedi.

“Daha sofistike oyuncular bile bu konuda sorun yaşayabilir," dedi Charlotin. “Yapay zekâ bir nimet olabilir. Harika bir şey, ama aynı zamanda bazı tuzakları da var."

Fransa’nın başkenti Paris’in hemen dışında bulunan HEC Paris işletme okulunda kıdemli araştırma görevlisi olan Charlotin, bir yargıcın, üretken yapay zekânın uydurma içtihatlar ve yanlış alıntılar gibi halüsinasyonlu içerik ürettiğine karar verdiği davaları takip etmek için bir veritabanı oluşturdu. Kararların çoğu, davacıların avukat olmadan kendilerini temsil ettikleri ABD davalarından geliyor, dedi. Çoğu yargıç hatalar hakkında uyarıda bulunurken, bazıları para cezası verdi.

Ancak, tanınmış şirketler bile sorunlu yasal belgeler sunmuştur. Colorado’daki bir federal yargıç, MyPillow Inc. şirketinin avukatının, şirket ve kurucusu Michael Lindell aleyhine açılan bir hakaret davası kapsamında, yaklaşık 30 hatalı alıntı içeren bir dilekçe sunduğuna karar verdi.

YZ‘nın zaaflarıyla boğuşan tek meslek grubu hukukçular değil. Web arama sonuç sayfalarının üst kısmında görünen YZ özetleri sıklıkla hatalar içeriyor.

YZ araçları ayrıca gizlilik endişelerini de gündeme getiriyor. Tüm sektörlerdeki çalışanlar, işverenlerinin ve müşterilerinin gizli bilgilerini korumak için yükledikleri veya komut istemlerine girdikleri ayrıntılara dikkat etmelidir.

Hukuk ve işyeri uzmanları, YZ‘nın hatalarıyla ilgili deneyimlerini paylaşıyor ve kaçınılması gereken tehlikeleri anlatıyor.

YZ’yı bir asistan olarak düşünün
YZ‘ya sizin adınıza büyük kararlar vermesi için güvenmeyin. Bazı YZ kullanıcıları, bu aracı görevler verdiğiniz ve tamamladığı işleri kontrol etmeyi beklediğiniz bir stajyer olarak görüyor.

İşgücü gelişimine odaklanan kâr amacı gütmeyen bir kuruluş olan Jobs for the Future‘ın CEO’su Maria Flynn, “YZ’yı iş akışınızı geliştiren bir araç olarak düşünün" diyor. YZ, e-posta taslağı hazırlamak veya seyahat güzergahı araştırmak gibi görevlerde asistan görevi görebilir, ancak tüm işi yapabilecek bir yedek olarak düşünmeyin, diyor.

Flynn, bir toplantıya hazırlanırken şirket içi bir YZ aracını denedi ve ekiple paylaştığı bir makaleye dayalı olarak tartışma soruları önermesini istedi.

“Önerdiği bazı sorular bizim kuruluşumuz için gerçekten uygun değildi, bu yüzden ona bu konuda geri bildirimde bulundum… ve bana beş çok düşünceli soru ile geri döndü" dedi.

Doğruluğu kontrol edin
Flynn, halen pilot aşamasında olan YZ aracının çıktısında da sorunlar tespit etti. Bir keresinde, kuruluşunun çeşitli eyaletlerde yaptığı çalışmalarla ilgili bilgileri derlemesini istedi. Ancak YZ aracı, tamamlanmış çalışmaları ve finansman tekliflerini aynı şey olarak ele alıyordu.

Flynn, “Bu durumda, YZ aracımız önerilen bir şey ile tamamlanan bir şey arasındaki farkı ayırt edemedi" dedi.

Neyse ki, hataları fark edecek kurumsal bilgiye sahipti. Flynn, “Bir kuruluşta yeniyseniz, sonuçların doğru olup olmadığını iş arkadaşlarınıza sorun" önerisinde bulundu.

YZ beyin fırtınasına yardımcı olabilir, ancak gerçek bilgileri sağlamak için ona güvenmek risklidir. Bu adımı atlamak cazip gelse de, YZ‘nın ürettiği bilgilerin doğruluğunu kontrol etmek için zaman ayırın.

Atlanta merkezli avukat ve Baker Donelson hukuk firmasının hissedarı Justin Daniels, “İnsanlar, doğru ve uygun olduğu için çok makul geldiği için varsayımda bulunuyorlar" dedi. “Geri dönüp tüm alıntıları kontrol etmek zorunda kalmak veya YZ’nın özetlediği bir sözleşmeye baktığımda, geri dönüp sözleşmenin ne dediğini okumak zorunda kalmak biraz zahmetli ve zaman alıcı, ama yapmanız gereken bu. YZ’nın bunun yerine geçebileceğini düşünseniz de, geçemez."

Not tutanlara dikkat edin
Toplantılar sırasında YZ‘yı kullanarak kayıt yapmak ve not almak cazip gelebilir. Bazı araçlar, söylenenlere dayanarak yararlı özetler oluşturur ve eylem adımlarını özetler.

Ancak birçok yargı bölgesi, konuşmaları kaydetmeden önce katılımcıların rızasını gerektirir. YZ‘yı not almak için kullanmadan önce, bir duraklayın ve konuşmanın gizli ve mahrem tutulması gerekip gerekmediğini düşünün, diyor Chicago merkezli Fisher Phillips hukuk firmasının ortağı Danielle Kays.

Soruşturmalar, performans değerlendirmeleri veya yasal strateji tartışmaları gibi yüksek riskli durumlarda not tutucu kullanmadan önce hukuk veya insan kaynakları departmanlarındaki meslektaşlarınızla görüşün, diye önerdi.

Kays, “İnsanlar, YZ kullanımıyla çeşitli düzeylerde onay olması gerektiğini iddia ediyor ve bu konu mahkemelerde görüşülüyor," dedi. “Bu, şirketlerin dava süreci devam ederken takip etmeye devam etmesi gereken bir konu."

Gizli bilgilerin korunması
Memo veya pazarlama kampanyası hazırlamak için ücretsiz YZ araçları kullanıyorsanız, bu araçlara kimlik bilgilerinizi veya şirket sırlarınızı vermeyin. Bu bilgileri yüklediğinizde, aynı aracı kullanan diğer kişiler bu bilgileri bulabilir.

Flynn, diğer kişiler bir YZ aracına soru sorduğunda, bu araç yanıtını oluştururken sizin ifşa ettiğiniz ayrıntılar da dahil olmak üzere mevcut bilgileri arayacağını söyledi. “Bir şeyin kamuya açık mı yoksa özel mi olduğunu ayırt etmez" diye ekledi.

Eğitim alın
İşvereniniz YZ eğitimi sunmuyorsa, ChatGPT veya Microsoft Copilot gibi ücretsiz araçları deneyin. Bazı üniversiteler ve teknoloji şirketleri, YZ‘nın nasıl çalıştığını ve nasıl faydalı olabileceğini anlamanıza yardımcı olacak dersler sunmaktadır.

Flynn, insanlara en iyi YZ komutlarını nasıl oluşturacaklarını öğreten kurslar veya uygulama fırsatları sunan uygulamalı kursların çok değerli olduğunu söyledi.

Araçlarla ilgili potansiyel sorunlara rağmen, bunların nasıl çalıştığını öğrenmek, bu araçların her yerde kullanıldığı bir dönemde faydalı olabilir.

Flynn, “YZ kullanmayı öğrenirken karşılaşılabilecek en büyük potansiyel tuzak, onu hiç öğrenmemektir" dedi. “Hepimiz YZ konusunda akıcı hale gelmemiz gerekecek ve bu araca aşina olmanın, okuryazar olmanın ve rahat hissetmenin ilk adımlarını atmak çok önemli olacak."

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…