Yapay zeka destekli sohbet botlarına aşırı güvenmenin, özellikle mezun olduktan sonra iş hayatına atılan kişilere pahalıya mal olabileceği görüldü.
Geçtiğimiz ay, henüz ruhsat almamış bir hukuk mezunu, mahkeme dosyası hazırlarken ChatGPT'den yardım aldığı için işinden oldu. Hazırlanan dosyanın yapay zeka tarafından uydurulan (hallucination) sahte yasal referanslarla dolu olduğu ortaya çıktı.
ABD'nin Utah eyaletindeki bir mahkeme, dosyada eyalette ilk kez karşılaşılan, yapay zekanın uydurduğu sahte bir atfın yanı sıra, "çok sayıda" yanlış alıntı yapılmış ve hatta "herhangi bir yasal veri tabanında bulunmayan (ve sadece ChatGPT'de olan)" en az bir vakanın yer aldığını tespit etmesi üzerine yaptırım kararı aldı.
Mahkeme, dosyayı hazırlayan ve sunan avukatların, bu sahte atıfları incelemek için mahkeme zamanı harcanmadan önce doğruluğunu teyit etmesi gerektiğini vurguladı.
Hakim, her avukatın mahkeme sunumlarının doğruluğunu inceleme ve sağlama konusunda devam eden bir görevi olduğunu belirterek, avukatların yapay zeka tarafından üretilen sahte emsal içeren bir dilekçe sunarak "denetim sorumluluklarını yerine getiremediklerini" ifade etti.
Sahte yasal atıflar, doğru bir inceleme süreci olsaydı kolayca fark edilebilirdi. Örneğin, sahte bir davanın (haberde ismi geçen vaka) ChatGPT'den özetlenmesi istendiğinde, sohbet botunun "bu dava, Utah Temyiz Mahkemesi'nde Royer ve Nelson adlı iki kişi arasındaki bir anlaşmazlığı içeriyor" dışında hiçbir ayrıntı sağlamaması, şüphe uyandırması gereken bir durumdu.
Hukuk bürosu, mahkemeden özür dileyerek ve durumu telafi etme sözü vererek, işten çıkarılan hukuk mezununun ruhsatsız olarak çalıştığını ve ChatGPT kullanımını kimseye bildirmediğini belirtti. Olay sırasında hukuk bürosunda yapay zeka kullanımına yönelik bir politika bulunmuyordu. Ancak bu keşfin ardından avukatlar, yeni bir politika oluşturulduğuna dair mahkemeye güvence verdi. Hukuk mezununun, uygunsuz yapay zeka kullanımını caydıracak "resmi veya gayri resmi" bir politika olmamasına rağmen işten çıkarıldığı doğrulandı.
Hakim, sahte atıfların karşı tarafın avukatlarına ve mahkemeye maliyet artışı gibi önemli zararlar verebileceğini, ayrıca müvekkillerin en iyi savunmadan mahrum kalmasına yol açabileceğini kaydetti. Ancak, yapay zeka kullanarak sahte yasal emsal sunarken yakalanan diğer avukatların aksine, bu avukatların sorumluluğu kabul ettiğini ve hatayı hızla çözmek için harekete geçtiğini belirtti. Sonuç olarak, avukatlardan biri karşı tarafın avukatlık ücretlerini ödemeye ve eyaletteki en savunmasız vatandaşlara düşük maliyetli hizmet sağlayan bir hukuki yardım kuruluşuna bağış yapmaya mahkum edildi.
Bu tür bir bağışın, hukuki yardıma erişimi olmayan savunmasız bireylere doğrudan yardımcı olduğunu belirten hukuki yardım kuruluşu temsilcisi, kuruluşun sorumlu yapay zeka kullanımını desteklediğini doğruladı.
Temsilci, kar amacı gütmeyen kuruluşların, en çok ihtiyacı olanlara daha iyi hizmet vermek için yapay zekayı hizmetlerine dahil ettiğini belirterek, ancak her avukatın, mahkeme dilekçelerinin yapay zeka tarafından üretilen sahte olanlar yerine gerçek, uygulanabilir dava hukukunu doğru bir şekilde alıntıladığından emin olmak gibi yasal ve profesyonel bir sorumluluğu olduğunu vurguladı. Her yeni teknolojide olduğu gibi, kullanıcıların da onu etik ve sorumlu bir şekilde kullanma sorumluluğu bulunmaktadır. Hizmet verilen savunmasız nüfus için adalet sisteminin bütünlüğü hayati önem taşımaktadır ve yeni araçlar tanıtıldıkça mahkemelerin adaleti ve doğruluğu korumaya devam edeceğinden emin olduklarını ekledi.
Öğrenciler ChatGPT'ye Fazla mı Güveniyor?
Bu olay, lisans mezunlarının henüz ruhsatsız olarak çalıştığı hukuk bürolarında bu tür dosyaların neden yeterince incelenmediği sorusunu da gündeme getirdi.
Hakim, hukuki mesleğin "bilgileri uydurma eğilimi nedeniyle yapay zekaya karşı dikkatli olması gerektiğini" uyardı. Mahkeme salonunda yapay zekanın artan kullanımına uyum sağlamanın getirdiği zorlukların, hukuk bürolarının yeni mezunları yapay zekanın bilinen kusurları hakkında eğitmesini de içermesi muhtemel görünüyor.
Görünüşe göre, hukuk bürolarının bu konuda yapacak çok işi var.
Üniversite öğretmenleri de kısa süre önce, öğrencilerinin yapay zekaya aşırı güvendiğini dile getirdi. Bir öğretmene göre, en zeki öğrenciler bile ChatGPT'nin "doğru kullanıldığında" iyi olduğunu iddia ediyor ancak "Peki doğru kullanımı nasıl oluyor?" sorusuna cevap veremiyorlar.
Aynı öğretmen, "Öğrencilerim artık düşünmüyor," dedi. "Bana ChatGPT'nin verdiği 'bilgileri' göstermeye çalışıyorlar. Onlara 'Bunun doğru olduğunu nereden biliyorsun?' diye sorduğumda, telefonlarını bana yaklaştırıp 'Bakın, burada yazıyor!' diye haykırıyorlar. Ne sorduğumu anlayamıyorlar. Bu durum hem onların adına kalbimi kırıyor hem de dürüstçe söylemek gerekirse ders vermeyi zorlaştırıyor."
