Bir ABD mahkemesinde, davacı tarafı temsil eden hukuk firmalarına, yapay zeka tarafından üretilen sahte dava referansları sundukları için 31.100 dolar ceza verildi. Bu sahte bilgiler, neredeyse mahkeme kararına dahil olacaktı.
Davaya özel uzman olarak atanan hakim, başlangıçta referansların gerçek olduğunu düşündüğünü ve bu bilgileri kararına "neredeyse" eklediğini itiraf etti. Hakim, bazı referansların doğrulanamadığını fark etti ancak bu sahte bilgilerin karara ne kadar yakınlaştığını görünce endişelendi. Hakim, sundukları bilgilerin kendisini yanıltıcı olduğunu belirtti.
Hakim yazılı kararında şu ifadelere yer verdi: "Sundukları kısa metni okudum, alıntıladıkları kaynaklardan etkilendim (ya da en azından ilgimi çekti) ve haklarında daha fazla bilgi edinmek için kararları aradım - sadece var olmadıklarını gördüm. Bu korkutucu. Neredeyse daha da korkutucu bir sonuca (benim açımdan) yol açıyordu: Bu sahte materyalleri bir yargı kararına dahil etmek. Avukatların bu kolay kestirme yola başvurmasını engellemek için güçlü bir caydırıcılığa ihtiyaç var."
Hakim, yapay zekanın ürettiği sahte bilgilerin hukuksal temel açısından "tamamen yanlış olmasa da", bu durumun avukatların yapay zeka kullanımını haklı çıkarmadığını belirtti. "Buradaki davranış için oldukça zayıf bir 'zarar yok, hata yok' savunması" diye ekledi.
Ceza alan avukatlar, eski bir bölge savcısını bir sigorta şirketi aleyhine açtığı davada temsil ediyorlardı.
Hakimin tanımlamasına göre, davacı taraf "geniş bir avukat ekibi" tarafından temsil ediliyordu. Hakim, olayı "toplu bir fiyasko" olarak nitelendirdi.
Hakim kararında, "Bu hukuki davada Davacıyı temsil eden avukatlar, Özel Uzmana sahte yapay zeka tarafından üretilmiş araştırma içeren kısa metinler sundu" dedi. "Ek işlemler ve önemli düşünmenin ardından, bu suistimali ele almak için Davacıya karşı dava yaptırımları ile avukatlardan ve hukuk firmalarından mali ödemeleri birleştiren bir cezanın uygun olduğu sonucuna vardım."
Hakim, davacı tarafın "ek kısa metninin çok sayıda yanlış, hatalı ve yanıltıcı hukuki alıntı ve referans içerdiğini" tespit etti. On sayfalık metindeki yaklaşık 27 hukuki alıntının dokuzunun bir şekilde yanlış olduğu, en az iki alıntının ise hiç var olmadığı belirtildi. Ayrıca, alıntı yapılan yargı kararlarına atfedilen bazı ifadelerin de sahte olduğu ve materyalleri doğru şekilde yansıtmadığı ortaya çıktı.
Avukatların, bir avukatın ek kısa metin için bir "taslak" oluşturmak amacıyla çeşitli yapay zeka araçları kullandığını kabul ettikleri belirtildi. Bu taslak, sorunlu hukuki araştırmayı içeriyordu. Bu taslak, diğer avukatlara gönderildi ve metne dahil edildi. Görünüşe göre hiçbir avukat veya personel, metni Özel Uzmana sunmadan önce bu araştırmayı kontrol etmedi veya başka bir şekilde incelemedi. İlgili herkesin yeminli ifadelerine göre, diğer avukatlar taslağı hazırlayan avukatın yapay zeka kullandığını bilmiyorlardı ve sormadılar.
Hakim'in metnin ilk incelemesi sırasında iki alıntının doğruluğunu teyit edememesi üzerine avukatlara e-posta gönderildi. Avukatlar, bu iki yanlış alıntıyı çıkararak metni yeniden sundular - ancak metnin gövdesindeki kalan yapay zeka kaynaklı sorunlarla birlikte.
Hakim, iki hatanın "kasıtlı olmadan dahil edildiği" şeklindeki firmanın yanıtından tam olarak memnun kalmadı ve daha fazla detay istedi. Hakim, davacı avukatlarının yapay zeka kullandığını ve -iki başlangıçtaki hatanın ötesinde önemli ölçüde daha fazla uydurma alıntı ve referansla metni yeniden sunduklarını- ancak daha detaylı bir açıklama talep eden daha sonraki bir karar yayımlayana kadar keşfetmediğini belirtti. Avukatların yeminli ifadeleri ve daha sonra sunulan yapay zeka tarafından oluşturulmuş "taslak", yanlış sunumlara yol açan olaylar dizisini netleştirdi. Beyanlar ayrıca içten özürleri ve dürüst hata kabullerini içeriyordu.
Hakim, ilgili avukatların "topluca kötü niyetli sayılacak şekilde" davrandığını yazdı. Özellikle, bir avukatın yapay zeka ürünlerini açıklanmadan kullanmasını eleştirdi ve "makul ölçülerde yetkin hiçbir avukat, araştırmayı ve yazımı bu teknolojiye dış kaynak olarak aktarmamalıdır - özellikle de bu materyalin doğruluğunu doğrulama girişimi olmadan" dedi. Diğer avukatları da kendilerine gönderilen araştırmanın geçerliliğini kontrol etmedikleri için eleştirdi. Hakim, eylemlerin toplu olarak "anlaşmazlıktaki ayrıcalık konularındaki analizimi etkilemeye çalışma gibi uygunsuz bir amaçla dikkatsiz davranışı gösterdiğini" belirtti.
Hakimin uyguladığı yaptırımlar, davacının davasını etkiledi. Hakim, davacının ayrıcalık konusunda sunduğu ek kısa metinlerin hepsini geçersiz kıldı ve bunları dikkate almayı reddetti. Bu nedenle, sahte kısa metinlere yol açan süreçte davacının talep ettiği keşif yardımlarından (bir ayrıcalık logunu düzenleme, materyal üretme veya öğelerin yerinde incelenmesini talep etme) herhangi birini vermemeye karar verdi.
Hakim, hukuk firmalarının savunma tarafına, bir hakemlik ve arabuluculuk firmasına ödenen ücretleri (26.100 dolar) ve savunmanın diğer masraflarını (5.000 dolar) karşılamak üzere toplam 31.100 dolar ödemesine hükmetti. Hakim, avukatları bireysel olarak cezalandırmak yerine, cezayı firmalara uygulamayı seçti.
Hakim, kararında şunları yazdı: "Beyanlarında ve son duruşmamızda, [avukatların] sorumluluklarını kabul etmeleri tam, adil ve samimi olmuştur. Onların gerçek ve içten özürlerini de kabul ediyorum. Adalet, hataları yüzünden onları daha fazla yükleyerek hizmet etmeyecektir."
