New Mexico Yüksek Mahkemesi, yapay zeka sohbet botu ChatGPT'yi kullanarak sahte tanık ifadeleri ve uydurma polis ifadeleri içeren bir dilekçe sunan bir avukata mahkemeyi yanıltmaktan doğrudan suçlu bulundu. Eyaletin en üst mahkemesi, avukatı disiplin kuruluna sevk etti ve kendisinin "pişmanlık ve müvekkiline karşı kayıtsızlık" sergilediği sonucuna vardı.
Avukatın, yapay zeka tarafından üretilen dilekçesindeki iddiaları ve yasal dayanakları imzalamadan ve mahkemeye sunmadan önce doğrulama yapmadığını ve müvekkiline bu durumu veya dilekçedeki birden fazla yanlış beyanı bildirmediğini kabul ettiği belirtildi.
New Mexico'da 40 yılı aşkın süredir ceza savunma avukatlığı yapan avukat, bir cinayet mahkumiyetini temyiz etmek üzere bir sanığın ailesi tarafından tutulmuştu. Davanın sanığı, ortağı ve çocuklarının annesi olan bir kişiyi öldürmekten suçlu bulunarak müebbet hapis cezasına çarptırılmıştı.
Yaklaşık bir yıl önce, avukatın sunduğu dilekçede sahte ifadeler ve diğer hatalar yer alıyordu. Birkaç hafta sonra ise New Mexico eyaleti, dilekçenin bazı kısımlarının reddedilmesi için bir başvuruda bulundu.
Mahkeme kararında, sanığın dilekçede Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury ve Teresa Marquez gibi tamamen uydurma tanıkların ifadelerinin yer aldığını kabul ettiği belirtildi.
Avukat, Duruşma Transkriptini ChatGPT'ye Yükledi
Avukatın ayrıca, Danny Stanton'ın tehdit aldığına dair sahte ifadesini, Linda Stanton'ın kocasının aldığı tehditlere ilişkin sahte ifadesini ve Mariah Chavez ile Teresa Marquez'in (uydurma tanık) silahlı saldırganın giysileri ve görünüşü hakkındaki sahte ifadelerini sunduğunu kabul ettiği ifade edildi. Ayrıca, daha önceki davalara yapılan atıflarda yasal dayanakları yanlış sunduğu da raporda yer aldı.
Birçok avukatın daha önce de dilekçelerde sahte davalar zikretmesi veya gerçek davaları yanlış tanımlamasıyla karşılaşıldı. Bu avukat sahte davalar zikretmemiş olsa da, gerçek davaları yanlış tanımlamış ve sahte ifadeler kullanmıştı.
Avukatın mahkemede, cinayet davasının bilgisayar tarafından üretilmiş transkriptini ve dosya ile ilgili diğer belgeleri ChatGPT'ye yüklediğini, bunun da sahte alıntılara yol açtığını söylediği belirtildi.
Avukatın, "Öğleden sonra bizi bir araya getiren şeyin aptallığım olduğunu bilmek pek teselli vermiyor" dediği duyuldu. Avukatın, duruşmada çağrılmayan bazı tanıkların ifadelerini alıntıladığını, çağrılan bir tanığın ise adını yanlış yazdığını ve daha önceki kararları yanlış tanımladığını kabul ettiği ifade edildi.
Avukatın, yapay zeka sohbet botunun o yılın başlarında piyasaya sürülen bir sürümünü kullandığını belirttiği ve yapay zeka kullanımının hukuk ve tıp alanlarında yaygın olması nedeniyle doğru olacağını varsaydığını dile getirdiği aktarıldı.
Avukat, disiplin kurulu soruşturması ve işlemlerinin sonucu beklenirken, New Mexico Yüksek Mahkemesi önünde görünmekten men edildi. Eyalet Barosu'nun Müvekkil Koruma Fonu'na ödemek üzere 5.000 dolar para cezasına çarptırıldı, ancak mahkemenin emrettiği disiplin işlemlerinden daha fazla ceza gelebileceği belirtildi.
Yüksek Mahkeme, kamu savunma ofisinin sanık için yeni bir avukat atamasını emretti, tüm önceki dilekçeleri kayıtlardan sildi ve davanın 2026-2027 döneminde devam edeceğini bildirdi.
Adalet Bakanı: "Kafanızı kuma gömdünüz"
Hakimler, geçen ayki duruşmada avukata sert eleştiriler yöneltti. Avukatın, yapay zekanın yanlış bilgi üretebileceğini bilmediğine şaşırdıklarını belirten hakimler, avukatların bilgilerin doğruluğunu nereden gelirse gelsin doğrulaması gerektiğini vurguladılar. Bir avukat, yapay zeka aracından, bir hukuk öğrencisinden veya başka bir meslektaşından yardım alsa bile, dilekçeyi imzalayan avukatın doğruluğunu onaylaması gerektiğini söylediler.
Hakim C. Shannon Bacon, avukata yönelik eleştirilerinde özellikle sertti. Avukatın, "davranış kurallarının en az sekiz veya dokuz maddesini ihlal ettiğini" belirtti. Bacon, avukatın yapay zeka halüsinasyonlarından habersiz olduğunu iddia etmesine "gerçekten zorlandığını" söyledi; zira 13 yaşındaki yeğeni ve 75 yaşındaki üvey annesinin bile bu sorundan haberdar olduğunu ekledi.
Bacon, avukata yönelik olarak, "Yani avukat, haberleri izliyor musunuz? Radyoyu dinliyor musunuz? Dünyada olup bitenler hakkında bir şeyler okuyor musunuz? Çünkü avukatların yapay zeka halüsinasyonlarına güvenmesinin sorunu her gün ana sayfada yer alan bir hikaye," dedi. "Yani ya kafanızı kuma gömmüşsünüz - ki bu da bir seçim, bilinçli bir bilgisiz olma seçimi - ya da bir kumar oynamışsınız ve her ikisi de davranış kurallarıyla tutarlı değil."
Avukat, dilekçeyi bir yıl önce sunduğunu ve "son bir yılda çok şeyin ortaya çıktığını" yanıtladı. Ancak, avukatların uydurma davalar içeren dilekçelerde yapay zeka kullanması sorununun üç yılı aşkın süredir düzenli olarak haberlerde yer aldığı belirtildi.
Avukat ayrıca, dilekçesinde zikrettiği davaların sahte olmadığını, ancak dilekçesinde onları yanlış tanımladığını ekledi. Bacon ise, gerçek bir davayı yanlış tanımlamak ile sahte bir davayı zikretmek arasında "maddi bir fark" olmadığını, çünkü mahkemeye karşı dürüstlük kurallarının her iki durumda da "eşit güçte" uygulandığını söyledi.
“Yapay Zekanın Gerçekleri Halüsinasyon Yoluyla Üretebileceğini Bilmiyordum”
Avukat, konuyla ilgili olarak bir açıklama yaptı. Açıklamada, ses dosyalarının yapay zeka tarafından transkripsiyonunu sağlayan bir hizmetle başladığını ve ardından bu transkripti ve diğer materyalleri ChatGPT'ye yüklediğini belirtti.
ChatGPT'ye yüklemeden önce transkriptin doğruluğunu teyit edip etmediği sorulduğunda, "Doğruladığımı sanıyorum" dedi. Sorunun transkriptte olmadığını, "Onu ve diğer tüm bilgileri" ChatGPT'ye yüklediğinde ortaya çıktığını söyledi. Avukat, transkriptin yanı sıra, "kayıtları, sorun beyanını ve bazı keşif bilgilerini" de ChatGPT'ye yüklediğini belirtti.
Avukat, mahkemenin yapay zeka kullanımına ilişkin uyumluluk sertifikası gerektiren kalıcı bir emir çıkararak başka avukatların da aynı hatayı yapmasını önleyecek adımlar atmasını umduğunu söyledi. Hakimler, avukatın bu önerisini, dilekçenin doğruluğunu teyit etmedeki başarısızlığı gibi ana sorundan uzaklaşma olarak değerlendirdi.
Bacon, "Bana, sizinle çalışan birinci sınıf bir avukatın işine güvendiğinizi ve onların uydurma bilgiler verdiğini varsayalım... ve siz de bunu imzaladınız. Şu anda içinde bulunduğunuz durumla aynı durumda olurdunuz" dedi. "Yani, mahkeme o zaman size 'dikkatli ol' demediği için, bu durum sizi yükümlülükten kurtarıyor fikri, tamamen sağır kalan kulaklara çalınıyor çünkü mesleki davranış kuralları size yükümlülüğünüzü zaten söylüyor."
“Müvekkiliniz Acı Çeken Kişi”
Bacon, "Yanıtınızda eksik olan diğer bir şey de bunun müvekkilinize ne yaptığına dair herhangi bir şey," diye devam etti. "Benim endişelendiğim kişi o. Mahkemeye güvenemeyeceğimiz bir dilekçe sundunuz ve sizin çekeceğinizden çok daha fazla acı çeken müvekkiliniz."
Baş Yargıç Julie Vargas da benzer şekilde avukata, "Bu duruşmadaki yaklaşımınız beni gerçekten ilgilendiriyor. Yıllardır yapay zeka ile ne yapacağımız konusunda düşündüğümüz tüm politikaları bize anlatıyor gibisiniz, ancak önümüzdeki durumu, yani gözaltında olan ve bu mesele çözülene kadar gözaltında kalacak bir ceza sanığı üzerinde önemli etkileri olan durumu ele almaktan bahsetmiyorsunuz. Ve şu anda politika endişeleri umurumda değil. Müvekkilinizle ne yapacağımız ve gösterdiğiniz davranışlara dayanarak bu durumda ne yapmamız gerektiği umurumda."
Yargıç Michael Vigil, bir avukatın yapay zeka yardımıyla hukuki bir argüman yazmasında bir sakınca olmadığını, yeter ki avukatın doğruluğunu doğruladığını söyledi. "Araç ne olursa olsun önemi yok. Yapay zeka tarafından üretilen programın ne kadar gelişmiş olduğunun veya hangi iyileştirmeleri yaptıklarının bir önemi yok," dedi. "Eğer dilekçeyi sunmadan önce işlerini kontrol etmediyseniz, C-öğrencisi bir avukat veya A-öğrencisi bir avukat kullanmanızın bir önemi yok. Sorun bu. Ve keşke buna odaklanacağınızı, sorumluluğunu üstleneceğinizi umuyorum."
Avukat, "Sorumluluk kabul etmiyormuşum gibi davrandığımdan umarım," diyerek yanıtladı. "Tek umudum, yaptığım hataların, yapay zekanın inanılmaz kapasitesi nedeniyle birilerinin ileride benim hatamı tekrarlamasını önleyebilmesidir."
Avukat, Müvekkiline ve Ailesine ChatGPT Kullanımını Bildirmedi
Bacon, avukatın bu sorunu müvekkiline bildirmemesini eleştirdi. Bacon'ın kendisine olayı anlatıp anlatmadığı sorulduğunda avukat, "Hayır, yapmadım. Kendisi İspanyolca konuşuyor ve bugün ne olacağını görmek istedim" dedi.
Avukat, Sandoval'ın erkek kardeşi ve kuzeni tarafından tutulduğunu ve onlara bir dilekçe ile ilgili bir sorun olduğunu söylediğini belirtti. "Sunduğum ilk dilekçe ile ilgili bir sorun olduğunu ve mahkemenin bunu incelediğini biliyorlar. Hepsi bu kadar," dedi.
Bacon, "ChatGPT'ye güvendiğimi ve mahkemeye yalanlar sunduğumu ve mahkemenin bana kızgın olduğunu ve şimdi bir duruşma olduğunu söylemediniz. Sanırım müvekkilinizin aile üyelerine bunu söylemediniz," diye yanıtladı.
Avukat, "ChatGPT hakkında konuşmadım," dedi. "Sadece sunduğum dilekçede bir sorun olduğunu söyledim." Bacon, avukata, müvekkilinin sorunun boyutunu bilmesi gerektiğini, böylece kendisinin onu temsil etmek için doğru kişi olup olmadığına dair bilinçli bir karar verebileceğini söyledi.
Bacon, avukata davayı kamu savunucusu sözleşmesiyle mi yoksa özel avukat olarak mı yürüttüğünü sordu. Avukat, özel avukat olarak tutulduğunu ancak henüz ödeme almadığını yanıtladı.
Bacon, "Bunun böyle olacağından emin değilim," diye yanıtladı.
