Mahkemelerde düzen! Mahkemelerde düzen! Bir mahkeme kararında yapay zeka (YZ) tarafından üretilmiş olabileceği düşünülen bir hata paniğe yol açtı. Bu durum, YZ'nin yakında hukuki mücadelelere karar vereceği korkusunu körüklüyor.
Georgia Temyiz Mahkemesi hakimi Jeff Watkins, üç hakimli bir heyetin, bir davada yapay zeka tarafından üretilen ve gerçek dışı görünen emsal kararlara dayanarak bir taraf lehine karar verdiği anlaşılan bir kararı bozduğunu açıkladı. Bu olay, bu alanda bilinen ilk karar olarak kayıtlara geçti.
Uzmanlar, hakimlerin mahkeme dosyalarındaki YZ kaynaklı yanlış bilgileri göz ardı etmesinin yaygınlaşabileceği konusunda uyarıyor. Özellikle yoğun iş yükü altındaki alt mahkemelerde bu riskin daha yüksek olduğu belirtiliyor. Şu ana kadar yalnızca iki eyalet, hakimlerin teknoloji yetkinliklerini artırmaları ve YZ'nin kırmızı çizgilerini tespit edip adalet sistemindeki aksaklıkları önleyebilmeleri için harekete geçti.
Son olarak iptal edilen karar, Georgia'daki bir boşanma davasıyla ilgiliydi. Hakim Watkins, kararın davalının avukatı Diana Lynch tarafından hazırlandığını belirtti. Pek çok mahkemede bu, hakimlerin iş yükünü azaltmak için avukatlardan alınan taslak kararlara güvenmesi yaygın bir uygulamadır. Ancak avukatların ve hukukçu olmayanların YZ'yi hukuki başvurularını hazırlamak ve araştırmak için giderek daha fazla kullanmasıyla, hakimlerin YZ tarafından üretilen yanlış emsal kararları dikkatle incelememesi durumunda sahte kararları onaylama riskiyle karşı karşıya kalıyor.
Yanlış kararın bir kısmı, karısı'nın başvurusunu reddetmek için "muhtemelen üretken yapay zeka tarafından uydurulan 'halüsinasyonlar'" olarak nitelendirilen 'iki sahte dava'ya dayanıyordu. Ayrıca karısı'nın başvurusuyla "hiçbir ilgisi olmayan" iki dava da kararda yer almıştı.
Karısı temyiz ettikten sonra Lynch'e 2.500 dolar para cezası verildi. Lynch tarafından hazırlandığı anlaşılan davalının cevabı da, "ya halüsinasyon olan" ya da ilgisiz olan 11 ek davayı içeriyordu. Watkins, Lynch'in temyiz için avukatlık ücreti talebini "yeni uydurma davalardan biri" ile desteklemesine ve bunun "yaraya tuz biber ektiğini" yazmasına daha da sinirlendi.
Endişe verici olan, hakimin sahte davaların YZ tarafından üretilip üretilmediğini teyit edememesi ve hatta Lynch'in bu sahte davaları mahkeme dosyalarına ekleyip eklemediğini belirleyememesi, mahkemelerin avukatları YZ kaynaklı yanlış bilgilerden sorumlu tutmasının ne kadar zor olabileceğini gösteriyor. Lynch, bu konudaki bir yorum talebine yanıt vermedi ve medyanın ilgisini çekmesinin ardından web sitesi yayından kaldırılmış görünüyor.
Ancak Watkins, "bu dosyalardaki tutarsızlıkların üretken YZ kullanılarak hazırlandığını düşündürdüğünü" belirtti ve "sahte kararların sunulmasından birçok zararın kaynaklandığı" konusunda uyardı. Aldatmacaın ortaya çıkarılması zaman ve para kaybına neden olabilir ve YZ'nin kötüye kullanılması, kişilerin en iyi argümanlarını sunmasını engelleyebilir. Sahte kararlar ayrıca hakimlerin ve mahkemelerin itibarına zarar verebilir ve adalet sisteminde "kötümserliği" teşvik edebilir. Watkins, kontrol altına alınmazsa, bu zararların "bir davacının kararın orijinalliği hakkında yanıltıcı bir şekilde şüphe belirterek bir mahkeme kararına uymamaya teşvik edilebileceği" bir geleceğe yol açabileceği konusunda uyardı.
Watkins, "Davalı Cevap Dilekçesinin neden sürekli olarak mevcut olmayan davalara atıfta bulunduğuna dair hiçbir bilgimiz yok ve sadece Cevap Dilekçesinin YZ tarafından hazırlanmış olabileceğini tahmin edebiliyoruz" diye yazdı.
Sonuç olarak, Watkins davayı geri gönderdi. Bunun kısmi nedeni, sahte davaların temyiz mahkemesinin karıyı daha önceki kararı geçersiz kılma başvurusunu yeterince incelemesini imkansız hale getirmesiydi. Ancak Georgia davasının sonucu ne olursa olsun, ilk karar, hakimlerin mahkemelerde YZ kötüye kullanımlarını yakalayamamaları konusundaki uyarıcı bir hikaye olarak hatırlanacaktır.
Hakimlerin YZ Yanlış Adımlarının Tekrarlanması "Korkutucu Derecede Olası"
Texas Beşinci Temyiz Mahkemesi'nin emekli hakimi ve şimdi Faulkner Üniversitesi'nde tam zamanlı hukuk profesörü olan John Browning, geçen yıl YZ kullanımının etik risklerini uyaran bir hukuk makalesi yayımladı. Makalede Browning, o noktadaki en büyük endişenin, avukatların "üretken YZ'yi, içerdiği bilgilerin doğruluğunu teyit etmeden veya kendi bağımsız mesleki muhakemelerini uygulamadan nihai taslak olarak kabul edecekleri" olduğunu vurguladı.
Bugün hakimler giderek daha fazla inceleme altına alınıyor ve Browning, Georgia boşanma davası gibi "bir ilçe mahkemesinin, bir avukatın önerilen bir karara dahil ettiği sahte dava atıflarını farkında olmadan dahil ettiği" veya hatta "gerçekler ve sonuçlar üzerine önerilen bulgular" gibi daha fazla dava göreceğimizin "korkutucu derecede olası" olduğunu düşünüyor.
Browning, "Böyle bir senaryoyu, ağır bir dava yükü olan ve bir dizi aile hukuku davası, diğer medeni davalar ve hatta ceza davaları da dahil olmak üzere önerilen kararlar üzerinde işbirliği içinde çalışmak için avukata başvuran ilçe mahkemelerinin olduğu birçok durumda hayal edebiliyorum" dedi.
Mahkeme liderlerini ve profesyonellerini temsil eden ve daha iyi yargı kaynakları için savunan kar amacı gütmeyen Ulusal Eyalet Mahkemeleri Merkezi'nden yapılan bir habere göre, ChatGPT gibi YZ araçları, yüksek hacimli davacıların ve avukat tutamayan temsil edilmeyen davacıların daha fazla dava açmasını kolaylaştırdı ve mahkemeleri daha da yavaşlatabilir.
Princeton Dil+Hukuk, Yapay Zeka ve Toplum (POLARIS) Laboratuvarı'nı yöneten araştırmacı Peter Henderson, Georgia boşanma davası gibi vakaların henüz her gün gerçekleşmediğini düşündüğünü söyledi.
Genellikle sahte davaların "ABD hukuk sisteminin rekabetçi doğası" yoluyla tespit edildiği için "birkaç halüsinasyonlu alıntı göz ardı ediliyor" olabileceğini belirtti. Browning ayrıca, ilçe mahkemesi hakimlerinin genel olarak "bir avukatın şüpheli bir otoriteye atıfta bulunduğunu veya mahkemeyi gerçek bir davanın ne söylediği veya ne anlama geldiği konusunda yanılttığını fark etmekte çok titiz" olduğunu da sözlerine ekledi.
Henderson, Browning'in "daha yüksek dava yüküne ve daha az rekabetçi sürece sahip mahkemelerde bunun daha sık olabileceği" konusunda hemfikir olduğunu belirtti. Ancak Henderson, temyiz mahkemesinin sahte davaları yakalamasının, rekabetçi sürecin çalıştığının bir örneği olduğunu vurguladı.
Bu durumda bu doğru olsa da, örneğin boşanma hukuki sürecinden bunalmış herhangi bir kişinin, yanlış kararları keşfetmek ve geçersiz kılmak için enerji veya kaynakları yoksa bir temyiz davası açmayabileceği düşünülüyor.
Hakimlerin YZ Yetkinliği Giderek Sorgulanıyor
Son yıllardaki tarihler, avukatların sahte YZ tarafından üretilmiş davalara atıfta bulunmak için para cezası, işten kovulma veya avukatlık lisansının askıya alınması riskiyle karşı karşıya kaldıklarını doğrulasa da, hakimler muhtemelen avukatların hatalarını yakalayamamaları veya hatta kendi görüşlerini araştırmak için YZ kullanmaları nedeniyle sadece utanç riskiyle karşı karşıya kalacaklar.
Ancak her hakim, YZ'yi uygun doğrulama olmadan benimsemeye hazır değil. Hukuk sistemini korumak için bazı hakimler YZ'yi yasakladı. Diğerleri ise bildirimler gerektirdi – bazıları hangi özel YZ aracının kullanıldığını bile talep etti – ancak bu çözüm her yerde yaygınlaşmadı.
Tüm mahkemeler bildirim gerektirse bile, Browning, YZ özellikleri popüler hukuk araçlarına giderek daha fazla gömüldüğü için, bildirimlerin mükemmel bir çözüm olmadığını belirtti. Browning, "bir gün avukatlardan her üretken YZ çıktısını doğrulamalarını istemek makul olmayabilir" dedi.
Browning'in makalesine göre, en olası senaryo, bir Michigan yargı etiği panelinin "YZ'nin artan kullanımıyla mahkemeleri için en iyi eylem planını belirleyecekleri" sonucuna varmasıdır. Ve emekli yargıç, YZ mahkeme sistemlerinde daha yaygın hale geldikçe, hem avukatlar hem de hakimler için eğitimin anahtar olacağını belirtti.
Yayınlanacak bir yazısında "YZ Hakimi" adını taşıyan Browning, okuyucuları YZ'nin henüz hukuki bir distopya yaratmadığı konusunda rahatlatmaya çalışıyor. Emekli yargıç, yakında YZ tarafından üretilmiş görüşler savuran "robot hakimlerle" karşılaşmamızın pek olası olmadığını belirtti.
Browning, buna engel olarak, en az iki eyaletin – Michigan ve Batı Virginia – "hakimlerin YZ söz konusu olduğunda 'teknolojiye yetkin' olmalarını gerektiren yargı etiği görüşleri yayımladığını" söyledi. Ve "diğer eyalet yüksek mahkemeleri YZ ile ilgili resmi politikalar benimsedi," diye ekledi, bu da hakimlerin YZ konusuna daha fazla eğilmesini zorluyor.
Bu arada, birçok eyalet bölgesel mahkeme sistemlerini izlemek ve YZ rehberliği yayınlamak üzere görev güçleri kurdu. Virginia ve Montana gibi eyaletler ise ceza adaleti kararlarında kullanılan YZ sistemleri için insan denetimi gerektiren yasalar çıkardı.
Hakimler Açık YZ Kırmızı Çizgilerini Tespit Etmeye Hazırlanmalı
Mahkemeler YZ ile nasıl başa çıkacaklarını çözene kadar – bu süreç mahkemeden mahkemeye farklılık gösterebilir – Browning, hakimler için YZ kullanımlarını ve yaklaşımlarını yönlendirmek için daha fazla eğitim ve etik rehberlik savunuyor. Bu, hakimlerin hem birçok YZ tuzağından habersiz olmalarını hem de YZ çıktılarında aşırı güven duymalarını önlemeye yardımcı olabilir, potansiyel olarak mahkemeleri YZ halüsinasyonlarından, önyargılardan ve insan incelemesi gerektiren sistemlerin gözünden kaçan ve mahkeme sistemini alt üst eden kanıt zorluklarından koruyabilir.
Hakimleri eğitmenin gözden kaçan bir parçası, ABD genelindeki mahkemelerde YZ'nin şimdiye kadarki etkisini ortaya çıkarmak olabilir. Henderson'ın ekibi, avukatların mahkemelerde en çok hangi modelleri kullandığını izleyen araştırmalar planlıyor. Bu, "bu modellerin mahkemeleri etkilemek için kullandığı potansiyel hukuki argümanları" ve hangi yargı müdahalelerinin gerekebileceğini ortaya çıkarabilir, dedi Henderson.
Henderson, "Önümüzdeki birkaç yıl içinde, bizim grubumuz POLARIS Laboratuvarı gibi araştırmacıların, YZ'nin sahip olacağı büyük etkiyi takip etmek ve müdahale yollarını anlamak için yeni yollar geliştirmesi gerekecek," dedi. "Örneğin, herhangi bir model belirli bir hukuki doktrin perspektifini birçok farklı vakada mı itiyor? Bunu yapmak için açıkça eğitildi mi veya talimatlandırıldı mı?"
Henderson ayrıca, "herkesin sahte YZ alıntılarını kontrol etmesini kolaylaştıracak açık, ücretsiz, merkezi bir dava hukuk deposu" da savunuyor. "Böyle bir depo ile, bizim gibi grupların alıntıları hızlı ve doğru bir şekilde doğrulayabilen araçlar oluşturmasını kolaylaştıracaktır," dedi. Bu, dava bilgilerini çeşitli ücret duvarları arkasında gizleyen mevcut merkezi olmayan mahkeme raporlama sisteminde önemli bir gelişme olabilir.
MIT'nin Yapay Zeka için Sorumlu Kullanımı Hukuk Görev Gücü eş başkanı Dazza Greenwood, yorum gönderecek zamanı olmadığını ancak tüm sahte YZ alıntılarının her zaman yakalanmasını sağlamak için yapısal bir müdahalenin gerekebileceğini öne sürdüğü bir LinkedIn başlığına atıfta bulundu.
Mahkemelerin, "karşı tarafların veya mahkemenin diğer memurlarının, ilk bildirdikleri hukuki dosyalarda atıfta bulunulan uydurma davalar için para cezası ödülü alacağı bir ödül sistemi yaratmasını" önerdi. Bu şekilde, avukatlar çalışmalarının "her zaman" kontrol edileceğini bilecekler ve bu da otomatik olarak YZ tarafından hazırlanmış belgeler sunuyorlarsa davranışlarını değiştirebilir. Bu da hakimlerin gözcü olarak hizmet etme baskısını hafifletebilir. Ayrıca çok maliyetli olmayacaktır – çoğunlukla avukatların cezalandırıldığı ücretlerin tam miktarını YZ tespit edenlere yeniden dağıtmak olacaktır.
Greenwood, bu tür yenilikçi çözümlerin gerekli olabileceğini öne sürdü. "Utanç ve yaptırımların" mahkemelerde YZ halüsinasyonlarını durdurmaya yetip yetmediği sorusuna yanıt olarak Greenwood, YZ hatalarını ortadan kaldırmanın zorunlu olduğunu çünkü "aksi takdirde genel olarak iyi avukatları ve aksi takdirde genel olarak iyi teknolojiyi kötü bir şekilde etkilediğini" söyledi. YZ'yi yasaklamaya veya avukatları askıya almaya devam etmek, davalar artarken mahkeme kaynaklarını azaltma riskini taşır, aksine sorunu doğrudan ele almak yerine.
Elbette, ödül sisteminin işe yarayacağının garantisi yok. Ancak "tedavilerinizin bireysel olarak kontrol edileceği ve uydurma alıntıların bildirileceği konusunda böyle kesin bir güvenin, bu köşeleri kesen avukatları köşeleri kesmemeleri gerektiğine ikna etmek için yeterli olup olmayacağını?"
Henderson'ın inşa etmek istediği bir sahte dava dedektörü yokluğunda, uzmanlar hakimlerin YZ halüsinasyonlu dosyaları yakalamak için not alabileceği açık kırmızı çizgilerin olduğunu söyledi.
Henderson, "123456" rakamını içeren herhangi bir dava numarası incelemeyi gerektirebilir," dedi. Browning de YZ'nin davaların yerlerini karıştırma eğiliminde olduğunu belirtti. "Örneğin, 'S.E. 2d' muhabirine sahip olduğu iddia edilen bir Teksas davasına atıfta bulunulması mantıksız olurdu, çünkü Teksas davaları Southwest Reporter'da bulunurdu," dedi Browning, bazı temyiz hakimlerinin zaten YZ'nin kötüye kullanımını yakalamak için bu kırmızı çizgiden yararlandığını belirtti.
Henderson'ın laboratuvarının yapmak istediği açık kaynaklı araçla bu kırmızı çizgilerin kontrol edilmesi belki daha kolay olurdu, ancak Browning, sohbet robotu kullanmış herkesin aşina olabileceği YZ kullanımının başka belirgin işaretleri olduğunu söyledi.
"Bazen bir kırmızı çizgi, halüsinasyonlu davadan alıntılanan dildir; eğer bazen YZ kullanımını ele veren yapay bir dil içeriyorsa, bu bir halüsinasyon olabilir," dedi Browning.
Hakimler Zaten YZ Destekli Kararlar Yayınlıyor
Birçok eyalet, mahkemelerde YZ kullanmanın risklerini ve faydalarını değerlendirmek için Greenwood'unki gibi görev güçleri kurdu. Georgia'da Georgia Yargı Konseyi Yapay Zeka ve Mahkemeler Komitesi'nin yapay zeka, erken Temmuz ayında "YZ kullanımının artmasıyla adalet sistemine olan kamu güvenini ve inancını korumaya yardımcı olmak için öneriler" sunan bir rapor yayımladı.
Komitenin önerilerini benimsemek, "uzun vadeli liderlik ve yönetim"; onaylanmış YZ araçları deposu, yargı profesyonelleri için eğitim ve öğretim; ve Georgia mahkemelerinde kullanılan YZ hakkında daha fazla şeffaflık sağlayabilir. Ancak komite, önerilerin uygulanmasının üç yıl süreceğini ve YZ kullanımının artmaya devam edeceğini öngörüyor.
Hakimlerin kendi başvurularını hazırlamak için YZ yardımcılarını kullanmaya başlamasıyla işleri daha da karmaşık hale getirebilecek olan komite, hakimlerin davranış kurallarının "önyargılı algoritmaların kasıtsız kullanımı, otomatik araçlara uygunsuz devir veya yargısal karar verme süreçlerinde YZ tarafından üretilen verilerin kötüye kullanılması"nı önlemek için değiştirilip değiştirilmeyeceğinin henüz erken olduğu sonucuna vardı. Bu, en azından şimdilik, YZ halüsinasyonlarının bir hakimi etkilediği düşünülen tek davanın bulunduğu Georgia'da davranış kurallarında herhangi bir değişiklik olmayacağı anlamına geliyor.
Özellikle komitenin raporu, mahkemelerin izleyebileceği rol modellerinin bulunmadığını doğruladı, çünkü "YZ teknolojilerinin yargı sistemleri tarafından benimsenmesiyle ilgili iyi yerleşmiş düzenleyici ortamlar yok." Artık feshedilmiş bir Texas YZ görev gücünün başkanlığını yapan Browning, rehberlik eksikliği olan hakimlerin hukuki hakları ezmemek için tetikte olmaları gerekeceğini söyledi. (Texas Eyalet Barosu sözcüsü, görev gücünün "sonuçlandığını" ve yeni bir Daimi Komite olan Gelişen Teknoloji Komitesi'nin oluşturulmasına yol açtığını ve yakında başlatılan bir YZ Araç Kiti'nde hakimler için genel ipuçları ve rehberlik sunduğunu söyledi.)
Browning, "YZ kullanımına ilişkin avukatların kendi görevleri olduğunu kesinlikle düşünsem de, hakimlerin de YZ kullanımı söz konusu olduğunda benzer bir sorumluluğu olduğuna inanıyorum" dedi.
Hakimler, sadece kendi adlarına dava açan davacılardan değil, aynı zamanda YZ kullanma olasılığı daha yüksek olan yeni nesil genç avukatlardan ve YZ taslaklarını kontrol edemedikleri için 5.000 dolara kadar para cezası alan deneyimli avukatlardan da YZ destekli başvuruları incelemeye devam edecekler, dedi Browning.
Yaklaşan "YZ Hakimi" makalesinde Browning, YZ'yi hem bir sigorta kapsamı sorununu içeren bir medeni dava hem de ceza belirleme kılavuzlarına odaklanan bir ceza davası için görüş hazırlamada "mini deney" olarak kullanan 11. Daire Temyiz Mahkemesi Hakimi Kevin Newsom gibi en az bir hakime işaret ediyor. Browning, hakimlerin egolarına hitap ederek karar verme süreçlerini geliştirmek ve potansiyel olarak mahkemelere olan kamu güvenini artırmak, zayıflatmak değil, bunun için çalışmaları için çağrıda bulunuyor.
Browning, "Bir hakimin karar vermesini destekleyebilecek teknolojik ilerlemeler ne olursa olsun, nihai sorumluluk her zaman etten ve kemikten olan hakime ve onun çok insani nitelikleri – hukuki akıl yürütme, empati, adalet duygusu ve etiklere olan sarsılmaz bağlılığı – uygulamasına ait olacaktır," diye yazdı. "Bu nitelikler hiçbir zaman bir YZ aracı tarafından tekrarlanamaz."
