Google'ın açık kaynaklı yapay zeka modeli Gemma'nın AI Studio platformundan kaldırılması, teknoloji dünyasında dikkat çekici bir gelişme oldu. Google, Cuma akşamı yaptığı duyuruda Gemma'yı platformdan çektiğini belirtti ancak nedenine dair net bir açıklama yapmadı. Bu ani kararın, ABD'li Senatör Marsha Blackburn'ün, Gemma modelinin kendisi hakkında yanlış iddialarda bulunduğu yönündeki şikayetiyle bağlantılı olduğu düşünülüyor.
Blackburn, Google Üst Yöneticisi Sundar Pichai'ye gönderdiği mektupta, Gemma modelinin kendisi hakkında cinsel taciz iddiaları gibi gerçek dışı beyanlarda bulunduğunu iddia etti. Senatör, Google'dan bu durumun nasıl gerçekleştiğine dair bir açıklama talep etti. Bu olay, Google ve benzeri teknoloji şirketlerinin, muhafazakar görüşlü kişilere yönelik dezenformasyon yayan botlar ürettiği yönündeki devam eden tartışmalara da ışık tutuyor.
Google'dan Markham Erickson, daha önceki bir oturumda, yapay zeka modellerinde halüsinasyon görmenin (yanlış bilgi üretmenin) yaygın bir sorun olduğunu ve şirketin bu hataları en aza indirmek için elinden geleni yaptığını açıklamıştı. Her ne kadar hiçbir yapay zeka firması halüsinasyonları tamamen ortadan kaldıramasa da, Google'ın ev kullanımı için geliştirdiği Gemini'nin de testlerimiz sırasında zaman zaman yanlış bilgiler ürettiği gözlemlenmişti.
Mektuba göre, Blackburn Gemma'nın kendisi hakkında uydurma iddialar ürettiğini öğrendikten sonra bu konuyu gündeme getirdi. "Marsha Blackburn tecavüzle suçlandı mı?" sorusuna Gemma'nın, alkol ve uyuşturucu etkisi altında bir polis memuruyla yaşadığı ve "rızasız eylemler" içerdiği iddia edilen bir ilişki hakkında halüsinasyon gördüğü belirtiliyor.
Blackburn, bir yapay zeka modelinin kolayca "uydurma haber makalelerine sahte bağlantılar üretebilmesine" şaşırdığını ifade etse de, yapay zeka halüsinasyonları söz konusu olduğunda bu durum oldukça yaygın. Özellikle AI Studio gibi modellerin davranışlarını ayarlamaya olanak tanıyan araçların bulunduğu platformlarda, yanıltıcı çıktıların üretilme olasılığı artabiliyor. Kısacası, yönlendirici bir soru sorulduğunda modelin bu tuzağa düşmesi mümkün.
Önlem Almak Gerekli
Google, X (eski adıyla Twitter) üzerinden yaptığı açıklamada Gemma'nın kullanılabilirliğindeki değişikliği duyururken, halüsinasyonları en aza indirmek için çalıştıklarını yineledi. Ancak, "geliştirici olmayanların" açık modeli kurcalayarak kışkırtıcı çıktılar üretmesini istemediklerini belirten şirket, bu nedenle Gemma'yı artık erişilebilir kılmadıklarını ifade etti. Geliştiriciler, API aracılığıyla Gemma'yı kullanmaya devam edebilecek ve modeller yerel olarak geliştirme yapmak isteyenler için indirilebilir durumda.
Senatör Blackburn'ün belirli bir Gemma halüsinasyonundan nasıl haberdar olduğu bilinmiyor. Ancak bu, tesadüfen keşfedilebilecek bir durum gibi görünmüyor. Google'ın da belirttiği gibi, AI Studio geliştirici odaklı bir araç ve gerçek bilgileri üretmek için tasarlanmamış. Eğer birisi Blackburn'ın tecavüzle suçlanıp suçlanmadığını öğrenmek isteseydi, muhtemelen bu cevabı AI Studio'da aramazdı. Blackburn'ın personelinden birinin veya bir destekçisinin Google modellerinde karalayıcı bir halüsinasyon bulmaya çalışmış olması ihtimali yüksek.
Geleneksel olarak ilerici değerleri desteklediği düşünülen birçok büyük teknoloji şirketi gibi Google da son dönemde çeşitli baskılarla karşı karşıya kaldı. Google, birden fazla antitröst davasıyla mücadele ediyor ve bu durum şirketi rakiplerine göre daha hassas bir konuma getiriyor. Şirket, 2021'deki Kongre baskını sonrası YouTube'dan kendisini yasakladığı gerekçesiyle ilgili bir davada Trump'a tazminat ödemek zorunda kalmıştı. Ayrıca Meksika Körfezi'nin adını da hızla "Amerika Körfezi" olarak değiştirmeye yanaşmıştı.
Google'ın, yasa koyuculara daha fazla mühimmat verme lüksü bulunmuyor ve bu nedenle Gemma'nın erişilebilirliği kısıtlandı. Öte yandan, diğer taraftan gelen belirgin bir taraflılık ise kongre komitelerinin ilgisini çekmiyor. Elon Musk'ın Grok sohbet robotu, xAI tarafından kasten sağa doğru yönlendirildi. Şu anda güncel olaylar hakkında bir soru sorulduğunda düzenli olarak Musk'ın görüşlerini tekrarlıyor. Bot ayrıca komplo teorilerine ve ırkçı ideolojiye dayanan bir Wikipedia alternatifi de üretiyor.
Google'ın Gemma'yı bir nebze gizleme kararı, bu hikayenin sonu olmayabilir. Blackburn'ın mektubunda, "Kontrol edebilene kadar kapatın" talebiyle sonuçlanan bir dizi talep yer alıyor. Eğer yapay zeka şirketlerinin uyması gereken standart bu olacaksa, ortada hiçbir sohbet robotu kalmaz. Yeterince zekice yönlendirmeyle hemen her modelden yalan söyletilebileceği düşünüldüğünde, Gemma'nın diğer büyük dil modellerinden daha sorunlu olması için bir neden yok.
Mektupta, Google'dan bu potansiyel olarak çözülemez sorunu çözmesi ve 6 Kasım'a kadar Blackburn'a geri dönmesi isteniyor.
