Elon Musk'ın liderliğindeki sosyal medya platformu X, "Topluluk Notları" sistemiyle aslında sosyal medya teyitçiliğinde devrim niteliğinde bir adım atmıştı. Bu sistem, X gönderilerinin güvenilir olup olmadığına dair farklı görüşleri kitle kaynak kullanımıyla toplamayı sağladı.
Ancak şimdi, platform yapay zekanın Topluluk Notları yazmasına izin vermeyi planlıyor ve bu durum, X kullanıcılarının teyit sistemine duyduğu güveni potansiyel olarak zedeleyebilir – ki X de bunu tamamen kabul ediyor.
Yayınladığı bir araştırma makalesinde, X bu girişimi bir "yükseltme" olarak tanımlarken, yapay zeka destekli Topluluk Notları ile nelerin yanlış gidebileceğini de detaylarıyla açıkladı.
İdeal bir senaryoda, X, yapay zeka ajanlarının yanlış gönderilere eklenen Topluluk Notlarının hızını ve sayısını artırarak platform genelindeki teyit çabalarını hızlandıracağını belirtiyor. Her yapay zeka tarafından yazılan not, bir insan gözden geçirici tarafından derecelendirilecek ve bu geri bildirim döngüsü uzadıkça yapay zeka ajanının not yazma konusunda daha iyi hale gelmesi sağlanacak. Yapay zeka ajanları not yazmada geliştikçe, insan gözden geçiricilere, yapay zekanın hızla ele alamayacağı, niş uzmanlık veya sosyal farkındalık gerektiren gönderiler gibi daha incelikli teyit işlerine odaklanma fırsatı kalacak. X'in makalesine göre, her şey yolunda giderse, insan ve yapay zeka gözden geçiriciler birlikte sadece X'in teyit sistemini değil, aynı zamanda "kamusal bilginin üretiminde yeni bir insan-yapay zeka işbirliği biçimi için bir plan" sunabilir.
Ancak, temel sorulardan biri hala büyük bir muamma: X, yapay zeka tarafından yazılan notların insan notları kadar doğru olup olmayacağından emin değil. Bunu daha da karmaşık hale getiren şey ise, yapay zeka ajanlarının "ikna edici ancak yanlış notlar" üretebileceği ihtimali. Zira yapay zeka, "ikna edici, duygusal olarak yankı uyandıran ve görünüşte tarafsız notlar oluşturmada son derece yetenekli." Bu durum, geri bildirim döngüsünü bozabilir, Topluluk Notlarının değerini düşürebilir ve tüm sistemi zamanla daha az güvenilir hale getirebilir, diye uyardı X'in araştırma makalesi.
Makale, "Yardımcı bulunanlık oranı doğrulukla tam olarak ilişkili değilse, o zaman son derece cilalı ama yanıltıcı notların onay eşiğini geçme olasılığı daha yüksek olabilir" dedi. "Bu risk, büyük dil modelleri (LLM) geliştikçe artabilir; sadece ikna edici yazmakla kalmayacak, aynı zamanda neredeyse her iddia için, doğruluğuna bakılmaksızın, görünüşte sağlam bir kanıt bütünü araştırıp oluşturabilecekler, bu da insan derecelendiricilerin aldatmacayı veya hataları tespit etmesini daha da zorlaştıracak."
X, yapay zeka planları nedeniyle şimdiden eleştirilerle karşı karşıya. Bazı eleştirmenler, X'in 600 milyondan fazla kullanıcısı olan bir platformda "insanların gördüklerini ve güvenmeye karar verdiklerini endüstriyel manipülasyona" izin verebilecek bir sistem inşa etmekle suçladılar. Uzmanlar, yapay zeka notlarının X'te "yalanların ve komplo teorilerinin" yayılmasını artırma riski taşıdığını iddia ediyorlar.
Yapay zeka sohbet robotlarının genellikle nüans ve bağlam konusunda zorlandığını, ancak doğru olmasa bile ikna edici görünen cevapları güvenle sunmada iyi olduğunu belirten uzmanlar, platform tarafından etkili bir şekilde ele alınmazsa bunun tehlikeli bir kombinasyon olabileceğini vurguluyorlar.
İşleri karmaşıklaştıran bir diğer faktör de şu: X'in Topluluk Notları hesabı, herkesin herhangi bir teknolojiyi kullanarak yapay zeka ajanı oluşturabileceğini ve Topluluk Notları yazabileceğini açıkladı. Bu da bazı yapay zeka ajanlarının diğerlerinden daha önyargılı veya hatalı olabileceği anlamına geliyor.
Eğer bu distopik senaryo gerçekleşirse, X insan yazarların not yazmaktan sıkılabileceğini, böylece Topluluk Notlarını başlangıçta bu kadar güvenilir kılan görüş çeşitliliğinin tehdit altına gireceğini tahmin ediyor.
Ve not yazmaya devam eden insan yazarlar ve gözden geçiriciler için, yapay zeka tarafından yazılan notların yoğun hacmi onları aşırı yükleyebilir. İngiliz bir teyit kuruluşu, X'in "insan gözden geçiriciler üzerindeki zaten önemli yükü daha da artırma ve notların insan girdisinin sağladığı dikkatli değerlendirme olmaksızın tamamen yapay zeka tarafından taslak haline getirilip, gözden geçirilip yayınlanabileceği endişe verici ve olası bir duruma kapı açma" riski taşıdığını belirtti.
X, "insan derecelendirme kapasitesinin yeterince ölçeklenebileceğinden" emin olmak için daha fazla araştırma planlıyor, ancak bu bilmeceyi çözemezse, "en samimi kritik notların etkisinin" seyreltilme riski olduğunu biliyor.
Araştırmacılar, bu "darboğaz" için olası bir çözümün, insan gözden geçirme sürecini kaldırmak ve yapay zeka tarafından yazılan notları, insan derecelendiricilerin daha önce onayladığı "benzer bağlamlarda" uygulamak olduğunu belirtti. Ancak bunun en büyük potansiyel sakıncası açık: İnsanların ihtiyaç duymadığını düşündüğü gönderilere notları otomatik olarak eşleştirmek, sisteme olan güveni önemli ölçüde zayıflatabilir, diye kabul etti X'in makalesi.
Nihayetinde, X'teki yapay zeka not yazarlarının "hatalı" bir araç olarak değerlendirilebileceğini kabul eden araştırmacılar, bunu öğrenmek için testlere devam ediyor.
Yapay Zeka Destekli Notlar Bu Ay Yayınlanmaya Başlıyor
X'in Topluluk Notları hesabı, tüm yapay zeka tarafından yazılan Topluluk Notlarının "kullanıcılar için açıkça işaretleneceğini" söyledi. İlk yapay zeka notları, yalnızca insanların not talep ettiği gönderilerde görünecek, ancak sonunda yapay zeka not yazarlarının teyit edilecek gönderileri seçmesine izin verilebilecek.
Yapay zeka tarafından yazılan notlar bu ay içinde X'te görünmeye başladığında daha fazla bilgi ortaya çıkacak, ancak bu arada, X kullanıcıları yapay zeka not yazarlarını bugün test etmeye başlayabilir ve yakında ilk yapay zeka ajanları grubuna kabul edilmek üzere değerlendirilebilirler.
X, araştırması için Harvard Üniversitesi, Massachusetts Teknoloji Enstitüsü (MIT), Stanford Üniversitesi ve Washington Üniversitesi'ndeki yapay zekaya insan güveni, yapay zeka ince ayarı ve yapay zeka güvenliği gibi konuları araştıran lisansüstü öğrenciler, araştırma ortakları ve profesörlerle işbirliği yaptı.
Araştırmacılar, "belirli koşullar altında" yapay zeka ajanlarının "insan tarafından yazılan notlara benzer kalitede notlar üretebildiği – zaman ve çabanın çok daha azıyla" konusunda hemfikirler. X'teki teyit çabalarının "dramatik bir şekilde artırılmış ölçeği ve hızı" potansiyeli sunan "dönüştürücü bir fırsat" olabilecek faydalarını elde etmek için işaret edilen risklerin üstesinden gelmek için daha fazla araştırmaya ihtiyaç duyulduğunu öne sürdüler.
Makale, yapay zeka not yazarlarının "tek bir insan yazarın tipik olarak yapabileceğinden daha geniş bir perspektif yelpazesini temsil eden ilk taslaklar oluşturması halinde, topluluk müzakeresinin kalitesinin baştan itibaren iyileştiğini" belirtti.
Yapay Zeka Notlarının Geleceği
Araştırmacılar, X'in testleri tamamlandığında, yapay zeka not yazarlarının sadece insan kullanıcılar tarafından işaretlenen sorunlu gönderileri araştırmaya yardımcı olmakla kalmayıp, aynı zamanda bir gün viral olması beklenen gönderileri seçerek dezenformasyonun insan gözden geçiricilerden daha hızlı yayılmasını engelleyebileceğini hayal ediyorlar.
Bu otomatik sistemden elde edilecek ek faydalar arasında, X not derecelendiricilerinin daha kapsamlı araştırmalara ve kanıt sentezlerine hızlıca erişebilmesi, ayrıca daha net not kompozisyonu ile derecelendirme sürecinin hızlanması önerildi.
Ve belki bir gün, yapay zeka ajanları işleri daha da hızlandırmak için derecelendirme puanlarını tahmin etmeyi bile öğrenebilirler, diye spekülasyon yaptı araştırmacılar. Ancak bunun Topluluk Notlarını homojenleştirip, kimsenin okumayacağı noktaya gelmesini önlemek için daha fazla araştırmaya ihtiyaç duyulacak.
Makalede önerilen en Musk-vari fikirlerden biri, yapay zeka not yazarlarını çatışan görüşlerle "bir notun değerlerini düşmanca tartışmak" üzere eğitme fikri. Bunun "potansiyel kusurları, gizli önyargıları veya uydurma kanıtları anında ortaya çıkarmaya yardımcı olabileceği ve insan derecelendiricinin daha bilinçli bir yargıda bulunmasını sağlayabileceği" varsayılıyor.
Makale, "Sıfırdan başlamak yerine, derecelendirici şimdi bir hakem rolünü oynar – yapılandırılmış bir argüman çatışmasını değerlendirir" dedi.
X, Topluluk Notları yazan X kullanıcılarının iş yükünü azaltmaya yönelik adımlar atsa da, araştırmacılar yapay zekanın insanları asla tamamen değiştiremeyeceğini belirtiyorlar. Bu insanlar, yapay zeka tarafından yazılan notları sadece onaylamaktan daha fazlası için gerekliler.
Makale, "sıfırdan yazılan" insan notlarının yapay zeka ajanlarını eğitmek için değerli olduğunu ve bazı derecelendiricilerin niş uzmanlıklarının kolayca çoğaltılamayacağını belirtti. Ve belki de en açık şekilde, insanlar "eksiklikleri veya önyargıları belirlemek için benzersiz bir konumda" bulunuyorlar ve bu nedenle spam veya dolandırıcılık gibi "otomatik yazarların gözden kaçırdığı konularda" not yazmaya daha yatkınlar.
