Yapay zeka (YZ) tarafından üretilen kalitesiz içerikler, hakemli yayınlar dahil olmak üzere birçok alanda karşımıza çıkmaya başladı. Sahte atıflar, işlenmemiş yapay zeka çıktısı yanıtları ve anlamsız diyagramlar, editörlerin ve hakemlerin gözünden kaçabiliyor ve bu durumun sorumluları için herhangi bir yaptırım olup olmadığı her zaman net değil.
Şimdi ise, bilimsel alanların birçoğunda, hakem incelemesi veya dergi süreçlerine dahil olmadan önce yapay zeka kaynaklı sorunlara karşı kuralların uygulanmaya başlandığı anlaşılıyor. Fizik ve astronomi alanındaki ön baskı sunucusu arXiv'de yer alan bir kişi, sosyal medya üzerinden yaptığı açıklamada, sunucuya gönderilen uygunsuz yapay zeka üretimi içeriğin bir yıllık yasaklanmaya yol açacağını ve gelecekteki yayınların arXiv tarafından barındırılabilmesi için öncelikle hakem incelemesinden geçmesi gerekeceğini duyurdu.
Oregon Eyalet Üniversitesi'nde emeritus profesör olmasının yanı sıra arXiv'in yönetim kurulu ve moderasyon ekibinde aktif rol alan Thomas Dietterich, kuruluşun politikalarını anlamak için iyi bir konumda bulunuyor. arXiv liderliğinden de teyit amaçlı bir açıklama talep edilmiş olsa da henüz bir yanıt alınamadı.
Dietterich'in X (eski adıyla Twitter) platformunda paylaştığı bir gönderi dizisinde, yeni politikanın doğrudan arXiv'in moderasyon standartlarından kaynaklandığı belirtildi. Bu standartlara göre, "arXiv'e yapılan gönderiler, form açısından uygun bilimsel iletişim standartlarına, uygun ve özenle hazırlanmış bölümler, şekiller, tablolar, referanslar vb. dahil olmak üzere uymalıdır." Denetimde, "genel titizlik ve hazırlık özeni gereklidir." ifadesi yer alıyor.
Dietterich ayrıca, bir makalenin tüm yazarlarının içeriğinden sorumlu olduğunu vurguluyor. Bu nedenle, eğer bir yapay zeka tarafından üretilen ve bu yönergeleri ihlal eden materyalleri (örneğin, uygunsuz dil, intihal edilmiş içerik, yanlı içerik, hatalar, yanlış referanslar veya yanıltıcı içerik) dikkatsizce gönderirlerse, sorumluluk yapay zekaya değil, yazarlara ait olacaktır. İhlaller tespit edildiğinde, makalenin listelenen tüm yazarlarına bir yıl boyunca gönderi yasağı uygulanacak ve gelecekteki herhangi bir makaleleri ancak bir dergi tarafından hakem incelemesinden geçtikten sonra kabul edilecektir.
arXiv'e yoğun olarak güvenen alanlar için bu yaptırımlar oldukça ağırdır. Astrofizik gibi alanlarda ön baskıları yayınlamak, normal yayın sürecinin bir parçası olarak kabul edilir ve bilim insanları genellikle hakem incelemesine sunacakları çalışmaları iyileştirmelerine yardımcı olacak geri bildirimler alırlar. Ancak ne yazık ki, diğer birçok sistemde olduğu gibi, bu sistem de kötüye kullanılabilir; insanlar, hiç dahil olmayan kişileri yazarları arasında göstererek hatalı içerikler gönderebilirler. Neyse ki, moderasyon sisteminde bir itiraz süreci de mevcut.
Bu tür sorunların yayınlarda ortaya çıktığında neden daha önce fark edilmediği sorusu akla geliyor. Artık en azından birilerinin bu duruma müdahale etmeye çalıştığını biliyoruz.
