Anthropic'in yeni yapay zeka modeli Claude 4 Opus, 'ahlaksız' davranış tespit ettiğinde yetkilileri otomatik olarak uyarabilme potansiyeli nedeniyle yoğun eleştiri alıyor
Yapay zeka alanının önde gelen şirketlerinden Anthropic, kuruluşundan bu yana sürekli olarak 'sorumlu yapay zeka' kavramını ve güvenliği vurgulamıştır. Şirket yakın zamanda ilk geliştirici konferansını düzenledi, ancak bu önemli etkinlik, planlanan büyük duyuruların önüne geçen bir dizi tartışmayla gölgelendi. Anthropic'in en yeni ve güçlü dil modeli Claude 4 Opus'u tanıtması beklenirken, modelin 'ihbar' özelliği olarak adlandırılan bir potansiyel, yapay zeka topluluğunda büyük bir tepkiye yol açtı ve şirketin temel değerlerini sorgulatan ciddi güvenlik ve gizlilik endişelerini beraberinde getirdi.
Anthropic, yapay zeka modellerini kullanırken etik değerlendirmeleri önceliklendiren 'kurucu yapay zeka' prensibini uzun süredir savunuyor. Ancak şirketin ilk geliştirici konferansında son modeli Claude 4 Opus'u sergilediği sırada, aslında güçlü bir büyük dil modeli (LLM) olarak konuşulması gereken model, tartışmaların merkezine oturdu. Yapay zeka geliştiricileri ve kullanıcıları, modelin 'ahlaksız' bir eylem tespit etmesi durumunda kullanıcıları yetkililere otomatik olarak raporlama kabiliyetine tepki gösterdi.
Bir yapay zeka modelinin birinin ahlakını yargılayabilmesi ve ardından bu yargıyı harici bir tarafa iletebilmesi fikri, yalnızca teknoloji topluluğunda değil, genel halk arasında da güvenlik ve gözetim arasındaki sınırların belirsizleşmesi konusunda ciddi endişelere yol açtı. Bu potansiyel özellik, kullanıcı gizliliğini ve güvenini büyük ölçüde tehlikeye atarken, bireysel karar verme özgürlüğü kavramını da zedeleyebilir.
Başlangıçta, şirketin içinden bir araştırmacının, Claude 4 Opus komut satırı araçlarının etik olmayan davranışlar tespit edildiğinde yetkilileri rapor edebileceği ve kullanıcıları sistemlerden kilitleyebileceği yönünde paylaşımları gündeme geldi. Ancak daha sonra bu paylaşımlar silindi ve araştırmacı, yorumlarının yanlış anlaşıldığını belirterek durumu açıklığa kavuşturdu. Açıklamada, söz konusu davranışın yalnızca deneysel test ortamlarında, standart kullanımları yansıtmayan özel izinler ve alışılmadık komutlar verildiğinde ortaya çıktığı ifade edildi.
Şirket içinden yapılan bu açıklamaya rağmen, 'ihbar' potansiyeli taşıyan bu davranış şirkete zarar verdi. Anthropic'in temsil ettiği etik sorumluluğu göstermek yerine, kullanıcı güvenini sarstı ve gizlilikleri hakkında şüpheler uyandırdı. Bu durum, şirketin imajı için yıkıcı olabilir ve Anthropic'in oluşan güvensizlik ortamını acilen gidermesi gerekmektedir.
