Yapay zeka teknolojisinin hızla geliştiği günümüzde, şirketler tarafından geliştirilen gelişmiş yapay zeka modellerinin kullanımıyla ilgili önemli endişeler ortaya çıkıyor. Anthropic ve OpenAI gibi büyük yapay zeka firmaları, kurumsal müşterilerinden gelen ve sahip oldukları özel verilerin nasıl kullanılacağına dair sorularla karşı karşıya. Bazı şirketler, veri gizliliği konusunda o kadar endişeli ki, verilerinin nasıl işlendiğine dair güvenceler talep ediyor ve hatta çalışanlarının hangi modelleri hangi görevler için kullanabileceğine dair sınırlamalar getiriyor. Bu durum, müşteri fikri mülkiyetinin ve hassas iş bilgilerinin yapay zeka modellerinin eğitiminde kullanılacağına dair korkuları artırıyor.
Bu endişelerin kökeninde, haziran ayında Anthropic'in yaptığı bir politika değişikliği yatıyor. Şirketin amiral gemisi Fable modeline yönelik politikaların güncellenmesinin ardından, Anthropic artık müşteri verilerini saklayabiliyor. Anthropic, bunu Fable'ın kötüye kullanılmadığından emin olmak için yaptığını belirtse de, bazı şirketler bunun hassas iş verilerinin de bu süreçte yer alabileceği anlamına geldiği endişesini dile getiriyor.
OpenAI ve Anthropic her ikisi de, kurumsal sözleşmeleri olan şirketlerden aldıkları bilgileri varsayılan olarak modellerini eğitmek için kullanmadıklarını belirtiyor. Ancak durum bundan ibaret değil. Her iki şirket de aynı kurumsal müşterilerden meta veri topluyor. Bu meta verilerin tam olarak ne içerdiği hakkında bilgi edinmek zor olsa da, OpenAI bunun yalnızca "hizmetlerimizin nasıl kullanıldığını daha iyi anlamak" için kullanıldığını vurguluyor. Anthropic de, müşterilerin ürünlerini nasıl kullandığı hakkında topladığı verilerin toplu ve anonimleştirilmiş olduğunu savunuyor ve bu meta verilerin modelleri eğitmek için kullanılmadığını ekliyor.
Buna rağmen, toplananlar hakkında algılanan netlik eksikliği konusunda hala endişeler mevcut. Raporlara göre, telekomünikasyon şirketi C Spire'ın hem OpenAI hem de Anthropic ile veri tabanlı model eğitimi yapmalarını engelleyen anlaşmaları bulunuyor. Ancak bu sözleşmeler, her iki şirketin de C Spire'ın teknik kullanım verilerini toplamasına izin veriyor. C Spire, bunun yapay zeka modellerinin hangi uygulamalara bağlandığına dair bilgiler ile kullanım verilerini içerdiğine inanıyor. Ayrıca yapay zeka şirketlerinin modellerinin yanıt üretme süreçleri arasında neler yaptığını kaydedebileceğinden de endişe ediyor.
OpenAI tarafında, "zincirleme düşünce" (chain-of-thought) verilerini modellerini eğitmek için kullanmadığı belirtiliyor. Ancak C Spire, toplanan veriler hakkında daha iyi bir anlayışa ihtiyaç duyulduğunu düşünüyor. Rapora göre, her iki yapay zeka şirketinin de açıklamalarında net olmadığı savunuluyor.
Gizli Yaklaşımlar Gündemde
Gizlilik endişelerine bir çözüm olarak, 'hava boşluklu' (air-gapped) sunucuların kullanılması düşünülebilir. Havacılık şirketi Northrop Grumman bu yöntemi şimdiden benimsemiş durumda. Raporlar, şirketin OpenAI ve Anthropic gibi firmalara güvenmek yerine, açık kaynaklı yapay zeka modellerini kendi hava boşluklu sunucularında çalıştırdığını belirtiyor.
Alternatif olarak, Microsoft da veri gizliliği endişelerinden yararlanarak OpenAI ve Anthropic müşterilerini kendi güvenli yapay zeka platformlarına çekmeye çalışıyor. Microsoft'un izole bulut ortamları, herhangi bir veriyi harici yapay zeka şirketlerine göndermeyen özel sunucularda yapay zeka modellerini çalıştırıyor. Ancak bu yaklaşımın maliyetli olduğu ve raporda en az bir müşterinin hala Microsoft'un alternatif yaklaşımını değerlendirdiği belirtiliyor.
Farmasötik şirketi Novo Nordisk ise biraz farklı bir yol izlemiş. Bazı görevler için Anthropic'in Claude'unu kullanmaya devam ederken, modelin herhangi bir özel veriyi kullanmasına yasak getirmiş.
Güven eksikliğinin yapay zeka şirketleri için gerçek paraya mal olabileceği açık ve bir örnekte bu durum şimdiden yaşanmış. Aynı rapor, ABD merkezli büyük bir enerji şirketinin Anthropic'in Fable modelini test etme planlarını iptal ettiğini belirtiyor. Enerji şirketi, Fable'ın temel güç altyapısını çalıştırıp çalıştıramayacağını bilmek istemiş ancak Anthropic'in geri alınamaz sıfır veri tutma (ZDR) politikasını kabul etmeyi reddetmesi üzerine bu planlardan vazgeçmiş.
Nvidia da hassas verilere erişim gerektirmeyen görevler için Fable'ı kullanmaya karar vermiş. Şirket, ZDR güvencelerindeki eksikliği bu kararın nedeni olarak gösteriyor. Bunun yerine Nvidia, hassas gördüğü görevler için kendi şirket içi yapay zeka çözümünü kullanıyor. Nvidia CEO'su Jensen Huang, çalışanlarının her yıl yıllık maaşlarının yarısı kadar yapay zeka token'ı kullanması gerektiğini söyleyerek, yapay zeka kullanmamanın çipler tasarlamak için kağıt ve kalem kullanmaya benzediğini ifade etmiş.
Teknoscope olarak Nvidia ile iletişime geçtik ancak haberin yayına hazırlandığı saate kadar bir yanıt alamadık.
