Microsoft'un yapay zeka hizmetlerine, özellikle de Copilot+ PC'nin lansmanıyla birlikte büyük bir vurgu yaptığı biliniyor. Ancak şirket, kendi geliştirdiği yapay zeka ürününe tam olarak güvenmediği izlenimini veriyor. Geçtiğimiz Ekim ayında güncellenen Microsoft Copilot Kullanım Koşulları'na göre, yapay zeka sohbet botu (LLM) yalnızca eğlence amaçlı olarak tasarlanmış ve kullanıcıların önemli konularda tavsiye almak için bu aracı kullanmamaları gerektiği belirtiliyor. Bu durum, şirketin Copilot'u iş kullanımları için yaygınlaştırma ve Windows 11'e entegre etme çabaları göz önüne alındığında oldukça ironik.
Belgede yer alan ifadeye göre, “Copilot yalnızca eğlence amaçlıdır. Hatalar yapabilir ve amaçlandığı gibi çalışmayabilir. Önemli tavsiyeler için Copilot'a güvenmeyin. Copilot'u kendi sorumluluğunuzda kullanın.” Bu uyarı sadece Copilot ile sınırlı değil. Diğer büyük dil modelleri de benzer kullanım koşulları sunuyor. Örneğin, yapay zeka alanında faaliyet gösteren bir başka şirket, yapay zekanın hızla geliştiğini, olasılıksal doğası gereği bazen “halüsinasyonlar” içerebileceğini, saldırgan olabileceğini, gerçek kişileri, yerleri veya olayları doğru yansıtmayabileceğini veya istenen amaç için uygun olmayabileceğini belirtiyor.
Yapay zeka modellerinin çalışma prensiplerine aşina olanlar için bu açıklamalar mantıklı gelse de, ne yazık ki bazı kullanıcılar, hatta işin uzmanı olması gereken kişiler bile yapay zekanın ürettiği çıktıları kesin doğru kabul edebiliyor. Bu durum, daha önce teknoloji devlerinden birinin bulut hizmetlerinde yaşanan kesintilerin, bir yapay zeka kodlama botunun denetimsiz bir şekilde sorunu çözmeye çalışması sonucu meydana geldiği iddialarına kadar uzanmıştı. Hatta aynı şirketin web sitesinde yaşanan ve “yüksek etki alanına sahip” olarak tanımlanan bazı sorunların da “üretken yapay zeka destekli değişikliklerden” kaynaklandığı ve bu durumun üst düzey mühendislerin acil toplantılarla çözüm bulmasını gerektirdiği rapor edilmişti.
Üretken yapay zeka, verimliliği artırabilen faydalı bir araç olsa da, henüz hatalarından sorumlu tutulamayan bir araç konumunda. Bu nedenle, yapay zekayı kullanan kişilerin her zaman çıktısını sorgulaması ve sonuçları iki kez kontrol etmesi büyük önem taşıyor. Mevcut yapay zeka teknolojisinin sınırlılıklarının farkında olsanız bile, insanlar otomasyon yanlılığına eğilimli olabiliyor. Bu yanlılık, makinelerin ürettiği sonuçlara daha fazla öncelik verme ve çelişen verileri göz ardı etme eğilimidir. Yapay zeka, yüzeysel bakıldığında doğru veya mantıklı görünen sonuçlar üretebildiği için bu olguyu daha da ciddileştirebilir.
Genel olarak şirketler, bu tür sorumluluk reddi beyanlarını ürün ve hizmetlerine ekleyerek olası yasal süreçlerden korunmayı hedefler. Ancak yapay zeka teknolojisi şirketleri, yapay zeka hizmetlerini nihai verimlilik çözümleri olarak pazarlarken, müşterileri cezbetmek ve donanım ile yetenek yatırımlarının geri dönüşünü sağlamak amacıyla yapay zeka araçlarının kullanım risklerini hafife alıyor olabilir.
