Google, üretken yapay zeka ürünlerinin yeni projeler geliştirmek, işleri büyütmek ve dünyayı kurtarmak için nasıl kullanıldığını anlatmayı sever. Elbette, yapay zeka suç için de kullanılıyor. Google, Outsider Enterprise adlı bir Çinli grubu hedef alan yeni bir yasal hamle duyurdu. Bu grup, iddialara göre büyük ölçekli yapay zeka destekli dolandırıcılık kampanyalarından sorumlu. Google, bu grupla mücadele etmek için kolluk kuvvetleri ve mobil operatörlerle çalıştığını belirtiyor.
Google'ın yasal başvurusuna göre Outsider Enterprise, Telegram üzerinden faaliyet gösteriyor. Grup, teknik olarak dolandırıcılık web siteleri ve metin kampanyaları kuracak kadar bilgili olmayan kişilere kimlik avı hizmeti sunuyor. Outsider Enterprise'ın Telegram kanallarında, Google'ın Gemini yapay zekasını kullanarak Google, YouTube ve New York E-ZPass gibi devlet kurumlarının taklit edildiği web siteleri oluşturma talimatları verildiği belirtiliyor. Grup, yaklaşık 300 adet dolandırıcılık şablonu sunmuş.
Google, Outsider Enterprise tarafından desteklenen dolandırıcılıklar sonucunda Android kullanıcılarına 2.5 milyondan fazla kısa mesaj gönderildiğini söylüyor. Geçtiğimiz ay sadece iki haftalık bir dönemde bu mesajların yaklaşık 55.000'i gönderilmiş. Google, dolandırıcılık ağıyla bağlantılı 9.000 sahte web sitesi ve 1 milyon URL izlemiş durumda.
Kısa mesajlar genellikle hesap sorunları veya paket teslimatıyla ilgili problemler hakkında bildirimler içeriyordu. Kullanıcılar bağlantılara tıkladığında, Gemini tarafından meşru görünecek şekilde tasarlanmış sahte web sitelerine yönlendiriliyordu. Siber suçlular bu siteleri kişisel verileri ve bankacılık bilgilerini çalmak için kullanıyordu. Google'ın başvurusunda Outsider Enterprise dolandırıcılıkları yoluyla çalınan para miktarı tahmin edilmiyor, ancak yüzlerce kişinin bir miktar para kaybettiği belirtiliyor.
Google, AT&T, Verizon ve T-Mobile gibi şirketlerle iş birliği yaparak bu zararlı kısa mesajların çoğunu engelledi. Google, Mesajlar uygulamasındaki cihaz içi dolandırıcılık tespitinin de başarılı kimlik avı girişimlerini azaltmaya yardımcı olduğunu vurguluyor. Bu yapay zeka destekli özellik, ayda 10 milyar dolandırıcılık mesajını engelliyor, bu nedenle Outsider Enterprise faaliyetlerinin bir kısmını da yakaladığı düşünülebilir.
Yapay Zeka Tehditleri İçin Yasalar
Google daha önce dolandırıcılara karşı davalar açmış olsa da, Gemini'yi dolandırıcılıklarının bir parçası olarak kullandığı iddia edilen bir gruba doğrudan karşı ilk kez yasal işlem başlatıyor. Google, her yeni modelini duyurduğunda Gemini'ye entegre ettiği güvenlik önlemlerinden bahsediyor, ancak bunlar sohbet botlarının talimatları takip etmesi ve kullanıcıları memnun etmesi gereken genel ihtiyaçlarıyla çelişebiliyor. Sonuç olarak da binlerce dolandırıcının sahte web siteleri oluşturmak için Gemini'yi kullandığı durumlar ortaya çıkabiliyor.
Sivil dava açmanın yanı sıra Google, FBI'ın siber suçlar bölümüne de paralel bir ceza soruşturmasında yardımcı oluyor. Ancak, Outsider Enterprise'ın arkasında kimin olduğu bilinmiyor ve Google'ın isimleri bilse bile, failler Çin'de olduğunda yapılacak pek bir şey yok. Şirket, Outsider Enterprise operasyonunu sekteye uğratma umuduyla sahte alan adları ve Telegram hesaplarını hedef alabilir, ancak dolandırıcılıklar basitçe şekil değiştirebilir.
Google, yapay zeka çağının kolluk kuvvetleri için yeni yaklaşımlar gerektirdiğine inanıyor ve bu fırsatı bir dizi yasal düzenlemeye olan kamuoyu desteğini yenilemek için kullanıyor. Şirket, Ulusal Dolandırıcılıkla Mücadele Stratejisi Yasası, Dolandırıcılığı Önleme Stratejik Görev Gücü Yasası ve Yapay Zeka Planı Yasası gibi yedi farklı potansiyel federal yasayı gündeme getirmiş.
Google'ın desteklediği yasa önerilerinin çoğu, yapay zeka destekli dolandırıcılık ve piyasa manipülasyonu tehdidiyle mücadele etmek için görev güçleri kurması amacıyla bir veya daha fazla federal kolluk kuvveti kurumunu göreve çağırıyor. Bunlardan biri (Yapay Zeka Kamu Bilincini ve Eğitim Kampanyası Yasası), halkın yapay zekanın zararlı kullanımlarını tespit etme yeteneğini geliştirmeyi amaçlıyor. Ancak, yapay zeka sistemlerinde insan benzeri zekaya ulaşma endüstriyel hedefi, iyi niyetli tüm hükümet yasaları olsa bile, bu tür içeriklerin insanlar tarafından fark edilmesini daha da zorlaştıracaktır.
