Yapay zeka tarafından üretilen bilgisayar kodları, sık sık gerçekte var olmayan üçüncü taraf kütüphanelerine (kitaplıklara) referans veriyor. Yayınlanan yeni bir araştırma, bunun, yazılım tedarik zinciri için büyük bir fırsat yarattığını ve meşru programların kötü amaçlı paketlerle zehirlenmesine yol açabileceğini ortaya koydu. Bu kötü amaçlı paketler, veri çalabilir, arka kapılar yerleştirebilir veya başka kötü niyetli eylemler gerçekleştirebilir.
Çalışma kapsamında, en yaygın kullanılan 16 farklı büyük dil modeli (LLM) kullanılarak 576.000 kod örneği üretildi. Bu örneklerin içerdiği paket bağımlılıklarından (dependency) 440.000'inin "hayali" yani gerçekte var olmayan bağımlılıklar olduğu belirlendi. Özellikle açık kaynaklı modellerde bu durum daha sık görüldü; bağımlılıkların yüzde 21'i var olmayan kütüphanelere işaret ediyordu.
Peki nedir bu "bağımlılık" denen şey? Bağımlılık, ayrı bir kod parçasının doğru şekilde çalışması için ihtiyaç duyduğu temel bir bileşendir. Geliştiricilerin aynı kodu tekrar tekrar yazma zahmetinden kurtulmasını sağlar ve modern yazılım geliştirme süreçlerinin ve tedarik zincirinin önemli bir parçasıdır.
Yapay Zeka ve Bağımlılık Karması Saldırıları
Bu var olmayan bağımlılıklar, yazılım tedarik zinciri için önemli bir tehdit oluşturuyor. Bu durum, "bağımlılık karması" veya "paket karması" olarak bilinen saldırıların artmasına zemin hazırlıyor. Bu tür saldırılarda, saldırgan kötü amaçlı bir paketi, gerçekte var olmayan ancak yapay zeka tarafından önerilen bir isimle yayımlar. Bazen de, meşru bir paketin adını kullanarak, ancak daha yüksek bir sürüm numarası vererek yayımlar. Pakete ihtiyaç duyan yazılımlar veya geliştiriciler, yapay zekanın önerdiği veya sürüm numarası daha yüksek görünen bu kötü amaçlı paketi yanlışlıkla seçebilirler.
Paket karması olarak da bilinen bu saldırı türü, ilk olarak 2021 yılında büyük şirketlerin ağlarında çalışan prototip bir exploit ile gösterilmişti. Bu, yazılım tedarik zinciri saldırılarının bir türüdür; yazılımı kaynağında zehirleyerek, onu kullanan tüm kullanıcılara ulaşmayı hedefler.
Uzmanlar, bu durumun nasıl istismar edilebileceğini şöyle açıklıyor: "Saldırgan, yapay zeka tarafından önerilen hayali isim altında kötü amaçlı kod içeren bir paket yayımladıktan sonra, modellerin bu ismi kullanıcılara önermesine güvenir. Eğer bir kullanıcı, büyük dil modelinin çıktısına güvenir ve paketi dikkatlice doğrulamadan kurarsa, kötü niyetli paketin içinde gizlenmiş saldırganın yükü kullanıcının sisteminde çalıştırılmış olur." Bu nedenle, yapay zeka destekli kodlama araçlarını kullanırken dikkatli olmak ve önerilen bağımlılıkları doğrulamak büyük önem taşıyor.
