Yapay zeka modellerinin çevresel etkileri konusundaki endişelere rağmen, birçok büyük dil modelinin hassas ve güvenilir CO2 emisyonları ve su kullanım verilerine ulaşmak şaşırtıcı derecede zordur. Fransa merkezli model üreticisi Mistral, bu durumu değiştirmek için ilk kez kendi çevresel etkilerini ölçen bir denetim raporu yayınladı. Bu rapor, yapay zeka teknolojisinin gezegenimiz üzerindeki etkisini daha şeffaf bir şekilde ortaya koymayı hedefliyor.
Raporun sonuçları, önceki akademik çalışmaların tahminleriyle genel olarak uyumlu. Tek bir yapay zeka sorgusunun çevresel zararının, birçok yaygın internet görevine kıyasla nispeten küçük olduğu görülüyor. Ancak, her yıl milyarlarca yapay zeka isteğinin GPU'ları zorlamasıyla, bu küçük bireysel etkilerin bile toplu olarak önemli çevresel sonuçlara yol açabileceği belirtiliyor.
Yapay Zeka Gerçekten Gezegeni Yok mu Ediyor?
Mistral, henüz 18 aylıkken geliştirdiği "Large 2" modelinin yaşam döngüsü analizini oluşturmak için sürdürülebilirlik danışmanlık firması Carbone 4 ve Fransız Ekolojik Geçiş Ajansı ile işbirliği yaptı. Genel çevresel etkiyi ölçmek için Fransız hükümetinin Frugal AI yönergelerini takip eden Mistral, hakemli çalışmalarında üç ana kategoriyi incelediğini belirtti: sera gazı (CO2) emisyonları, su tüketimi ve malzeme tüketimi (özellikle yapay zeka sunucularındaki GPU'ların aşınması ve yıpranması yoluyla yenilenebilir olmayan kaynakların tükenmesi).
Mistral'ın denetimi, CO2 emisyonlarının ve su tüketiminin büyük çoğunluğunun (%85,5 ve %91) veri merkezi inşası veya son kullanıcı ekipmanlarının enerji kullanımı gibi kaynaklardan ziyade, model eğitimi ve çıkarım (inference) süreçlerinde gerçekleştiğini ortaya koydu.
Denetim aracılığıyla Mistral, ortalama bir sorgunun (yaklaşık bir sayfalık metin üreten 400 token'lık) çıkarım süresi boyunca çevresel etkisinin oldukça minimal olduğunu buldu: sadece 1,14 gram CO2 emisyonu ve 45 mililitre su tüketimi. Ancak, modelin ilk 18 ayında hem eğitim hem de milyonlarca, hatta milyarlarca sorgunun çalıştırılmasıyla birlikte toplamda önemli bir çevresel etki oluştuğu belirtildi. Bu etki, yaklaşık 4.500 ortalama benzinli otomobilin bir yıl boyunca çalışmasına eşdeğer olan 20.4 kiloton CO2 emisyonu ve yaklaşık 112 adet Olimpiyat boyutundaki yüzme havuzunu doldurabilecek 281.000 metreküp suyun buharlaşması olarak açıklandı.
Mistral'ın çevresel etki rakamlarını diğer yaygın internet görevleriyle karşılaştırmak, yapay zekanın çevresel etkisini daha iyi anlamamıza yardımcı oluyor. Örneğin, Mistral'ın ortalama bir yapay zeka sorgusundan kaynaklanan ek CO2 emisyonunun, ABD'de 10 saniye yayın izlemeye (veya daha temiz enerji şebekesine sahip Fransa'da 55 saniye yayın izlemeye) eşdeğer olduğu belirtiliyor. Ayrıca, bir Zoom görüşmesinde 4 ila 27 saniye geçirmeye veya 100 alıcısı olan bir e-postayı tam olarak okuyacak şekilde 10 dakika yazmaya denk geldiği ifade ediliyor.
Tüm bu aktivitelerin sosyal ve çevresel "değerini" doğrudan karşılaştırmak kolay değil ve genel olarak yapay zeka araçlarının çıktısına ne kadar değer verdiğinize bağlıdır. Ancak, bu farklı görevlerle ilişkilendirilen sosyal kabus, kişisel suçluluk ve genel çevrimiçi şikayetler seviyesi, benzer çevresel ayak izleriyle örtüşmeyebilir. Bu durum, yapay zeka enerji kullanımının gezegeni yok ettiği uyarılarını duyduğunuzda akılda tutulmalıdır.
Daha Fazla Veri Çağrısı
Mistral'ın rakamları, yapay zekanın çevresel etkisini tahmin etmeye çalışan diğer çalışmalarla genel olarak uyumlu. Örneğin, Kaliforniya Üniversitesi, Riverside'dan araştırmacıların bir çalışması, OpenAI'nin GPT-3'ünü kullanan ortalama bir ABD yapay zeka veri merkezinin her bir büyük dil modeli sorgusu için yaklaşık 17 ml su tükettiğini tahmin ediyor. Ayrıca, Nature dergisinde yayınlanan 2024 tarihli bir çalışma, ChatGPT için sorgu başına ortalama 2,2 gram CO2 emisyonu (hem eğitim hem de çıkarım süresi dahil) tahmin ediyor.
Bu önceki üçüncü taraf tahminleriyle karşılaştırıldığında, Mistral'ın bu son çalışma için doğrudan bilgi sağlaması, raporlanan rakamlarına ek bir ağırlık katıyor. Yine de Mistral, verilerinin modelin toplam çevresel etkisinin "ilk bir yaklaşımı" olduğunu ve örneğin GPU'ların yaşam döngüsü etkisi için önemli tahminler kullanıldığını belirtiyor. Hugging Face AI & Climate Lideri Sasha Luccioni de Mistral tarafından yayınlanan bilgilerin metodolojik detaylar ve modelin toplam enerji kullanımı (bu enerjinin emisyon tahminleri yerine) hakkında eksik bilgiler içerdiğini belirtiyor.
Buna rağmen Luccioni, raporu "yapay zeka modellerinin çevresel etki değerlendirmesi açısından harika bir ilk adım" olarak nitelendiriyor ve diğer yapay zeka şirketlerinin de bu yolu izlemesini umduğunu dile getiriyor. Mistral ayrıca diğer model üreticilerini çevresel etkileri konusunda daha şeffaf olmaya çağırarak, bu tür karşılaştırmalı sonuçların "alıcıların ve kullanıcıların en az karbon, su ve malzeme yoğun modelleri belirlemelerine yardımcı olacak bir puanlama sisteminin oluşturulmasını sağlayabileceğini" vurguluyor.
