Yapay zeka modellerini ne kadar doğru ve yetenekli hale getirmeye çalışırsak, karbon ayak izleri de o kadar büyüyor. Yeni bir araştırma, aynı sorulara verilen cevapların bile bazı modellerde diğerlerine göre 50 kata kadar daha fazla karbondioksit salımına neden olabildiğini ortaya koydu.
Piyasada bulunan bazı ileri seviye büyük dil modelleri (LLM), önceki modellere göre daha doğru yanıtlar üretmek için daha fazla zaman ve işlem gücü harcayan, 'akıl yürütme' yeteneklerine odaklanmış özel modellerdir. Ancak bu modellerin karmaşık problemleri çözme yeteneklerinde bazı ciddi sınırlamalar olduğu daha önce de gösterilmişti. Şimdi ise araştırmacılardan oluşan bir ekip, bu modellerin performansını etkileyen başka bir kısıtlamayı, yani aşırı yüksek karbon ayak izlerini vurguladı. Araştırmanın bulguları geçtiğimiz günlerde yayınlanan bir makalede paylaşıldı.
Araştırmanın baş yazarı, konuyla ilgili yaptığı açıklamada, "Eğitilmiş büyük dil modellerine soru sormanın çevresel etkisinin, modelin akıl yürütme yaklaşımı tarafından güçlü bir şekilde belirlendiğini gördük. Açık akıl yürütme süreçleri, enerji tüketimini ve karbon emisyonlarını önemli ölçüde artırıyor." dedi. "Akıl yürütme yeteneği olan modellerin, daha kısa ve öz cevaplar üreten modellere göre 50 kata kadar daha fazla CO₂ emisyonu ürettiğini tespit ettik." diye ekledi.
LLM'ler, kendilerine verilen sorulara cevap vermek için dili "token" adı verilen parçalara ayırır. Bu parçalar sayı dizilerine dönüştürülerek sinir ağlarına beslenir ve ağlar, eğitildikleri verilerdeki kalıpların olasılıklarını kullanarak cevaplar üretir. Akıl yürütme modelleri ise doğruluğu artırmak için "düşünce zinciri" adı verilen bir teknik kullanır. Bu teknik, karmaşık bir problemi, insanların benzer bir sonuca ulaşırken izleyebileceği gibi, mantıksal bir akış izleyen daha küçük, sindirilebilir ara adımlara ayırarak çalışır.
Ancak bu ileri seviye modeller, geleneksel LLM'lere göre önemli ölçüde daha yüksek enerji taleplerine sahiptir. Bu durum, onları kullanmak isteyen şirketler ve kullanıcılar için potansiyel bir ekonomik darboğaz oluşturmaktadır. Genel olarak yapay zeka kullanımının çevresel etkilerine dair araştırmalar olsa da, farklı modellerin karbon ayak izleri arasındaki karşılaştırmalar nispeten nadirdir.
Akıl Yürütmenin Bedeli
Farklı modeller tarafından üretilen CO₂ emisyonlarını incelemek için bilim insanları, 7 ila 72 milyar parametreye sahip 14 farklı LLM'ye çeşitli konularda 1000 soru sordu. Hesaplamalar belirli bir donanım üzerinde gerçekleştirildi. Araştırma ekibi, enerji kullanımını CO₂'ye dönüştürürken, tüketilen her kilovat saatin belirli bir miktar CO₂ ürettiği varsayımını kullandı.
Sonuçlar, akıl yürütme modellerinin soru başına ortalama 543,5 token ürettiğini, daha kısa cevap veren modellerin ise yalnızca 37,7 token ürettiğini gösterdi. Daha fazla işlem gerektiren bu ekstra tokenlar, daha doğru akıl yürütme modellerinin daha fazla CO₂ üretmesi anlamına geliyordu. En doğru modellerden biri (72 milyar parametreye sahip olanı), benzer büyüklükteki ancak daha kısa cevaplar vermek için tasarlanmış modellere göre üç kat daha fazla CO₂ yaydı.
Araştırmacılar, "Şu anda LLM teknolojilerinde doğruluk ve sürdürülebilirlik arasında açık bir takas görüyoruz." dedi. "Toplam sera gazı salımını belirli bir sınırın altında tutan modellerin hiçbiri, 1000 sorunun doğru cevaplanmasında %80'den daha yüksek bir doğruluk oranına ulaşamadı." diye eklediler.
Ancak sorunlar sadece doğrulukla sınırlı değil. Cebir veya felsefe gibi daha uzun akıl yürütme süreleri gerektiren sorular, emisyonların basit arama sorgularına göre altı kat daha fazla artmasına neden oldu. Araştırmacıların hesaplamaları, emisyonların seçilen modellere göre de değiştiğini gösteriyor. Örneğin, 60.000 soruyu cevaplamak için iki farklı büyük model karşılaştırıldığında, modellerden biri New York ile Londra arasında gidiş-dönüş uçak yolculuğunun yaydığı CO₂'ye denk bir emisyon üretirken, bir diğeri benzer doğruluk oranlarıyla bu emisyonun sadece üçte birini üretebiliyordu.
Araştırmanın bulguları kesin olmamakla birlikte (emisyonlar kullanılan donanıma ve enerji şebekesine bağlı olarak değişebilir), yapay zeka kullanıcılarını teknolojiyi dağıtmadan önce düşünmeye sevk etmesi gerektiğini vurguluyorlar.
Araştırmanın baş yazarı, "Kullanıcılar, yapay zeka tarafından üretilen çıktılarının kesin CO₂ maliyetini bilselerdi (örneğin, kendilerini basitçe bir aksiyon figürüne dönüştürmek gibi), bu teknolojileri ne zaman ve nasıl kullanacakları konusunda daha seçici ve düşünceli olabilirler." yorumunda bulundu.
