Yapay zeka devi OpenAI, son modeli GPT-6 Astra'nın tanıtılmasıyla birlikte büyük bir heyecan dalgası yaratmış durumda. Hatta NVIDIA'nın CEO'su Jensen Huang da bu heyecana katılarak geleceğe dair önemli açıklamalarda bulundu. Astra'nın 100.000 GPU ile eğitildiğini ve devasa bir maliyeti olduğunu düşünürsek, yakında açıklanacak 400.000 GPU'luk yeni bir eğitim çalışmasının Astra'nın rekorunu egale etmesi bekleniyor.
GPT-6 Astra'nın Eğitim Maliyeti 1 Milyar Dolara Yaklaşabilir, Yeni Eğitim Çalışması Daha da Büyük Olacak
Geçtiğimiz hafta OpenAI, GPT-6 Astra'yı 100.000 GPU'luk bir küme üzerinde eğittiğini duyurdu. Bu devasa eğitim çalışmasının, GPU başına saatlik maliyetin 2,50-3,50 dolar arasında olduğu varsayımıyla OpenAI'ye yaklaşık 500 milyon ila 1 milyar dolar arasında bir maliyete mal olduğu tahmin ediliyor:
- 100.000 GPU x 24 saat x 90 gün x 2,50 dolar (GPU/saat) = 540 milyon dolar
- 100.000 GPU x 24 saat x 120 gün x 2,50 dolar (GPU/saat) = 720 milyon dolar
- 100.000 GPU x 24 saat x 90 gün x 3,50 dolar (GPU/saat) = 756 milyon dolar
- 100.000 GPU x 24 saat x 120 gün x 3,50 dolar (GPU/saat) = 1,008 milyar dolar
Bu eğitimin büyük olasılıkla OpenAI'nin Abilene'deki Stargate veri merkezinde gerçekleştirildiğini belirtmek gerekir. Eğer yapay zeka laboratuvarı daha pahalı bir bulut bilişim hizmeti kullansaydı, maliyetin daha da artması kaçınılmaz olurdu.
Dahası, NVIDIA CEO'su Jensen Huang, OpenAI'yi tebrik ederek çok daha iddialı bir 400.000 GPU'luk eğitim çalışmasından bahsetti. Bu yeni eğitim çalışmasının, NVIDIA'nın GB200 NVL72 sunucu raflarını kullanması ve her rafın yaklaşık 140 kW güç tüketmesi durumunda, tamamlanması için yaklaşık 1.2 GW güce ihtiyaç duyulacağı öngörülüyor.
GPT-6 Astra'nın en dikkat çekici özelliklerinden biri, geliştiricilerin her uygulama için ayrı API'ler oluşturmasına gerek kalmadan, bir yapay zeka temsilcisinin (agent) herhangi bir yazılımı insan benzeri bir şekilde kullanabilmesidir. Bu sayede tarayıcılar, elektronik tablolar, web siteleri ve masaüstü uygulamaları üzerinde çalışarak belgeler ve sunumlar hazırlayabilir, karmaşık iş akışlarını gerçekleştirebilir.
Özetle, GPT-6 Astra'nın temel mantık motoru, yerel bir çoklu temsilci (multi-agent) yapısını kullanarak karmaşık problemleri çözüyor. Karmaşık bir görevle karşılaştığında, modelin ana temsilcisi bir teori oluşturabilir ve sonuçları test etmek için farklı temsilciler devreye sokabilir. Bu yerel delegasyon mekanizması, modelin kendi kodunu hatasız bir şekilde iyileştirmesine ve stratejisini anlık olarak ayarlamasına olanak tanır.
Ancak tüm bu gelişmelere rağmen, GPT-6 Astra'nın gerçekten Yapay Genel Zeka (AGI) olup olmadığı konusunda tartışmalar devam ediyor. Zira, rakip firmalardan birinin Fable 5.1 modeli, özellikle kodlama ve mantıksal analiz alanlarında hala Astra'nın önünde yer alıyor.
