Bir yapay zeka sistemi ne zaman 'yapay genel zeka' (AGI) olarak adlandırılabilecek kadar zeki sayılır? Sektör kaynaklarına göre Microsoft ve OpenAI arasında anlaşıldığı söylenen bir tanıma göre, cevap ekonomide yatıyor: Yapay zeka 100 milyar dolar kar getirdiğinde. AGI için bu keyfi, kar odaklı ölçüt, yapay zeka sektörünü kasıp kavuran tanım karmaşasını mükemmel bir şekilde özetliyor.
Aslına bakarsanız, AGI için evrensel bir tanım oluşturmak imkansız olabilir, ancak bu durum, söz konusu paralar olunca pek kabul görmüyor.
Geçtiğimiz yıl boyunca, teknoloji sektöründeki birçok önemli isim, AGI'nin (yani önümüzdeki iki yıl içinde) yakın gelişini müjdeledi. Ancak burada büyük bir sorun var: AGI'nin tam olarak ne anlama geldiği konusunda çok az kişi hemfikir. DeepMind araştırmacılarının konuyla ilgili bir makalesinde belirttiği gibi: 100 yapay zeka uzmanına AGI'yi tanımlamalarını isterseniz, "birbirine benzeyen ama farklı 100 tanım" alırsınız.
Bu sadece akademik bir tartışma değil. Tanım sorunu, yapay zeka sistemlerini nasıl geliştirdiğimiz, düzenlediğimiz ve düşündüğümüz üzerinde gerçek sonuçlar doğuruyor. Şirketler AGI'nin eşiğinde olduklarını iddia ettiklerinde, tam olarak neyi iddia ediyorlar?
AGI'yi genellikle adının 'genel' kısmına atıfta bulunan geleneksel bir şekilde tanımlama eğilimi vardır: Yeni senaryolara kavramları uygulayabilen, geniş çapta genelleşebilen ve birçok alanda daha önce karşılaşmadığı görevleri, özel olarak eğitilmeye ihtiyaç duymadan, insan yeteneğine eşdeğer çok yönlü bir yapay zeka modeli.
Ancak bu tanım, "insan seviyesi" performansın tam olarak ne anlama geldiği gibi çetrefilli sorulara yol açıyor. Uzman seviyesi insanlar mı? Ortalama insanlar mı? Ve hangi görevlerde? Bir AGI ameliyat yapabilmeli, şiir yazabilmeli, araba motoru tamir edebilmeli ve matematiksel teoremleri kanıtlayabilmeli mi, hepsi insan uzmanları seviyesinde mi? (Hangi insan tüm bunları yapabilir ki?) Daha da önemlisi, insan eşitliğine odaklanmak başlı başına bir varsayımdır; insan zekasını taklit etmenin neden gerekli bir ölçüt olduğu sorgulanmaya değerdir.
Bu tanım karmaşasından kaynaklanan sorunların en son örneği, Microsoft ve OpenAI arasındaki kötüleşen ilişkiden geliyor. Basında çıkan haberlere göre, iki şirket şu anda kısmen AGI'nin ne anlama geldiği konusunda anlaşamadıkları için sert müzakereler içinde – oysa bu terimi 13 milyar dolardan fazla değerindeki bir sözleşmeye dahil etmişlerdi.
Sürekli Değişen Hedef Tahtasının Kısa Tarihi
Yapay genel zeka teriminin kökenleri belirsizdir. John McCarthy ve meslektaşları 1956'da Dartmouth College'da yapay zeka terimini icat etmiş olsa da, AGI çok daha sonra ortaya çıktı. Fizikçi Mark Gubrud terimi ilk kez 1997'de kullandı, ancak modern kullanımı 2007'de yayımlanan bir kitapla popülerleşti.
İlk yapay zeka araştırmacıları, tüm alanlarda insan yeteneğine eşdeğer sistemler hayal ettiler. 1965'te yapay zeka öncüsü Herbert A. Simon, "makinelerin 20 yıl içinde bir insanın yapabileceği her işi yapabileceğini" tahmin etmişti. Ancak robotik, hesaplama alanındaki ilerlemelerin gerisinde kaldıkça tanım daraldı. Bu dengesiz ilerlemeye pratik bir yanıt olarak "insanın yapabileceği her şeyi yapmak"tan "ekonomik olarak değerli çoğu görevi yapmak"a, günümüzün daha belirsiz standartlarına doğru hedef tahtası sürekli değişti.
Onlarca yıl boyunca, Turing Testi makine zekası için fiili bir ölçüt olarak hizmet etti. Eğer bir bilgisayar, metin tabanlı bir konuşma yoluyla bir insan yargıcıyı kendisinin insan olduğuna ikna edebilirse, test, o zaman insan zekasına benzer bir şeye ulaştığını varsayıyordu. Ancak Turing Testi güncelliğini yitirdi. Modern dil modelleri, testin bazı sınırlı versiyonlarını, insanlar gibi "düşündükleri" için değil, son derece ikna edici insan sesi veren çıktılar üretme konusunda istisnai derecede yetenekli oldukları için geçebilir.
AGI tanımlarının mevcut durumu, kavramın ne kadar parçalandığını gösteriyor. OpenAI'ın kurumsal sözleşmesi, AGI'yi "ekonomik olarak değerli çoğu işte insanlardan daha iyi performans gösteren yüksek otonom sistemler" olarak tanımlıyor – bu tanım, kar ölçütü gibi, bilişi somut bir şekilde ölçmek yerine ekonomik ilerlemeye dayanıyor. Bir şirket yöneticisi, kavram için "tek cümlelik, özlü bir tanımım yok" demişti. OpenAI CEO'su Sam Altman, şirketinin AGI'yi "geleneksel olarak anladığımız şekliyle" nasıl inşa edeceğini artık bildiğine inanıyor. Bu arada, OpenAI'ın eski bir üst düzey yöneticisinin AGI'ye neredeyse mistik bir şey gibi yaklaştığı, şirket toplantılarında çalışanlara "AGI'yi Hisset!" diye tezahüratlar yaptırdığı, kavramı teknik bir dönüm noktasından çok manevi bir arayış gibi gördüğü de belirtiliyor.
Sektördeki önemli isimlerden biri olan Dario Amodei, terminolojinin kendisine daha da şüpheyle yaklaşıyor. Yakın zamanda yayımlanan bir makalesinde, "AGI'yi çok sayıda bilim kurgu bagajı ve abartı toplamış belirsiz bir terim" olarak bulduğunu yazıyor. Bunun yerine, abartıyla ilişkilendirilmeyen yetenekleri daha iyi yakaladığını savunduğu "güçlü yapay zeka" veya "Uzman Seviyesi Bilim ve Mühendislik" gibi terimleri tercih ediyor. Amodei, başkalarının AGI olarak adlandırabileceği şeyi tanımlarken, onu çoğu ilgili alanda "Nobel ödüllü bir bilim insanından daha zeki" ve saatler, günler veya haftalar süren görevlerde otonom olarak çalışabilen bir yapay zeka sistemi – yani esasen "bir veri merkezinde bir dehalar ülkesi" olarak çerçeveliyor. AGI terminolojisine karşı direnci, tanım karmaşasına başka bir katman ekliyor: Sadece AGI'nin ne anlama geldiği konusunda anlaşamıyoruz, bazı önde gelen yapay zeka geliştiricileri terimi tamamen reddediyor.
Belki de bu kaosa düzen getirmeye yönelik en sistematik girişim, geçtiğimiz yıl beş seviyeli AGI performans çerçevesi öneren Google'ın yapay zeka birimi DeepMind'dan geldi: yükselen, yetkin, uzman, virtüöz ve süperinsan. DeepMind araştırmacıları, o zamanlar "yükselen AGI" seviyesinin ötesinde bir seviyenin var olmadığını savundular. Onların sistemine göre, günümüzün en yetenekli büyük dil modelleri ve simüle edilmiş akıl yürütme modelleri hala "yükselen AGI" olarak nitelendiriliyor – çeşitli görevlerde vasıfsız bir insana eşit veya biraz daha iyi.
Ancak bu çerçeve de eleştirmenlere sahip. Kar amacı gütmeyen bir yapay zeka enstitüsünden bir baş bilim insanı, AGI kavramının bilimsel olarak "titizlikle değerlendirilemeyecek" kadar kötü tanımlandığını düşünüyor. Aslında, bu kadar çok farklı tanımın söz konusu olduğu göz önüne alındığında, AGI teriminin teknik olarak anlamsız hale geldiği bile iddia edilebilir.
Felsefenin Sözleşme Hukukuyla Buluştuğu Yer
Microsoft-OpenAI anlaşmazlığı, felsefi spekülasyonların yasal yükümlülüklere dönüştüğünde ne olduğunu gösteriyor. Şirketler ortaklık anlaşmalarını imzalarken, OpenAI AGI'ye ulaştığında Microsoft'un gelecekteki teknolojiye erişimini sınırlayabileceğini belirten bir madde eklediler. Basında çıkan haberlere göre, OpenAI yöneticileri AGI'yi ilan etmeye yakın olduklarına inanırken, Microsoft cephesi, AGI'yi kendi kendine ilan edilen bir dönüm noktası olarak kullanma fikrini "saçma bir ölçüt hilesi" olarak nitelendirmişti.
Daha önce bahsettiğimiz bildirilen 100 milyar dolarlık kar eşiği, ticari başarıyı bilişsel yetenekle karıştırıyor; sanki bir sistemin gelir elde etme yeteneği, bir insan gibi "düşünüp", "akıl yürütebileceği" veya dünyayı "anlayıp anlamadığı" hakkında anlamlı bir şey söylüyormuş gibi.
Tanımınıza bağlı olarak, AGI'ye zaten sahip olabiliriz veya fiziksel olarak ulaşılması imkansız olabilir. Eğer AGI'yi "çoğu görevde çoğu insandan daha iyi performans gösteren yapay zeka" olarak tanımlarsanız, mevcut dil modelleri belirli iş türleri için bu eşiği potansiyel olarak karşılıyor olabilir (hangi görevler, hangi insanlar, "daha iyi" ne demek?), ancak bunun doğru olup olmadığı konusunda evrensel bir anlaşma yok. Bu, "süper zeka"nın daha da belirsiz kavramını bir kenara bırakıyor – AGI gibi, insan bilişinin o kadar ötesinde hipotetik, tanrı benzeri bir zeka için kullanılan, sağlam bir tanıma veya ölçüte meydan okuyan başka bir belirsiz terim.
Bu tanım karmaşası göz önüne alındığında, araştırmacılar AGI'ye doğru ilerlemeyi ölçmek için objektif ölçütler oluşturmaya çalıştılar, ancak bu girişimler kendi sorunlarını ortaya çıkardı.
Ölçütler Neden Sürekli Yanıltıyor?
Daha iyi AGI ölçütleri arayışı, Turing Testi'ne bazı ilginç alternatifler üretti. 2019'da tanıtılan Soyutlama ve Akıl Yürütme Külliyatı (ARC-AGI), yapay zeka sistemlerinin derin ve özgün analitik akıl yürütme gerektiren yeni görsel bulmacaları çözüp çözemediğini test ediyor.
Bir araştırmacı, "Neredeyse tüm mevcut yapay zeka ölçütleri tamamen ezber yoluyla çözülebilir" demişti. Yapay zeka ölçütleriyle ilgili büyük bir sorun şu anda veri kirliliğinden kaynaklanıyor – test sorularının eğitim verilerine sızması durumunda, modeller temel kavramları gerçekten "anlamadan" iyi performans gösteriyormuş gibi görünebilir. Büyük dil modelleri, eğitim verilerinde bulunan kalıpları taklit eden usta taklitçiler olarak hizmet eder, ancak sorunlara her zaman özgün çözümler üretmezler.
Ancak ARC-AGI gibi sofistike ölçütler bile temel bir sorunla karşı karşıya: Hala zekayı bir puana indirgemeye çalışıyorlar. Ve geliştirilmiş ölçütler bilimsel bir çerçevede ampirik ilerlemeyi ölçmek için önemli olsa da, zeka boy veya ağırlık gibi ölçebileceğiniz tek bir şey değildir – farklı bağlamlarda farklı şekillerde tezahür eden karmaşık bir yetenekler bütünüdür. Aslında, insan zekasının bile eksiksiz bir işlevsel tanımına sahip değiliz, bu nedenle yapay zekayı tek bir ölçüt puanıyla tanımlamak, tüm resmin yalnızca küçük bir bölümünü yakalayacaktır.
Anketler Ne Diyor: AGI Yakın Olmayabilir
Yapay zeka alanının bilgisayar görüşü, protein katlanması ve çeviri gibi sayısız alanda hızlı ve somut ilerlemeler kaydettiğine şüphe yok. İlerlemenin bir miktar heyecanı haklı olsa da, bir yapay zeka modelinin yeteneklerini erken abartmamak önemlidir.
Sektördeki bazı kişilerin yarattığı abartıya rağmen, birçok yapay zeka araştırmacısı AGI'nin hemen köşede olduğu konusunda şüpheci kalmaya devam ediyor. Yapay Zeka Geliştirme Derneği tarafından yapılan bir araştırmaya katılan araştırmacıların çoğunluğu (%76), mevcut yaklaşımların ölçeklendirilmesinin AGI'ye ulaşmasının "olası olmadığını" veya "çok olası olmadığını" düşünüyordu.
Ancak, bu tür uzman tahminleri ihtiyatla karşılanmalıdır, çünkü araştırmacılar yapay zeka yeteneklerinin hızlı ilerleme hızı karşısında sürekli olarak şaşırmışlardır. Yapılan bir anket, 2022-2023'teki ilerlemeden şaşıran uzmanların, yapay zeka dönüm noktaları için zaman çizelgelerini önemli ölçüde kısalttığını buldu. Yapay zekanın her olası görevde insanları geride bırakabileceği medyan tahmini 13 yıl ileri atlayarak, 2022 anketindeki 2060'tan 2023'te 2047'ye geriledi. Bu hafife alma modeli, birden fazla ölçütte açıkça görüldü ve birçok araştırmacının yapay zeka yetenekleri hakkındaki tahminleri aylar içinde yanlış çıktı.
Yine de, teknoloji ortamı değiştikçe, yapay zeka hedef tahtası sabit hızla gerilemeye devam ediyor. Son zamanlarda, simüle edilmiş akıl yürütme modellerindeki sınırlamaları ortaya koyan daha fazla çalışma yayımlandıkça, sektördeki bazı uzmanlar, yakın AGI iddialarından yavaş yavaş geri adım atmaya başladılar. Örneğin, bir yapay zeka podcast'i sunucusu yakın zamanda, AGI geliştirmenin özellikle sürekli öğrenmede hala büyük darboğazlarla karşı karşıya olduğunu savunan bir blog yazısı yayımladı ve insanların iş başında sorunsuz bir şekilde öğrenebildiği bir yapay zekaya hala yedi yıl uzakta olduğumuzu tahmin etti.
Tanım Neden Önemli?
Yukarıda gördüğümüz araştırmacı fikir birliği, kesin terminoloji tanımları ve kurumsal söylem arasındaki kopukluğun gerçek bir etkisi var. Politika yapıcılar, bilimsel kanıtlardan ziyade abartıya dayanarak AGI'nin yakın olduğunu düşünürlerse, gerçeklikle uyuşmayan kararlar alma riskiyle karşı karşıya kalırlar. Şirketler tanımsız terimler etrafında sözleşmeler yazarlarsa, yasal saatli bombalar yaratabilirler.
AGI etrafındaki tanım karmaşası sadece felsefi bir kafa yormadan ibaret değil. Şirketler, yaklaşan AGI vaatlerini yatırımcı, yetenek ve müşteri çekmek için kullanıyor. Hükümetler, AGI zaman çizelgelerine dayanarak politikalar oluşturuyor. Halk, bu belirsiz kavramlara dayanarak yapay zekanın işler ve toplum üzerindeki etkisi hakkında potansiyel olarak gerçekçi olmayan beklentiler oluşturuyor.
Net tanımlar olmadan, yapay zekanın yanlış uygulamaları, düzenlemesi veya geliştirme öncelikleri hakkında anlamlı konuşmalar yapamayız. İyimserler ve kötümserler aynı kelimeleri temelden farklı şeyler ifade etmek için kullanarak birbirimizle anlaşamadan kalırız.
Bu tür bir zorluk karşısında, bazıları resmi tanımlardan tamamen vazgeçme eğiliminde olabilir ve AGI için tıpkı bir yargıcın müstehcenlik için kullandığı "Gördüğümde anlarım" ifadesi gibi bir yaklaşıma geri dönebilir. Bu öznel standart faydalı hissedilebilir, ancak sözleşmeler, düzenleme veya bilimsel ilerleme için işe yaramaz.
Belki de AGI teriminin ötesine geçme zamanı gelmiştir. Geleceğe doğru gerilemeye devam eden, kötü tanımlanmış bir hedefin peşinden koşmak yerine, belirli yeteneklere odaklanabiliriz: Bu sistem, kapsamlı yeniden eğitime ihtiyaç duymadan yeni görevler öğrenebilir mi? Çıktılarını açıklayabilir mi? İnsanlara zarar vermeyen veya yanıltmayan güvenli çıktılar üretebilir mi? Bu sorular, yapay zeka spekülasyonundan çok, yapay zeka ilerlemesi hakkında bize daha fazla bilgi verir. İlerlemenin en faydalı yolu, yapay zeka ilerlemesini belirli bir başarı eşiği olmayan çok boyutlu bir spektrum olarak düşünmek olabilir. Ancak bu spektrumu çizmek, henüz var olmayan yeni ölçütler ve hala belirsizliğini koruyan "zekanın" kesin, ampirik bir tanımını gerektirecektir.
