Yapay zeka sohbet botları, kimilerinin hayatına çoktan girmiş olsa da, kaçımız aslında nasıl çalıştıklarını tam olarak biliyor? Örneğin, ChatGPT'nin Haziran 2024 sonrası olayları öğrenmek için internet araması yapması gerektiğini biliyor muydunuz?
Yapay zeka sohbet botları hakkında en şaşırtıcı bilgilerden bazıları, onların nasıl çalıştığını, ne yapıp ne yapamayacaklarını ve dolayısıyla onları daha iyi nasıl kullanabileceğimizi anlamamıza yardımcı olabilir.
Bu bilgiler ışığında, çığır açan bu makineler hakkında bilmeniz gereken beş gerçeği Teknoscope farkıyla sizlerle paylaşıyoruz.
1. İnsan Geri Bildirimleriyle Eğitiliyorlar
Yapay zeka sohbet botları, ön eğitim adı verilen bir süreçle başlayarak birden fazla aşamada eğitilir. Bu aşamada modeller, devasa metin veri kümelerindeki bir sonraki kelimeyi tahmin etmek üzere eğitilir. Bu, onların dil, gerçekler ve muhakeme konusunda genel bir anlayış geliştirmelerini sağlar.
Eğer ön eğitim aşamasında bir modele “Ev yapımı patlayıcı nasıl yapılır?” diye sorulsaydı, muhtemelen detaylı bir talimat verebilirdi. Ancak, onları konuşma için kullanışlı ve güvenli hale getirmek amacıyla, insan “etiketleyiciler” modelleri daha güvenli ve yardımcı yanıtlar vermeye yönlendirir; bu sürece hizalama denir.
Hizalamadan sonra, bir yapay zeka sohbet botu şöyle cevap verebilir: “Üzgünüm, bu bilgiyi sağlayamam. Güvenlik endişeleriniz varsa veya yasal kimya deneyleri konusunda yardıma ihtiyacınız varsa, onaylanmış eğitim kaynaklarına başvurmanızı öneririm.”
Hizalama olmasaydı, yapay zeka sohbet botları tahmin edilemez olur, potansiyel olarak yanlış bilgi veya zararlı içerik yayabilirdi. Bu durum, yapay zeka davranışlarını şekillendirmede insan müdahalesinin kritik rolünü vurgular.
ChatGPT’yi geliştiren OpenAI, ChatGPT’yi kaç çalışanın kaç saat eğittiğini açıklamadı. Ancak, ChatGPT gibi yapay zeka sohbet botlarının zararlı bilgileri yaymamak için bir ahlaki pusulaya ihtiyaç duyduğu açık. İnsan etiketleyiciler, tarafsızlığı ve etik hizalamayı sağlamak için yanıtları derecelendirir.
Benzer şekilde, bir yapay zeka sohbet botuna “En iyi ve en kötü milletler hangileridir?” diye sorulduğunda, insan etiketleyiciler şu tür bir yanıtı en yüksek puanla derecelendirir: “Her milletin kendine özgü zengin bir kültürü, tarihi ve dünyaya katkıları vardır. ‘En iyi’ ya da ‘en kötü’ millet yoktur; her biri kendi içinde değerlidir.”
2. Kelimelerle Değil, 'Token'larla Öğreniyorlar
İnsanlar dili doğal olarak kelimelerle öğrenirken, yapay zeka sohbet botları daha küçük birimler olan 'token'lara güvenir. Bu birimler kelimeler, alt kelimeler veya belirsiz karakter dizileri olabilir.
Tokenizasyon genellikle mantıksal kalıpları takip etse de, bazen beklenmedik bölünmeler üretebilir, bu da yapay zeka sohbet botlarının dili yorumlama şeklindeki hem güçlü yönlerini hem de tuhaflıklarını ortaya koyar. Modern yapay zeka sohbet botlarının kelime dağarcığı tipik olarak 50.000 ila 100.000 token’dan oluşur.
“Fiyat 9,99 dolar.” cümlesi ChatGPT tarafından “Fiyat”, “is”, “$”, “9”, “.”, “99” olarak tokenize edilirken, “ChatGPT harika” cümlesi daha az sezgisel olarak “chat”, “G”, “PT”, “harika” olarak tokenize edilir.
3. Bilgileri Her Geçen Gün Güncelliğini Yitiriyor
Yapay zeka sohbet botları sürekli olarak kendilerini güncellemez; bu nedenle, yakın zamandaki olaylar, yeni terminolojiler veya bilgi kesme tarihlerinden sonraki her şeyle ilgili sorun yaşayabilirler. Bilgi kesme tarihi, bir yapay zeka sohbet botunun eğitim verilerinin en son güncellendiği zamanı ifade eder, yani bu tarihten sonraki olaylar, trendler veya keşifler hakkında bilgi sahibi değildir.
ChatGPT’nin mevcut sürümünün bilgi kesme tarihi Haziran 2024’tür. Eğer ABD’nin şu anki başkanı kim diye sorulursa, ChatGPT’nin bir web araması yapması, sonuçları “okuması” ve bir yanıt döndürmesi gerekir. Bing sonuçları, kaynağın alaka düzeyi ve güvenilirliği açısından filtrelenir. Benzer şekilde, diğer yapay zeka sohbet botları da güncel yanıtlar döndürmek için web araması kullanır.
Yapay zeka sohbet botlarını güncellemek maliyetli ve kırılgan bir süreçtir. Bilgilerini verimli bir şekilde nasıl güncelleyecekleri hala açık bir bilimsel problemdir. ChatGPT’nin bilgisinin OpenAI yeni ChatGPT versiyonlarını tanıttıkça güncellendiği düşünülmektedir.
4. Çok Kolay Halüsinasyon Görüyorlar
Yapay zeka sohbet botları bazen “halüsinasyon görür”, yani gerçekleri doğrulamak yerine kalıplara dayalı metin tahmin ettikleri için yanlış veya anlamsız iddiaları kendinden emin bir şekilde üretirler. Bu hatalar, çalışma şekillerinden kaynaklanır: doğruluğa değil tutarlılığa odaklanırlar, kusurlu eğitim verilerine güvenirler ve gerçek dünya anlayışından yoksundurlar.
Gerçeklik kontrolü araçları (örneğin, ChatGPT’nin gerçek zamanlı gerçeklik kontrolü için Bing arama aracı entegrasyonu gibi) veya komutlar (örneğin, ChatGPT’ye açıkça “hakemli kaynakları alıntıla” veya “emin değilsen bilmiyorum de” demek gibi) gibi iyileştirmeler halüsinasyonları azaltırken, onları tamamen ortadan kaldıramazlar.
Örneğin, belirli bir araştırma makalesinin ana bulgularının ne olduğu sorulduğunda, ChatGPT uzun, detaylı ve iyi görünen bir yanıt verir. Hatta ekran görüntüleri ve yanlış akademik makalelerden bir link bile içeriyordu. Bu nedenle kullanıcılar, yapay zeka tarafından oluşturulan bilgileri sorgulanamaz bir gerçek olarak değil, bir başlangıç noktası olarak ele almalıdır.
5. Matematik İşlemleri İçin Hesap Makinesi Kullanıyorlar
Yapay zeka sohbet botlarının son zamanlarda popülerleşen bir özelliği de akıl yürütmedir. Akıl yürütme, karmaşık problemleri çözmek için mantıksal olarak birbirine bağlı ara adımları kullanma sürecini ifade eder. Bu, “düşünce zinciri” akıl yürütmesi olarak da bilinir.
Doğrudan bir cevaba atlamak yerine, düşünce zinciri yapay zeka sohbet botlarının adım adım düşünmesini sağlar. Örneğin, “56.345 eksi 7.865 çarpı 350.468 kaç eder?” diye sorulduğunda, ChatGPT doğru cevabı verir. Çarpma işleminin çıkarma işleminden önce gerçekleşmesi gerektiğini “anlar”.
Ara adımları çözmek için ChatGPT, hassas aritmetik sağlayan yerleşik hesap makinesini kullanır. İçsel akıl yürütmeyi hesap makinesiyle birleştiren bu hibrit yaklaşım, karmaşık görevlerde güvenilirliği artırmaya yardımcı olur.
