OpenAI mühendislerinden Michael Bolin, şirketin Codex adlı yapay zeka kodlama aracının iç işleyişi hakkında detaylı teknik bilgiler paylaştı. Bu bilgiler, kod yazabilen, testleri çalıştırabilen ve insan denetimiyle hataları düzeltebilen yapay zeka kodlama araçlarına ilgi duyan geliştiricilere ışık tutuyor. Bu gelişme, yapay zeka ajanlarının çalışma prensiplerine dair daha önceki analizlerimizi, OpenAI'nin "ajan döngüsü" olarak adlandırdığı sistemi nasıl uyguladığına dair teknik detaylarla zenginleştiriyor.
Yapay zeka kodlama araçları, günümüzde büyük bir ivme kazanmış durumda. Gelişmiş modeller sayesinde prototiplerin hızla oluşturulması, arayüz tasarımlarının hazırlanması ve standart kodların üretilmesi gibi görevlerde önemli bir fayda sağlıyorlar. OpenAI'nin bu teknik detayları paylaşması, yapay zeka ajanlarının günlük iş akışları için daha pratik araçlar haline geldiği bir dönemde oldukça değerli.
Ancak bu araçlar mükemmel değil ve bazı yazılım geliştiricileri arasında tartışmalara yol açabiliyor. Yapay zeka araçlarının kendilerini geliştirmek için Codex'i bir kodlama aracı olarak kullandıklarını belirtmiş olsalar da, deneyimler, bu araçların basit görevlerde olağanüstü hızlar sunarken, eğitim verilerinin ötesine geçen durumlarda yetersiz kalabildiğini ve üretim aşamasındaki işler için insan denetimi gerektirdiğini gösteriyor. Projelerin genel çerçevesi hızlı ve etkileyici bir şekilde oluşturulabiliyor, ancak detayların doldurulması, ajanın tek başına üstesinden gelemeyeceği sınırlamalar için zaman alan hata ayıklama ve çözüm bulma süreçleri gerektiriyor.
Bolin'in paylaşımı, bu mühendislik zorluklarından kaçınmıyor. Karesel komut istemi büyümesinin verimsizliği, önbellek kaçırmalarından kaynaklanan performans sorunları ve ekibin keşfettiği (örneğin MCP araçlarının tutarsız listelenmesi gibi) ve düzeltmek zorunda kaldığı hatalar gibi konulara değiniliyor.
Paylaşılan teknik detayların düzeyi, OpenAI için oldukça alışılmadık. Şirket, örneğin ChatGPT gibi diğer ürünlerinin iç işleyişi hakkında benzer ayrıntılı açıklamalar yayınlamadı. Ancak, kodlama görevlerinin büyük dil modelleri için ideal olduğu göz önüne alındığında, OpenAI'nin Codex'i farklı bir şekilde ele aldığı daha önceki görüşmelerde belirtilmişti.
Hem OpenAI'nin hem de Anthropic'in kodlama CLI istemcilerini GitHub'da açık kaynak olarak sunması dikkat çekici. Bu durum, geliştiricilerin uygulama detaylarını doğrudan incelemelerine olanak tanırken, ChatGPT veya Claude web arayüzleri için benzer bir açıklık sunulmuyor.
Döngünün İçine Resmi Bir Bakış
Bolin'in paylaşımı, kullanıcının, yapay zeka modelinin ve modelin kodlama görevlerini yerine getirmek için kullandığı yazılım araçları arasındaki etkileşimleri yöneten temel mantık olan "ajan döngüsü" üzerine odaklanıyor.
Daha önce de belirtildiği gibi, her yapay zeka ajanının merkezinde tekrarlanan bir döngü yer alır. Ajan, kullanıcıdan gelen girdiyi alır ve model için metin tabanlı bir komut istemi hazırlar. Model daha sonra bir yanıt üretir; bu yanıt ya kullanıcıya nihai bir cevap sunar ya da bir araç çağrısı talep eder (örneğin, bir kabuk komutunu çalıştırmak veya bir dosyayı okumak gibi). Model bir araç çağrısı talep ederse, ajan bu çağrıyı yürütür, çıktıyı orijinal komut istemine ekler ve modeli tekrar sorgular. Model araç talep etmeyi bırakıp asistana bir mesaj ürettiğinde bu süreç tekrarlanır.
Bu döngüsel sürecin bir yerden başlaması gerekiyor. Bolin'in paylaşımı, Codex'in OpenAI'nin Yanıt API'sine gönderdiği ilk komut istemini nasıl oluşturduğunu ortaya koyuyor. Komut istemi, her birine önceliğini belirleyen bir rol atanan birkaç bileşenden oluşur: sistem, geliştirici, kullanıcı veya asistan.
Talimatlar alanı, kullanıcı tarafından belirtilen bir yapılandırma dosyasından veya CLI ile birlikte gelen temel talimatlardan gelir. Araçlar alanı, kabuk komutları, planlama araçları, web arama yetenekleri ve Model Bağlam Protokolü (MCP) sunucuları aracılığıyla sağlanan özel araçlar dahil olmak üzere modelin çağırabileceği işlevleri tanımlar. Girdi alanı, sanal alan izinlerini, isteğe bağlı geliştirici talimatlarını, geçerli çalışma dizini gibi ortam bağlamını ve son olarak kullanıcının gerçek mesajını açıklayan bir dizi öğeyi içerir.
Sohbetler devam ettikçe, her yeni dönüş önceki mesajların ve araç çağrılarının tam geçmişini içerir. Bu, komut isteminin her etkileşimle büyümesi anlamına gelir ve bu da performans etkilerine yol açar. Paylaşıma göre, Codex isteğe bağlı "previous_response_id" parametresini kullanmadığı için (bu, API'nin depolanan konuşma durumuna başvurmasına izin verir), her istek tamamen durumsuzdur (yani, sunucunun onu bellekten alması yerine her API çağrısında tüm konuşma geçmişini gönderir). Bolin, bu tasarım seçiminin API sağlayıcıları için işleri basitleştirdiğini ve OpenAI'nin kullanıcı verilerini saklamadığı "Sıfır Veri Tutma" seçeneğini tercih eden müşterileri desteklemeyi kolaylaştırdığını belirtiyor.
Bir sohbet boyunca komut istemlerinin karesel büyümesi verimsizdir, ancak Bolin, komut istemi önbelleklemenin bu sorunu bir dereceye kadar hafiflettiğini açıklıyor. Önbelleğe isabetler yalnızca bir komut istemindeki tam önek eşleşmeleri için çalışır, bu da Codex'in önbellek kaçırmalarına neden olabilecek işlemlerden dikkatlice kaçınması gerektiği anlamına gelir. Sohbet sırasında kullanılabilir araçları değiştirmek, modelleri değiştirmek veya sanal alan yapılandırmasını değiştirmek önbelleği geçersiz kılabilir ve performansı düşürebilir.
Sürekli büyüyen komut istemi uzunluğu, yapay zeka modelinin tek bir çıkarım çağrısında ne kadar metin işleyebileceğini sınırlayan bağlam penceresiyle doğrudan ilişkilidir. Bolin, Codex'in, tıpkı Claude Code gibi, jeton sayısının bir eşiği aştığında konuşmaları otomatik olarak sıkıştırdığını yazıyor. Codex'in önceki sürümleri, bir eğik çizgi komutu aracılığıyla manuel sıkıştırma gerektiriyordu, ancak mevcut sistem, modelin şifrelenmiş bir içerik öğesi aracılığıyla "anladığı" özetlenmiş kısımları korurken bağlamı sıkıştıran özel bir API uç noktası kullanıyor.
Bolin, serisinin gelecekteki paylaşımlarının CLI'nin mimarisi, araç uygulama detayları ve Codex'in sanal alan modeli hakkında bilgi vereceğini belirtiyor.
