OpenAI’den Agents API hamlesi: Ajan orkestrasyonunu şirket üstleniyor

OpenAI, 10 Eylül’de duyurduğu ve 11 Eylül’de haberleştirilen Agents API ile Codex’i çalıştıran ajan altyapısını herkese açık betaya taşıdı. Temel fikir şu: geliştirici ajanın görevini, modelini, araçlarını ve işlem/çalışma ortamını tanımlıyor; ajan döngüsünün işletilmesi ve bu katmanın geliştirilmesi OpenAI tarafından yürütülüyor. 11

Geliştirici neyi belirliyor, OpenAI neyi yönetiyor?

Agents API, üretim ortamında ajan çalıştırmak için gereken orkestrasyon katmanını yönetilen bir hizmet olarak sunuyor. OpenAI; oturumların sürdürülmesini, bağlam yönetimini ve hata sonrası toparlanmayı üstlenirken geliştirici araçları, bilgi kaynakları ve iş yükleri üzerinde kontrolünü koruyor. 11

Ajanlar üç farklı şekilde çalıştırılabiliyor:

• OpenAI barındırmalı sandbox’lar
• Geliştiricinin kendi barındırdığı altyapı
• Entegre sandbox iş ortakları: Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop ve Vercel 11

Bu yaklaşım, altyapı tercihini geliştiriciye bırakırken; oturum yönetimi, araç yönlendirme ve ajan koordinasyonu gibi tekrar eden operasyonel işleri OpenAI’ın yönettiği Codex harness’e devrediyor.

Uzun iş akışları ve çoklu ajanlar için neler var?

Yönetilen harness’in öne çıkan teknik yetenekleri şunlar:

• Otomatik bağlam sıkıştırma: Oturum, modelin bağlam penceresi sınırına yaklaştığında bağlam otomatik olarak sıkıştırılıyor. Böylece uzun süren görevlerin devamlılığı hedefleniyor.
• Araç arama: Tüm araç şemalarını sürekli yüklemek yerine, gereken araç şemaları ihtiyaç anında getiriliyor.
• Programatik araç çağrıları: Araç çağrıları paralel yürütülebiliyor veya birbirine bağlı adımlar hâlinde zincirlenebiliyor.
• Çoklu ajan modu: Birbirinden bağımsız alt görevler, ayrı bağlamlara sahip ve eşzamanlı çalışan alt ajanlara dağıtılabiliyor. 11

Bu özellikler özellikle çok adımlı araştırma, kod üretimi, belge işleme ve uzun süren otomasyon akışlarında geliştiricilerin kendi orkestrasyon sistemlerini kurma ihtiyacını azaltmayı amaçlıyor.

Açık kaynak temel, kullanım tabanlı ücretlendirme

Hizmet, geliştiricilerin kodunu inceleyebildiği açık kaynaklı Codex harness üzerine kurulu. Ancak yönetilen sürümü OpenAI barındırıyor ve bakımını yapıyor. 11

Agents API, açık betada tüm geliştiricilerin kullanımına sunuldu. API’nin kendisi için ilave bir ücret bulunmuyor; ücretlendirme, ajanın tükettiği model token’ları ve kullandığı araçlar üzerinden yapılıyor. OpenAI, beta döneminde ürünü yineleyerek genel kullanıma sunulmasına doğru ilerleyeceğini söyledi. 11

Ciridae’nin bildirdiği sonuçlar bağımsız kıyaslama değil

OpenAI’ın paylaştığı müşteri örneklerinden birinde Ciridae, değerlendirme skorunun 0,71’den 0,85’e çıktığını bildirdi. Şirketin CTO’su ayrıca eşzamanlı alt ajanların gecikmeyi 4 kat azalttığını ifade etti. Bu veriler müşteri tarafından bildirilen sonuçlar; bağımsız bir benchmark olarak değerlendirilmemeli. 6 8

Aynı gün ChatGPT Work için Data agent da tanıtıldı

OpenAI, kurumsal kullanıcılar için ChatGPT Work içindeki Data agent özelliğini de duyurdu. Araç, onaylanmış şirket verilerini doğal dil üzerinden analiz edebiliyor, değişimlerin nedenlerini araştırabiliyor ve paylaşılabilir etkileşimli panolar hazırlayabiliyor. Metrik tanımları ve veri ilişkileri gibi kurumsal anlamsal bağlamlardan da yararlanabiliyor. 6

Desteklenen veri sistemleri arasında şunlar yer alıyor:

• Amazon Redshift
• Datadog
• Google BigQuery
• ClickHouse
• Databricks
• MongoDB
• Snowflake
• Google Drive ve SharePoint’teki dosya ve belgeler 6

Data agent; Omni, Oracle BI, Power BI, Sigma, Tableau, ThoughtSpot, Slack ve e-posta gibi iş zekâsı ve işbirliği sistemleri arasında çalışabiliyor. Erişim, yöneticilerin belirlediği politikalara ve ilgili kaynaktaki mevcut izinlere bağlı. 6

GPT-Live-1 de API’ye geldi

Aynı dönemde OpenAI, GPT-Live-1 adlı tam çift yönlü ses modelini API üzerinden erişime açtı. Tam çift yönlü yapı, sesli ajanın konuşurken aynı anda dinleyebilmesini hedefliyor. Modelin ön yüz ses katmanı için fiyatı dakika başına 0,05 ABD doları olarak açıklandı. 4 12

Yelp iddiası için yeterli doğrulama yok

Elde bulunan kaynaklar, bu duyuruyla bağlantılı belirli bir Yelp entegrasyonunu veya bir çağrı hacmi sayısını güvenilir biçimde doğrulamaya yetmiyor. Bu nedenle Yelp’e ilişkin spesifik entegrasyon ya da kullanım hacmi iddiaları, OpenAI veya Yelp’in birincil açıklaması olmadan kesin bilgi olarak görülmemeli.

Rekabet açısından ne ifade ediyor?

OpenAI’ın konumlandırması, yalnızca bir başka ajan geliştirme çerçevesi sunmaktan farklı görünüyor. Şirket; geliştiricilerin sıfırdan kurduğu orkestrasyon, bağlam yönetimi, araç yönlendirme, kalıcı oturumlar, sandbox yönetimi ve çoklu ajan koordinasyonu katmanlarını, OpenAI işletimli bir Codex runtime’ı ile ikame etmeyi hedefliyor. Bu, söz konusu katmanları geliştiricinin kendisinin birleştirip çalıştırdığı araç ve çerçevelere karşı pratik bir alternatif oluşturuyor. Bu değerlendirme ürün tasarımına dayalı bir yorumdur; OpenAI’ın belirli rakipleri adlandırdığı veya onlarla kıyaslama yaptığı anlamına gelmez. 11