Yapay zekâ nasıl tahmin eden sistemlerden harekete geçen ajanlara dönüştü?

Yapay zekânın gelişimi, bir teknolojinin diğerini tamamen ortadan kaldırdığı düz bir çizgi izlemedi. Aksine, yeni yetenekler eskilerin üzerine eklendi. Kurallara ve istatistiksel tahminlere dayalı sistemler bugün de yaygın biçimde kullanılıyor; üretken modeller metin, görsel, ses, video ve kod oluşturabiliyor; eylem odaklı yapay zekâ ajanları ise bu modelleri araçlara bağlayarak hedeflere ulaşmak için birden fazla adım atabiliyor.

Bu dönüşümü anlamanın en kolay yolu, yapay zekânın karar vermekten, üretmeye, oradan da harekete geçmeye ilerlemesi olarak bakmak. Her aşamada risklerin niteliği de değişiyor: Tahmin sistemlerinde doğruluk ve adalet test edilmeli; üretken sistemlerde doğruluk, güvenlik ve içeriğin kaynağı denetlenmeli; ajanlarda ise izinler, onay mekanizmaları ve denetlenebilir işlem kayıtları devreye girmeli.

Yetmiş yıla yayılan gelişim

Modern yapay zekâ alanı, makineyle akıl yürütme, oyun oynama ve sinir ağları üzerine öncü çalışmaların ardından 1950’lerde şekillendi. Araştırmalar daha sonra sembolik sistemler ve uzman sistemlerden 1990’larda makine öğrenmesine, 2010’larda ise derin öğrenmeye uzandı.

Bu dönemleri birbirinin yerine geçen kesin aşamalar olarak görmek yanıltıcı olur. Günümüzdeki bir ürün, isteği sınıflandırmak için tahmine dayalı bir model, yanıt taslağı hazırlamak için üretken bir model ve bir işlemin yapılıp yapılamayacağına karar vermek için geleneksel yazılım kontrolleri kullanabilir.

1. Geleneksel yapay zekâ: Kurallar, sınıflandırma ve tahmin

Geleneksel yapay zekâ temel olarak iki yaklaşımı kapsar:

• Sembolik veya kural tabanlı sistemler: İnsanların mantığı, alan bilgisini ve karar prosedürlerini sisteme açık kurallar olarak tanımladığı yapılar.
• Makine öğrenmesi sistemleri: Geçmiş verilerdeki istatistiksel ilişkileri öğrenerek girdileri sınıflandıran veya olası sonuçları tahmin eden modeller.

İlk oyun oynayan programlar, makinelerin sınırları belirli bir ortamda olası hamleleri tarayabildiğini gösterdi. Daha sonra benzer yöntemler ve istatistiksel öğrenme, günlük hayattaki çeşitli görevlerde kullanılmaya başladı:

• olağandışı veya dolandırıcılık şüphesi taşıyan işlemleri belirlemek;
• kredi ve temerrüt riskini değerlendirmek;
• hastanın durumunun kötüleşmesi veya yeniden hastaneye yatışı gibi sağlık risklerini tahmin etmek;
• ürünleri, videoları, müzikleri ve sosyal medya gönderilerini öneri motorlarında sıralamak;
• Siri gibi sesli asistanlarda konuşma tanıma, niyet sınıflandırması ve önceden tanımlanmış iş akışlarını birleştirmek.

Bu sistemler, görev dar kapsamlı, tekrarlanabilir ve ölçülebilir olduğunda genellikle başarılıdır. Büyük hacimli vakaları hızlıca işleyebilir ve tutarlı sonuçlar üretebilirler. Kural tabanlı sistemlerin karar mantığı açık olduğu için karmaşık modellere kıyasla incelenmeleri de daha kolay olabilir.

Tahminin sınırları

Geleneksel yapay zekâ, bir sonucun neden ortaya çıktığını kendiliğinden anlamaz. Bir model, nedensellik kurmadan istatistiksel bir ilişki tespit edebilir. Önyargılı geçmiş verilerle eğitilen sistemler de bu önyargıyı yeniden üretebilir veya büyütebilir. Kurallar, tasarlandıkları koşulların dışına çıkıldığında kırılganlaşabilir; karmaşık tahmin modellerinin açıklanması ise zor olabilir.

Gerçek dünya değiştiğinde performans düşebilir. Bu sorun genellikle veri kayması olarak adlandırılır. Kredi, işe alım, sigorta, kolluk ve sağlık hizmetleri gibi yüksek riskli alanlarda sorumlu kullanım için veri kalitesi kontrolleri, önyargı testleri, karara uygun açıklamalar, insan incelemesi, izleme ve itiraz yolları gerekir.

2. Üretken yapay zekâ: Yeni içerik oluşturmak

Üretken yapay zekâ, büyük metin, görsel, ses, video veya kod koleksiyonlarından örüntüler öğrenir ve bu örüntülere dayanarak yeni çıktılar üretir. Büyük dil modelleri metni sırayla oluştururken çok kipli sistemler farklı formatlarla birlikte çalışabilir.

Bu yaklaşım, kullanıcıların yapay zekâyla etkileşim biçimini değiştirdi. İnsanlar artık yalnızca sabit komutlar arasından seçim yapmak veya bir sınıflandırma puanı almak yerine, hedeflerini günlük dille anlatıp sistemden içerik taslağı hazırlamasını, dönüştürmesini ya da açıklamasını isteyebiliyor.

Üretken yapay zekâ nerelerde kullanılıyor?

• Müşteri hizmetleri: Yanıt taslağı hazırlama, görüşmeleri özetleme, çeviri yapma ve bilgi tabanlarından içerik bulma.
• Hukuk çalışmaları: Belgeleri özetleme, maddeleri çıkarma, içtihatları karşılaştırma ve ilk taslakları hazırlama. Hukuk uzmanlarının birincil kaynakları ve hukuki iddiaları doğrulaması yine gerekir.
• Eğitim: Kavramları açıklama, alıştırma soruları oluşturma ve geri bildirim verme.
• Yaratıcı çalışmalar: Fikir geliştirme, metin taslağı hazırlama, görsel ve müzik üretme, video konseptleri oluşturma ve kod yazma.
• Yazılım geliştirme: Kodu açıklama, test yazma, hata düzeltme önerileri sunma ve rutin geliştirme işlerini hızlandırma.

Başlıca faydalar; hız, taslak hazırlama maliyetlerinin düşmesi, doğal dille etkileşim ve kişiye özel birden fazla versiyon üretebilme kapasitesidir. Ancak kulağa ikna edici gelen bir yanıt üretmek, güvenilir bir uzman değerlendirmesi yapmakla aynı şey değildir.

Başlıca riskler

Halüsinasyonlar ve aşırı özgüven. Büyük dil modelleri, kendinden emin bir üslupla uydurma, hatalı, önyargılı veya aşırı basitleştirilmiş bilgiler sunabilir. Araştırmalar; halüsinasyon, zararlı içerik, manipülasyon, telif hakkı ihlali, gizlilik ve güvenlik sorunlarının test edilmesi ve izlenmesi gerektiğine dikkat çekiyor.

Öğrenme ve akademik dürüstlük. Büyük ölçekli bir lise saha araştırması, yapay zekâ destekli özel dersin araç erişilebilirken performansı artırabildiğini; ancak öğrenciler uygun korumalar olmadan araca bağımlı hâle geldiğinde erişim kaldırıldığında daha kötü performans gösterebildiğini ortaya koydu. Bu durum beceri kazanımının azalabileceğine işaret ediyor. Öğretmenler tarafından tasarlanan ipuçları, yanıtları doğrudan vermekten daha koruyucu bulundu. Üretken araçlar ayrıca intihali kolaylaştırabilir veya öğrencinin konuyu gerçekten öğrenip öğrenmediğini belirsizleştirebilir.

Telif ve içeriğin kaynağı. Eğitim verilerinin kaynağı, belirli bir sanatçının üslubunu taklit etme ve korunan materyalleri yeniden üreten çıktılarla ilgili tartışmalar sürüyor. Eğitim alanındaki kamu rehberleri, fikri mülkiyet ihlalini hatalı, önyargılı veya güvensiz içerikle birlikte önemli bir risk olarak tanımlıyor.

Zararlı ve manipülatif içerik. Üretken sistemler yanlış bilgi, taciz, cinsel veya şiddet içeren materyal ve tehlikeli talimatlar üretebilir. Güvenlik rehberleri, modelin her zaman amaçlanan davranışı göstereceğini varsaymak yerine test, koruma katmanları, etkinlik kayıtları ve izleme öneriyor.

Çocukların güvenliği ve esenliği. Genç kullanıcılar açısından yapılan araştırmalar; ruhsal esenlik, davranışsal ve sosyal gelişim, toksik içerik, mahremiyet, kötüye kullanım ve sömürüyle ilgili riskleri öne çıkarıyor. Kullanıcılar bir sohbet botunu nitelikli insan desteğinin yerine koyduğunda bu riskler daha da ciddi hâle gelebilir.

Gizlilik ve sır niteliğindeki bilgiler. Kullanıcı komutları kişisel veriler, ticari sırlar, müşteri materyalleri veya hukuken korunan gizli bilgiler içerebilir. Kurumların hangi verilerin hangi hizmetlere girilebileceği konusunda açık kurallar belirlemesi gerekir. Onaylanmamış sistemler, hassas bilgiler için uygun kabul edilmemelidir.

Üretken yapay zekâ için pratik önlemler

Temel yaklaşım, model çıktısını kanıt değil taslak olarak görmektir. Önemli olgusal iddialar güvenilir ve yetkili kaynaklarla karşılaştırılmalı; tıbbi, hukuki, finansal, istihdamla ilgili ve güvenlik açısından kritik kararlarda insan incelemesi zorunlu tutulmalıdır.

Onaylı kaynaklara dayalı bilgi getirme, kaynak gösterme, kırmızı takım testleri, içerik güvenlik filtreleri, yaşa uygun tasarım, denetim kayıtları, kullanıcıya yapay zekâ kullanıldığını açıklama ve veri işleme, akademik kullanım, içerik kaynağı ile fikri mülkiyet izinlerini kapsayan politikalar yararlı kontrollerdir. Kamu kurumlarının rehberleri de hatalı veya önyargılı içerik, veri ihlalleri, fikri mülkiyet ihlali ve akademik dürüstlük sorunlarına dikkat çekiyor.

3. Eylem odaklı yapay zekâ: Harekete geçebilen sistemler

Eylem odaklı yapay zekâ, modele bir eylem katmanı ekler. Bir ajan hedefi yorumlayabilir, hedefi adımlara bölebilir, tarayıcılar, kod depoları, veri tabanları veya mesajlaşma sistemleri gibi araçları çağırabilir, ara sonuçları inceleyebilir ve kendisine verilen izinler çerçevesinde çalışmayı sürdürebilir.

Bu nedenle büyük dil modeli kullansalar bile ajanlar sohbet botlarından farklıdır. Bir sohbet botu e-posta taslağı hazırlayabilir; bir ajan bilgiyi arayabilir, mesajı oluşturabilir, gönderebilir ve başka bir sistemi güncelleyebilir. Kod asistanı bir hatayı açıklayabilir; bir ajan kod tabanını inceleyebilir, dosyaları değiştirebilir, testleri çalıştırabilir ve incelemeye sunulacak bir değişiklik hazırlayabilir.

Güncel pazardaki örnekler arasında Google Jules gibi yazılım geliştirme ajanları, LinkedIn Hiring Assistant gibi işe alım iş akışı araçları ve OpenClaw gibi kişisel ajan çerçeveleri bulunuyor. OpenClaw, proje materyallerinde kullanıcının cihazlarında çalıştırılabilen, kanallara ve araçlara bağlanan kişisel ve açık kaynaklı bir asistan olarak tanımlanıyor. Gerçekte yapabilecekleri, kullanıcının etkinleştirdiği entegrasyonlara ve izinlere bağlı.

Ajanlar neden yararlı olabilir?

Eylem odaklı sistemler:

• tek tek taslak görevleri yerine uçtan uca iş akışlarını tamamlayabilir;
• rutin koordinasyon ve idari işleri azaltabilir;
• farklı iş sistemlerindeki bilgileri bir araya getirebilir;
• belirlenmiş sınırlar içinde sürekli çalışabilir.

Bu kapasite, karmaşık iş akışlarını küçük kuruluşlar ve bireysel kullanıcılar için daha erişilebilir hâle getirebilir. Ancak temel soru da değişir: “Yanıt doğru mu?” sorusuna artık “Sistem ne yapmaya yetkili ve eylemleri nasıl denetlenebilir?” sorusu eklenir.

Özerklik risk alanını neden genişletiyor?

Üretken bir model bir yanıtta hata yapabilir. Bir ajan ise hatalı bir çıkarımı, kötü niyetli bir talimatı veya ele geçirilmiş bir aracı dış dünyada gerçek bir eyleme dönüştürebilir.

Örneğin finansal erişimi olan bir ajan izinsiz ödeme, satın alma, para transferi veya iptal işlemi gerçekleştirebilir. E-posta, tarayıcı veya bulut erişimi olan bir ajan, kötü amaçlı bir web sayfası ya da belge tarafından manipüle edilerek kimlik bilgilerini açığa çıkarabilir veya gizli dosyaları gönderebilir. Aşırı yetkiler, zayıf kimlik kontrolleri ve görevlerin yeterince ayrılmaması, küçük bir model hatasını ciddi bir güvenlik olayına dönüştürebilir.

Model, talimatlar, veriler, araçlar ve diğer ajanlar arasındaki etkileşimlerden doğan bir sonucu tek bir aktöre bağlamak da zorlaşabilir. Bu nedenle sistemi işleten kurumun yalnızca nihai sonucu değil; önerilen eylemi, eylemin dayandığı kanıtları ve kullanılan izinleri de görebilmesi gerekir.

Yetenek arttıkça yönetişim de güçlenmeli

Üç aşamanın tamamında temel ilkeler aynıdır: hesap verebilir bir sorumlu belirlemek, sistemi tanımlı bir amaçla sınırlamak, verileri korumak, kullanıma almadan önce test etmek, performansı izlemek, olaylara hazırlıklı olmak ve sonuçları önemli kararlar doğuran durumlarda anlamlı insan incelemesi veya müdahalesi sağlamak.

Ajanlar dış sistemleri etkileyebildiği için ek kontrollere ihtiyaç duyar. Uygulanabilecek önlemler şunlardır:

• en az ayrıcalık ilkesi ve süreyle sınırlı kimlik bilgileri;
• her ajan için ayrı hesaplar ve açık kimlik tanımı;
• ajanın neleri okuyabileceğini, yazabileceğini, gönderebileceğini, satın alabileceğini, silebileceğini veya dağıtıma alabileceğini belirleyen net sınırlar;
• geri döndürülemez veya yüksek etkili eylemler için açık onay adımları;
• izin verilen araç listeleri, yalıtılmış test ortamları ve komut enjeksiyonuna karşı koruma;
• işlem limitleri ve anomali tespiti;
• ayrıntılı ve değiştirilmeye karşı dayanıklı eylem kayıtları;
• görevlerin ayrılığı ve riskle orantılı insan onayı;
• sistemi hızla durdurabilecek bir duraklatma veya acil kapatma düğmesi.

Singapur’un 22 Ocak 2026’da yayımladığı Ajanik Yapay Zekâ için Model Yapay Zekâ Yönetişimi Çerçevesi, bağımsız bir yapay zekâ yasasından ziyade bu sistemleri kullanan kuruluşlara yönelik bir rehber niteliğinde. Çerçeve, insan ve kurumsal hesap verebilirliği merkeze alıyor; risk yönetimi ve kontrollerin ajanın özerklik düzeyiyle orantılı olmasını öneriyor.

Finansal hizmetler alanında Singapur Para Otoritesi’nin SAFR belgesi, çalışma zamanında yönetişim yaklaşımını ele alıyor. Bu yaklaşımda yapılandırılmış bir kayıt; ajanın ne yapmak istediğini, bunu neden yapmak istediğini ve önerilen eylemi hangi kanıtların desteklediğini gösteriyor.

Sonuç: Yapay zekâ “karar veriyor”dan “harekete geçiyor”a

Yapay zekânın gelişimi yalnızca “eski yapay zekâdan” “yeni yapay zekâya” geçiş değil. Kurallara ve tahminlere dayalı sistemler, sınırları belirli pek çok karar için hâlâ en uygun seçenek. Üretken yapay zekâ esnek içerik üretimini ve doğal dille etkileşimi mümkün kılıyor. Eylem odaklı yapay zekâ ise araçlar ve dış sistemler üzerinden hedeflerin izlenmesini sağlıyor.

Bu kapasiteyle birlikte yönetişim yükü de artıyor. Tahmin sistemlerinde doğruluk, önyargı ve veri kayması; üretken sistemlerde doğrulama, güvenlik, gizlilik ve içerik kaynağı; eylem odaklı sistemlerde ise bunlara ek olarak izin kontrolleri, onay adımları, hesap verebilirlik ve olay sonrası kurtarma planları kritik hâle geliyor.

En güvenilir yapay zekâ ürünleri, yalnızca güçlü modeller kullananlar değil; model yeteneğini disiplinli sistem tasarımı ve gerçek insan denetimiyle birleştirenler olacak.