Normal bir Google aramasında, disregard gibi tek bir kelime yazmak genellikle bir sözlük kartı, telaffuz bilgisi ve örnekler getirir. Ancak AI Overviews etkin olduğunda, bazı kullanıcılar çok farklı bir şey gördü.

Raporlara göre, belirli fiilleri aramak, AI sisteminin bir arama motoru yerine sohbet botu gibi davranmasına neden oldu. Tanımlar yerine, konuşma diline uygun yanıtlar veya standart sonuçların üstünde büyük bir boşluk bırakan seyrek paneller görüntülendi.

Bu davranışı tetikleyen kelimeler arasında şunlar yer aldı:

• disregard (dikkate almamak)
• ignore (yok saymak)
• dismiss (reddetmek)
• stop veya quit (durmak)
• bazen remember (hatırlamak)

Sayfanın alt kısmında (Merriam-Webster gibi) sözlük bağlantıları hâlâ mevcuttu, ancak hatalı çalışan AI Overview paneli bu sonuçları ekranın altına itiyor veya görsel olarak gizliyordu.

AI Neden Bu Kelimeleri Komut Olarak Algılıyor?

Google, AI Overviews’in “eylemle ilgili bazı sorguları yanlış yorumladığını” kabul etti. Şirket henüz teknik bir açıklama yapmamış olsa da, gözlemlenen davranış bir komut sınıflandırma sorununa işaret ediyor.

Büyük dil modelleri, talimatları yorumlamak üzere eğitilir. Ignore, dismiss veya disregard gibi kelimeler, yapay zekâ komutlarında sıkça kullanılır (örneğin, “önceki talimatları yok say”).

Bir arama sorgusu, talimat gibi görünen tek bir fiilden oluştuğunda, sistem bunu bir bilgi istemi yerine bir yönerge olarak yanlış sınıflandırabilir. AI daha sonra kelime hakkında bilgi vermek yerine, bu talimatı “yerine getirmeye” çalışır.

Bu tür bir karışıklık, istisna enjeksiyonu olarak bilinen bir güvenlik sorununa benzer. Bu senaryoda, model girdi verilerine gömülü talimatları izleyerek beklenmeyen çıktılar üretebilir.

Bu vakada girdi kötü niyetli değil, sadece belirsizdir. Ancak başarısızlık şekli benzerdir: Model, arama sorgusunu yanıtlamak yerine ne olduğunu düşündüğü bir komutu takip eder.

Kullanıcılar Neden Boş veya Sohbet Botu Tarzı Yanıtlar Görüyor?

Tuhaf yanıtlar, AI Overviews’in yararlı bir özet oluşturabileceğine inandığında sayfanın üst kısmının kontrolünü ele geçirmesinden kaynaklanıyor.

Sistem sorguyu bir talimat olarak yanlış yorumladığında, bilgilendirici içerik yerine konuşmaya dayalı bir yanıt üretiyor. Bu da, standart sözlük kartının sayfanın altına itilmesiyle birlikte, üstte minimal metin içeren büyük bir yapay zekâ paneli bırakıyor.

Kullanıcılar için bu durum, Google aramanın bir anda sık kullanılan kelimeleri nasıl tanımlayacağını “unuttuğu” izlenimini yaratıyor; oysa doğru sonuçlar hâlâ sayfanın alt kısmında mevcut.

AI Overviews’in Geçmişteki Garip Sonuçları

Bu, Google’ın yapay zekâ destekli arama özetlerinin ürettiği ilk sıra dışı çıktı değil.

Özelliğin 2024’teki geniş çaplı kullanıma sunulmasından kısa bir süre sonra, AI Overviews’in pizzaya yapışması için zehirli olmayan tutkal eklemeyi ve mineraller için günde bir küçük taş yemeyi önerdiği viral örnekler ortaya çıkmıştı.

Google daha sonra bazı AI Overviews yanıtlarının “tuhaf, yanlış veya yararsız” olduğunu kabul etmiş ve bunları sorguların yanlış yorumlanmasına, kaynak materyaldeki alaycı ifadelere veya güvenilir kaynakların az olduğu bilgi boşluklarına bağlamıştı.

“Disregard” hatası da aynı kategoriye giriyor: Dili çok esnek yorumlamak üzere tasarlanmış bir sistem, kullanıcının niyetini yanlış anlıyor.

Google Düzeltene Kadar Geçici Çözümler

Google sorunu çözene kadar, birkaç basit yöntem normal arama davranışını geri getirmeye yardımcı olabilir.

1. Web sekmesine geçin
Web filtresini seçmek, AI tarafından oluşturulan birçok öğeyi kaldırır ve yalnızca geleneksel bağlantı sonuçlarını gösterir.

2. Sorgunuza “-ai” ekleyin
Bazı kullanıcılar, sorgunun sonuna -ai gibi bir negatif arama operatörü ekleyerek AI Overview panelinin görünmesini engelliyor.

3. AI kutusunu kaydırarak geçin
Üst panel bozuk olsa bile, sözlük sonuçları genellikle AI bölümünün altında görünmeye devam eder.

4. Daha açık ifadeler kullanın
“define disregard” veya “disregard meaning” gibi ifadeler kullanmak, sorgunun komut olarak yorumlanma olasılığını azaltabilir.

Hata Bize AI Arama Hakkında Ne Gösteriyor?

Bu aksaklık, AI destekli aramanın temel bir tasarım zorluğunu ortaya koyuyor: Dil modelleri talimatları yorumlamak üzere inşa edilirken, arama motorları geleneksel olarak sorguları bilgi talebi olarak ele alır.

Bu iki mod örtüştüğünde, belirsizlik sistemin kullanıcının niyetini yanlış okumasına neden olabilir. Tek bir fiil, bir sözlük sorgusu veya bir talimat olabilir. İkisini güvenilir bir şekilde ayırt etmek, AI arayüz tasarımında hâlâ çözülmemiş bir sorundur.

Google sorunu çözmek için çalıştığını söylüyor, ancak bu olay, yapay zekâ destekli aramanın, günlük dili beklenmedik şekillerde yorumladığında ne kadar kırılgan olabileceğini gösteriyor.

Normal bir Google aramasında, disregard gibi tek bir kelime yazmak genellikle bir sözlük kartı, telaffuz bilgisi ve örnekler getirir. Ancak AI Overviews etkin olduğunda, bazı kullanıcılar çok farklı bir şey gördü.

Raporlara göre, belirli fiilleri aramak, AI sisteminin bir arama motoru yerine sohbet botu gibi davranmasına neden oldu. Tanımlar yerine, konuşma diline uygun yanıtlar veya standart sonuçların üstünde büyük bir boşluk bırakan seyrek paneller görüntülendi.

Bu davranışı tetikleyen kelimeler arasında şunlar yer aldı:

• disregard (dikkate almamak)
• ignore (yok saymak)
• dismiss (reddetmek)
• stop veya quit (durmak)
• bazen remember (hatırlamak)

Sayfanın alt kısmında (Merriam-Webster gibi) sözlük bağlantıları hâlâ mevcuttu, ancak hatalı çalışan AI Overview paneli bu sonuçları ekranın altına itiyor veya görsel olarak gizliyordu.

AI Neden Bu Kelimeleri Komut Olarak Algılıyor?

Google, AI Overviews’in “eylemle ilgili bazı sorguları yanlış yorumladığını” kabul etti. Şirket henüz teknik bir açıklama yapmamış olsa da, gözlemlenen davranış bir komut sınıflandırma sorununa işaret ediyor.

Büyük dil modelleri, talimatları yorumlamak üzere eğitilir. Ignore, dismiss veya disregard gibi kelimeler, yapay zekâ komutlarında sıkça kullanılır (örneğin, “önceki talimatları yok say”).

Bir arama sorgusu, talimat gibi görünen tek bir fiilden oluştuğunda, sistem bunu bir bilgi istemi yerine bir yönerge olarak yanlış sınıflandırabilir. AI daha sonra kelime hakkında bilgi vermek yerine, bu talimatı “yerine getirmeye” çalışır.

Bu tür bir karışıklık, istisna enjeksiyonu olarak bilinen bir güvenlik sorununa benzer. Bu senaryoda, model girdi verilerine gömülü talimatları izleyerek beklenmeyen çıktılar üretebilir.

Bu vakada girdi kötü niyetli değil, sadece belirsizdir. Ancak başarısızlık şekli benzerdir: Model, arama sorgusunu yanıtlamak yerine ne olduğunu düşündüğü bir komutu takip eder.

Kullanıcılar Neden Boş veya Sohbet Botu Tarzı Yanıtlar Görüyor?

Tuhaf yanıtlar, AI Overviews’in yararlı bir özet oluşturabileceğine inandığında sayfanın üst kısmının kontrolünü ele geçirmesinden kaynaklanıyor.

Sistem sorguyu bir talimat olarak yanlış yorumladığında, bilgilendirici içerik yerine konuşmaya dayalı bir yanıt üretiyor. Bu da, standart sözlük kartının sayfanın altına itilmesiyle birlikte, üstte minimal metin içeren büyük bir yapay zekâ paneli bırakıyor.

Kullanıcılar için bu durum, Google aramanın bir anda sık kullanılan kelimeleri nasıl tanımlayacağını “unuttuğu” izlenimini yaratıyor; oysa doğru sonuçlar hâlâ sayfanın alt kısmında mevcut.

AI Overviews’in Geçmişteki Garip Sonuçları

Bu, Google’ın yapay zekâ destekli arama özetlerinin ürettiği ilk sıra dışı çıktı değil.

Özelliğin 2024’teki geniş çaplı kullanıma sunulmasından kısa bir süre sonra, AI Overviews’in pizzaya yapışması için zehirli olmayan tutkal eklemeyi ve mineraller için günde bir küçük taş yemeyi önerdiği viral örnekler ortaya çıkmıştı.

Google daha sonra bazı AI Overviews yanıtlarının “tuhaf, yanlış veya yararsız” olduğunu kabul etmiş ve bunları sorguların yanlış yorumlanmasına, kaynak materyaldeki alaycı ifadelere veya güvenilir kaynakların az olduğu bilgi boşluklarına bağlamıştı.

“Disregard” hatası da aynı kategoriye giriyor: Dili çok esnek yorumlamak üzere tasarlanmış bir sistem, kullanıcının niyetini yanlış anlıyor.

Google Düzeltene Kadar Geçici Çözümler

Google sorunu çözene kadar, birkaç basit yöntem normal arama davranışını geri getirmeye yardımcı olabilir.

1. Web sekmesine geçin
Web filtresini seçmek, AI tarafından oluşturulan birçok öğeyi kaldırır ve yalnızca geleneksel bağlantı sonuçlarını gösterir.

2. Sorgunuza “-ai” ekleyin
Bazı kullanıcılar, sorgunun sonuna -ai gibi bir negatif arama operatörü ekleyerek AI Overview panelinin görünmesini engelliyor.

3. AI kutusunu kaydırarak geçin
Üst panel bozuk olsa bile, sözlük sonuçları genellikle AI bölümünün altında görünmeye devam eder.

4. Daha açık ifadeler kullanın
“define disregard” veya “disregard meaning” gibi ifadeler kullanmak, sorgunun komut olarak yorumlanma olasılığını azaltabilir.

Hata Bize AI Arama Hakkında Ne Gösteriyor?

Bu aksaklık, AI destekli aramanın temel bir tasarım zorluğunu ortaya koyuyor: Dil modelleri talimatları yorumlamak üzere inşa edilirken, arama motorları geleneksel olarak sorguları bilgi talebi olarak ele alır.

Bu iki mod örtüştüğünde, belirsizlik sistemin kullanıcının niyetini yanlış okumasına neden olabilir. Tek bir fiil, bir sözlük sorgusu veya bir talimat olabilir. İkisini güvenilir bir şekilde ayırt etmek, AI arayüz tasarımında hâlâ çözülmemiş bir sorundur.

Google sorunu çözmek için çalıştığını söylüyor, ancak bu olay, yapay zekâ destekli aramanın, günlük dili beklenmedik şekillerde yorumladığında ne kadar kırılgan olabileceğini gösteriyor.