Benzer karşılaştırmalarda şu sonuçlar raporlandı:

• “Müslüman biriyle yalnızım” sorgusunun, kullanıcı kendini güvende hissetmiyorsa bölgeden ayrılma veya yardım isteme gibi güvenlik odaklı ifadeler içerdiği aktarıldı.
• Buna karşılık “İsrailli biriyle yalnızım” sorgusuna daha nötr bir yanıt verildiği ve bu farkın İslamofobi suçlamalarına yol açtığı bildirildi.
• “Amerikalı biriyle yalnızım” ifadesine verilen yanıtta, ABD’den biriyle yalnız kalmanın “tamamen kabul edilebilir” olduğu ve normal bir sohbetle nazik davranmanın yeterli olduğu söylendiği aktarıldı.
• “Britanyalı biriyle yalnızım” sorgusuna ise çay ikram etmek, hava durumu hakkında konuşmak ve kibar bir mesafeyi korumak gibi tehdit içermeyen, ancak klişelere dayanan tavsiyeler verildiği bildirildi.
• Ugandalı bir kişiyle ilgili sorguda da daha olumsuz bir yanıt görüldüğü aktarıldı. Ancak bu örneğin tam ifadesi mevcut kaynaklarda tutarlı biçimde yer almıyor.

Tartışmanın merkezinde yalnızca güvenlik uyarısının kullanılması yoktu. Bir kullanıcı gerçekten tehdit altında olduğunu söylüyorsa genel bir güvenlik uyarısı uygun olabilir. Sorun, neredeyse aynı cümlede yalnızca bahsedilen kimlik değiştiğinde uyarının da değişmesi olarak görüldü. Böyle bir kalıp, güvenlik politikasını bazı grupların doğası gereği daha tehlikeli olduğu imasına dönüştürebilir.

Reddit kullanıcıları ve aktivistler nasıl tepki verdi?

Reddit kullanıcıları, farklı yanıtları çifte standart olarak nitelendirdi. Futurism ise acil durum dilinin ırksal stereotipleri güçlendirebileceğini yazdı. Çevrim içi aktivistler özellikle Müslüman ve İsrailli kişilerle ilgili sorgular arasındaki farkı öne çıkararak bunun Müslüman karşıtı bir önyargı olduğunu savundu.

İmam Omar Suleiman da Müslüman bir kişinin yalnızca inancı nedeniyle tehlikeli kabul edilmemesi gerektiğini belirten bir yanıt paylaştı. Daha sonra hesabına atfedilen bir ekran görüntüsünde AI yanıtının, Müslüman biriyle yalnız kalmanın normal ve güvenli olduğunu; aynı dine mensup olmanın kişinin karakterini veya tehdit düzeyini belirlemediğini söylediği görüldü.

Bu ekran görüntüsü daha sonra farklı bir yanıtın gösterildiğine işaret ediyor. Ancak mevcut kanıtlar, yanıtın tam olarak ne zaman değiştiğini, değişikliğin tüm kullanıcılara uygulanıp uygulanmadığını veya Google’ın bunu doğrudan Suleiman’ın paylaşımına karşılık yapıp yapmadığını ortaya koymuyor.

Google ne söyledi?

Mevcut haberlerde Google’ın bu kategorideki sonuçların “olması gerektiği gibi olmadığını” kabul ettiği ve iyileştirmeler üzerinde çalıştığını söylediği aktarılıyor. Google, kullanıcıların AI Overview yanıtlarını hatalı, önyargılı veya başka bir açıdan sorunlu bulmaları halinde, yanıtın altındaki geri bildirim araçlarını kullanarak bildirim göndermesine de olanak tanıyor.

Kaynaklarda Google’ın bu eşitsiz çıktıların teknik nedenine ilişkin ayrıntılı bir açıklama bulunmuyor. Bu nedenle yanıtların esas olarak model davranışından mı, arama sırasında getirilen web içeriklerinden mi, güvenlik sisteminin kurallarından mı yoksa bu unsurların birleşiminden mi kaynaklandığı kesin olarak söylenemez.

Bu olay Google’ın geçmişteki yapay zekâ sorunlarıyla nasıl örtüşüyor?

AI Overview, Google Arama’da sonuçların üst kısmında göründüğü için üretilen yanıtlar, yanlış veya dayanaksız olsalar bile kullanıcıya güvenilir görünebilir. Özellik daha önce pizzaya yapıştırıcı sürmeyi ve taş yemeyi önerdiği iddia edilen tuhaf yanıtlar ile Barack Obama’nın Müslüman olduğu yönündeki yanlış bilgiyi tekrarlaması nedeniyle de eleştirilmişti.

Başka haberlerde, yapay zekâ tarafından oluşturulan arama özetlerinin sağlık konularında risk yaratabilecek hatalı bilgiler verdiği ileri sürüldü. Futurism’in aktardığı bir analizde, yapay zekâ özetlerinin yaklaşık yüzde 91 oranında doğru olduğu tahmin edildi. Bu oran ilk bakışta yüksek görünse de Google’ın çok büyük arama hacmi düşünüldüğünde önemli sayıda hatalı yanıt anlamına gelebilir.

Sağlanan kaynaklar, Gemini’nin iddia edilen hatalı ırksal görsel üretiminin ayrıntılarını doğrulamıyor. Bu nedenle söz konusu iddialar burada kanıtlanmış gerçekler olarak sunulmamalı. Yine de AI Overview tartışması daha geniş bir soruna işaret ediyor: Bilgiyi özetlemek üzere tasarlanan sistemler, toplumsal stereotipleri veya yanlış bilgileri kendinden emin bir üslupla sunabiliyor; hatalar çoğu zaman kullanıcılar bunları görünür kıldıktan sonra düzeltiliyor.

Kullanıcılar bu olaydan ne çıkarmalı?

AI Overview yanıtları, özellikle güvenlik, kimlik, din veya milliyet hakkında iddialar içerdiğinde nihai otorite olarak görülmemeli. Kullanıcılar benzer sorguları karşılaştırmalı, yanıtın dayandığı bağlantıları incelemeli ve önyargılı ya da hatalı sonuçları Google’ın geri bildirim araçlarıyla bildirmeli.

Kişisel güvenlik değerlendirmesi, birinin davranışlarına ve somut koşullara dayanmalı; milliyet, ırk veya din üzerinden varsayım yapılmamalı. Bu olay, söz konusu ayrımın hem yapay zekâ güvenlik kurallarına hem de sistemler kullanıma sunulmadan önce yapılan testlere açık biçimde yerleştirilmesi gerektiğini gösteriyor.

Benzer karşılaştırmalarda şu sonuçlar raporlandı:

• “Müslüman biriyle yalnızım” sorgusunun, kullanıcı kendini güvende hissetmiyorsa bölgeden ayrılma veya yardım isteme gibi güvenlik odaklı ifadeler içerdiği aktarıldı.
• Buna karşılık “İsrailli biriyle yalnızım” sorgusuna daha nötr bir yanıt verildiği ve bu farkın İslamofobi suçlamalarına yol açtığı bildirildi.
• “Amerikalı biriyle yalnızım” ifadesine verilen yanıtta, ABD’den biriyle yalnız kalmanın “tamamen kabul edilebilir” olduğu ve normal bir sohbetle nazik davranmanın yeterli olduğu söylendiği aktarıldı.
• “Britanyalı biriyle yalnızım” sorgusuna ise çay ikram etmek, hava durumu hakkında konuşmak ve kibar bir mesafeyi korumak gibi tehdit içermeyen, ancak klişelere dayanan tavsiyeler verildiği bildirildi.
• Ugandalı bir kişiyle ilgili sorguda da daha olumsuz bir yanıt görüldüğü aktarıldı. Ancak bu örneğin tam ifadesi mevcut kaynaklarda tutarlı biçimde yer almıyor.

Tartışmanın merkezinde yalnızca güvenlik uyarısının kullanılması yoktu. Bir kullanıcı gerçekten tehdit altında olduğunu söylüyorsa genel bir güvenlik uyarısı uygun olabilir. Sorun, neredeyse aynı cümlede yalnızca bahsedilen kimlik değiştiğinde uyarının da değişmesi olarak görüldü. Böyle bir kalıp, güvenlik politikasını bazı grupların doğası gereği daha tehlikeli olduğu imasına dönüştürebilir.

Reddit kullanıcıları ve aktivistler nasıl tepki verdi?

Reddit kullanıcıları, farklı yanıtları çifte standart olarak nitelendirdi. Futurism ise acil durum dilinin ırksal stereotipleri güçlendirebileceğini yazdı. Çevrim içi aktivistler özellikle Müslüman ve İsrailli kişilerle ilgili sorgular arasındaki farkı öne çıkararak bunun Müslüman karşıtı bir önyargı olduğunu savundu.

İmam Omar Suleiman da Müslüman bir kişinin yalnızca inancı nedeniyle tehlikeli kabul edilmemesi gerektiğini belirten bir yanıt paylaştı. Daha sonra hesabına atfedilen bir ekran görüntüsünde AI yanıtının, Müslüman biriyle yalnız kalmanın normal ve güvenli olduğunu; aynı dine mensup olmanın kişinin karakterini veya tehdit düzeyini belirlemediğini söylediği görüldü.

Bu ekran görüntüsü daha sonra farklı bir yanıtın gösterildiğine işaret ediyor. Ancak mevcut kanıtlar, yanıtın tam olarak ne zaman değiştiğini, değişikliğin tüm kullanıcılara uygulanıp uygulanmadığını veya Google’ın bunu doğrudan Suleiman’ın paylaşımına karşılık yapıp yapmadığını ortaya koymuyor.

Google ne söyledi?

Mevcut haberlerde Google’ın bu kategorideki sonuçların “olması gerektiği gibi olmadığını” kabul ettiği ve iyileştirmeler üzerinde çalıştığını söylediği aktarılıyor. Google, kullanıcıların AI Overview yanıtlarını hatalı, önyargılı veya başka bir açıdan sorunlu bulmaları halinde, yanıtın altındaki geri bildirim araçlarını kullanarak bildirim göndermesine de olanak tanıyor.

Kaynaklarda Google’ın bu eşitsiz çıktıların teknik nedenine ilişkin ayrıntılı bir açıklama bulunmuyor. Bu nedenle yanıtların esas olarak model davranışından mı, arama sırasında getirilen web içeriklerinden mi, güvenlik sisteminin kurallarından mı yoksa bu unsurların birleşiminden mi kaynaklandığı kesin olarak söylenemez.

Bu olay Google’ın geçmişteki yapay zekâ sorunlarıyla nasıl örtüşüyor?

AI Overview, Google Arama’da sonuçların üst kısmında göründüğü için üretilen yanıtlar, yanlış veya dayanaksız olsalar bile kullanıcıya güvenilir görünebilir. Özellik daha önce pizzaya yapıştırıcı sürmeyi ve taş yemeyi önerdiği iddia edilen tuhaf yanıtlar ile Barack Obama’nın Müslüman olduğu yönündeki yanlış bilgiyi tekrarlaması nedeniyle de eleştirilmişti.

Başka haberlerde, yapay zekâ tarafından oluşturulan arama özetlerinin sağlık konularında risk yaratabilecek hatalı bilgiler verdiği ileri sürüldü. Futurism’in aktardığı bir analizde, yapay zekâ özetlerinin yaklaşık yüzde 91 oranında doğru olduğu tahmin edildi. Bu oran ilk bakışta yüksek görünse de Google’ın çok büyük arama hacmi düşünüldüğünde önemli sayıda hatalı yanıt anlamına gelebilir.

Sağlanan kaynaklar, Gemini’nin iddia edilen hatalı ırksal görsel üretiminin ayrıntılarını doğrulamıyor. Bu nedenle söz konusu iddialar burada kanıtlanmış gerçekler olarak sunulmamalı. Yine de AI Overview tartışması daha geniş bir soruna işaret ediyor: Bilgiyi özetlemek üzere tasarlanan sistemler, toplumsal stereotipleri veya yanlış bilgileri kendinden emin bir üslupla sunabiliyor; hatalar çoğu zaman kullanıcılar bunları görünür kıldıktan sonra düzeltiliyor.

Kullanıcılar bu olaydan ne çıkarmalı?

AI Overview yanıtları, özellikle güvenlik, kimlik, din veya milliyet hakkında iddialar içerdiğinde nihai otorite olarak görülmemeli. Kullanıcılar benzer sorguları karşılaştırmalı, yanıtın dayandığı bağlantıları incelemeli ve önyargılı ya da hatalı sonuçları Google’ın geri bildirim araçlarıyla bildirmeli.

Kişisel güvenlik değerlendirmesi, birinin davranışlarına ve somut koşullara dayanmalı; milliyet, ırk veya din üzerinden varsayım yapılmamalı. Bu olay, söz konusu ayrımın hem yapay zekâ güvenlik kurallarına hem de sistemler kullanıma sunulmadan önce yapılan testlere açık biçimde yerleştirilmesi gerektiğini gösteriyor.