Dalam carian Google biasa, menaip perkataan seperti disregard biasanya akan memaparkan kad kamus dengan definisi, sebutan, dan contoh. Tetapi dengan AI Overviews diaktifkan, sesetengah pengguna melihat sesuatu yang berbeza.

Laporan menunjukkan bahawa carian kata kerja tertentu menyebabkan sistem AI berkelakuan seperti chatbot dan bukannya enjin carian. Daripada definisi, ia mengembalikan respons berbentuk perbualan atau panel kosong yang meninggalkan ruang kosong yang besar di atas hasil carian standard.

Beberapa perkataan yang diperhatikan mencetuskan tingkah laku ini termasuk:

• disregard
• ignore
• dismiss
• stop atau quit
• kadangkala remember

Hasil kamus yang mendasari selalunya masih wujud di bahagian bawah halaman (seperti pautan ke Merriam‑Webster), tetapi AI Overview yang tidak berfungsi dengan baik akan menolaknya ke bawah atau menyembunyikannya secara visual.

Mengapa AI Menganggap Perkataan Ini Sebagai Arahan

Google telah mengakui bahawa AI Overviews “salah mentafsir pertanyaan yang berkaitan dengan arahan.” Syarikat itu belum lagi mengeluarkan penjelasan teknikal penuh secara terbuka, tetapi tingkah laku yang diperhatikan sangat menyerupai masalah pengelasan arahan.

Model bahasa besar dilatih untuk mentafsir arahan. Perkataan seperti ignore, dismiss, atau disregard sering muncul dalam gesaan (prompts) sebagai arahan—contohnya, “ignore previous instructions.”

Apabila pertanyaan carian terdiri daripada kata kerja tunggal yang kelihatan seperti arahan, sistem mungkin salah mengelaskannya sebagai arahan dan bukannya permintaan carian maklumat. AI kemudiannya cuba “melaksanakan” arahan tersebut dan bukannya mengembalikan maklumat tentang perkataan itu sendiri.

Kekeliruan jenis ini menyerupai kelas masalah keselamatan AI yang dikenali sebagai suntikan arahan (prompt injection), di mana model mengikut arahan yang tertanam dalam data input dan bukannya melaksanakan tugas yang dimaksudkan. Dalam senario suntikan arahan, arahan yang tersembunyi atau tidak jelas boleh menyebabkan sistem mengubah tingkah laku atau outputnya secara tidak dijangka.

Dalam kes ini, input bukan berniat jahat—ia hanya samar-samar. Tetapi mod kegagalan adalah serupa: model mengikut apa yang difikirkannya sebagai arahan dan bukannya menjawab pertanyaan carian.

Mengapa Pengguna Melihat Respons Kosong atau Seperti Chatbot

Respons pelik berlaku kerana AI Overviews mengambil alih bahagian atas halaman hasil apabila ia percaya ia boleh menghasilkan ringkasan yang berguna.

Apabila sistem salah mentafsir pertanyaan sebagai arahan, ia menghasilkan respons berbentuk perbualan dan bukannya kandungan informatif. Ini meninggalkan panel AI yang besar dengan teks yang minimum, manakala kad kamus biasa akan disesarkan ke bahagian bawah halaman.

Bagi pengguna, kesannya kelihatan seperti carian Google tiba-tiba “lupa” cara mentakrifkan perkataan biasa—walaupun hasil yang betul masih wujud di bawah blok AI.

Bukan Kali Pertama AI Overviews Menghasilkan Hasil Pelik

Ini bukan kali pertama ringkasan carian janaan AI Google menghasilkan output luar biasa.

Tidak lama selepas pelancaran ciri ini secara lebih meluas pada 2024, beberapa contoh tular menunjukkan AI Overviews memberikan nasihat pelik, termasuk mencadangkan orang ramai menambah gam tidak toksik ke dalam sos piza untuk membuat keju melekat lebih baik dan mendakwa orang ramai harus makan satu batu kecil setiap hari untuk mineral.

Google kemudiannya mengakui bahawa sesetengah respons AI Overviews adalah “pelik, tidak tepat atau tidak membantu,” mengaitkan kebanyakannya dengan pertanyaan yang salah tafsir, sindiran dalam bahan sumber, atau jurang maklumat di mana sumber yang boleh dipercayai adalah terhad.

Bug “disregard” ini sesuai dalam kategori yang sama: sistem yang direka untuk mentafsir bahasa terlalu fleksibel akhirnya salah memahami niat pengguna.

Cara Kerja Sementara Sehingga Google Membaikinya

Sehingga Google menyelesaikan isu ini, beberapa petua mudah boleh membantu memulihkan tingkah laku carian biasa.

1. Tukar ke tab Web
Memilih penapis Web akan mengalih keluar banyak elemen janaan AI dan menunjukkan hasil pautan tradisional sebaliknya.

2. Tambah “-ai” pada pertanyaan anda
Sesetengah pengguna menindas ringkasan AI dengan menambah pengendali carian negatif seperti -ai pada pertanyaan, yang boleh menghalang panel AI Overviews daripada muncul.

3. Skrol melepasi kotak AI
Dalam banyak kes, hasil kamus masih muncul di bawah bahagian AI, walaupun panel atas rosak.

4. Gunakan perkataan yang lebih eksplisit
Carian frasa seperti “define disregard” atau “disregard meaning” boleh mengurangkan kemungkinan pertanyaan ditafsir sebagai arahan.

Apa yang Didedahkan Bug Ini Tentang Carian AI

Kegagalan ini menyerlahkan cabaran reka bentuk yang lebih mendalam dalam carian dipacu AI: model bahasa dibina untuk mentafsir arahan, manakala enjin carian secara tradisinya menganggap pertanyaan sebagai permintaan untuk maklumat.

Apabila dua mod ini bertindih, kekaburan boleh menyebabkan sistem salah membaca niat. Kata kerja tunggal mungkin merupakan carian kamus—atau arahan. Membezakan antara kedua-duanya dengan boleh dipercayai masih menjadi masalah terbuka dalam reka bentuk antara muka AI.

Google berkata ia sedang berusaha untuk membetulkannya, tetapi insiden ini menunjukkan betapa rapuhnya carian diperkukuh AI apabila model mentafsir bahasa harian dengan cara yang tidak dijangka.

Dalam carian Google biasa, menaip perkataan seperti disregard biasanya akan memaparkan kad kamus dengan definisi, sebutan, dan contoh. Tetapi dengan AI Overviews diaktifkan, sesetengah pengguna melihat sesuatu yang berbeza.

Laporan menunjukkan bahawa carian kata kerja tertentu menyebabkan sistem AI berkelakuan seperti chatbot dan bukannya enjin carian. Daripada definisi, ia mengembalikan respons berbentuk perbualan atau panel kosong yang meninggalkan ruang kosong yang besar di atas hasil carian standard.

Beberapa perkataan yang diperhatikan mencetuskan tingkah laku ini termasuk:

• disregard
• ignore
• dismiss
• stop atau quit
• kadangkala remember

Hasil kamus yang mendasari selalunya masih wujud di bahagian bawah halaman (seperti pautan ke Merriam‑Webster), tetapi AI Overview yang tidak berfungsi dengan baik akan menolaknya ke bawah atau menyembunyikannya secara visual.

Mengapa AI Menganggap Perkataan Ini Sebagai Arahan

Google telah mengakui bahawa AI Overviews “salah mentafsir pertanyaan yang berkaitan dengan arahan.” Syarikat itu belum lagi mengeluarkan penjelasan teknikal penuh secara terbuka, tetapi tingkah laku yang diperhatikan sangat menyerupai masalah pengelasan arahan.

Model bahasa besar dilatih untuk mentafsir arahan. Perkataan seperti ignore, dismiss, atau disregard sering muncul dalam gesaan (prompts) sebagai arahan—contohnya, “ignore previous instructions.”

Apabila pertanyaan carian terdiri daripada kata kerja tunggal yang kelihatan seperti arahan, sistem mungkin salah mengelaskannya sebagai arahan dan bukannya permintaan carian maklumat. AI kemudiannya cuba “melaksanakan” arahan tersebut dan bukannya mengembalikan maklumat tentang perkataan itu sendiri.

Kekeliruan jenis ini menyerupai kelas masalah keselamatan AI yang dikenali sebagai suntikan arahan (prompt injection), di mana model mengikut arahan yang tertanam dalam data input dan bukannya melaksanakan tugas yang dimaksudkan. Dalam senario suntikan arahan, arahan yang tersembunyi atau tidak jelas boleh menyebabkan sistem mengubah tingkah laku atau outputnya secara tidak dijangka.

Dalam kes ini, input bukan berniat jahat—ia hanya samar-samar. Tetapi mod kegagalan adalah serupa: model mengikut apa yang difikirkannya sebagai arahan dan bukannya menjawab pertanyaan carian.

Mengapa Pengguna Melihat Respons Kosong atau Seperti Chatbot

Respons pelik berlaku kerana AI Overviews mengambil alih bahagian atas halaman hasil apabila ia percaya ia boleh menghasilkan ringkasan yang berguna.

Apabila sistem salah mentafsir pertanyaan sebagai arahan, ia menghasilkan respons berbentuk perbualan dan bukannya kandungan informatif. Ini meninggalkan panel AI yang besar dengan teks yang minimum, manakala kad kamus biasa akan disesarkan ke bahagian bawah halaman.

Bagi pengguna, kesannya kelihatan seperti carian Google tiba-tiba “lupa” cara mentakrifkan perkataan biasa—walaupun hasil yang betul masih wujud di bawah blok AI.

Bukan Kali Pertama AI Overviews Menghasilkan Hasil Pelik

Ini bukan kali pertama ringkasan carian janaan AI Google menghasilkan output luar biasa.

Tidak lama selepas pelancaran ciri ini secara lebih meluas pada 2024, beberapa contoh tular menunjukkan AI Overviews memberikan nasihat pelik, termasuk mencadangkan orang ramai menambah gam tidak toksik ke dalam sos piza untuk membuat keju melekat lebih baik dan mendakwa orang ramai harus makan satu batu kecil setiap hari untuk mineral.

Google kemudiannya mengakui bahawa sesetengah respons AI Overviews adalah “pelik, tidak tepat atau tidak membantu,” mengaitkan kebanyakannya dengan pertanyaan yang salah tafsir, sindiran dalam bahan sumber, atau jurang maklumat di mana sumber yang boleh dipercayai adalah terhad.

Bug “disregard” ini sesuai dalam kategori yang sama: sistem yang direka untuk mentafsir bahasa terlalu fleksibel akhirnya salah memahami niat pengguna.

Cara Kerja Sementara Sehingga Google Membaikinya

Sehingga Google menyelesaikan isu ini, beberapa petua mudah boleh membantu memulihkan tingkah laku carian biasa.

1. Tukar ke tab Web
Memilih penapis Web akan mengalih keluar banyak elemen janaan AI dan menunjukkan hasil pautan tradisional sebaliknya.

2. Tambah “-ai” pada pertanyaan anda
Sesetengah pengguna menindas ringkasan AI dengan menambah pengendali carian negatif seperti -ai pada pertanyaan, yang boleh menghalang panel AI Overviews daripada muncul.

3. Skrol melepasi kotak AI
Dalam banyak kes, hasil kamus masih muncul di bawah bahagian AI, walaupun panel atas rosak.

4. Gunakan perkataan yang lebih eksplisit
Carian frasa seperti “define disregard” atau “disregard meaning” boleh mengurangkan kemungkinan pertanyaan ditafsir sebagai arahan.

Apa yang Didedahkan Bug Ini Tentang Carian AI

Kegagalan ini menyerlahkan cabaran reka bentuk yang lebih mendalam dalam carian dipacu AI: model bahasa dibina untuk mentafsir arahan, manakala enjin carian secara tradisinya menganggap pertanyaan sebagai permintaan untuk maklumat.

Apabila dua mod ini bertindih, kekaburan boleh menyebabkan sistem salah membaca niat. Kata kerja tunggal mungkin merupakan carian kamus—atau arahan. Membezakan antara kedua-duanya dengan boleh dipercayai masih menjadi masalah terbuka dalam reka bentuk antara muka AI.

Google berkata ia sedang berusaha untuk membetulkannya, tetapi insiden ini menunjukkan betapa rapuhnya carian diperkukuh AI apabila model mentafsir bahasa harian dengan cara yang tidak dijangka.