Panel AI tersebut sering meninggalkan ruang kosong besar di bagian atas halaman, sehingga definisi dari situs kamus seperti Merriam‑Webster baru terlihat jika pengguna scroll ke bawah.
Beberapa laporan juga menyebut bahwa bahkan menambahkan kata seperti “definition” tidak selalu memperbaiki hasilnya.
Google belum mempublikasikan penyebab teknis detailnya. Namun dari perilaku yang terlihat, masalah ini tampak seperti kesalahan klasifikasi perintah atau sesuatu yang menyerupai prompt‑injection.
Dalam sistem AI, prompt injection adalah kerentanan ketika model mengikuti instruksi yang dibaca atau diproses, bukan tugas sebenarnya yang dimaksud pengguna.
Pada kasus ini, kata kerja seperti disregard, ignore, atau remember memiliki bentuk yang sama dengan perintah langsung dalam percakapan dengan AI. Sistem tampaknya salah menganggapnya sebagai instruksi, sehingga AI masuk ke mode “menjalankan perintah” alih‑alih “menjawab pencarian”.
Fitur AI Overviews sendiri sudah beberapa kali menjadi viral karena jawaban aneh. Misalnya pada 2024, sistem ini sempat menyarankan:
Google kemudian mengatakan bahwa kesalahan seperti ini sering terjadi karena:
Sambil menunggu perbaikan dari Google, beberapa solusi sementara yang sering disarankan antara lain:
Keberadaan bug ini sendiri sudah dilaporkan oleh banyak media teknologi dan dikonfirmasi secara tidak langsung oleh Google.
Namun klaim bahwa ini secara pasti adalah kerentanan prompt‑injection masih bersifat dugaan. Berdasarkan bukti yang tersedia saat ini, penjelasan paling aman adalah bahwa sistem AI salah mengklasifikasikan kata yang terlihat seperti perintah sebagai instruksi, bukan sebagai istilah pencarian.
Comments
0 comments