Ironi AI Google: Jenius yang Gagal Mengeja Namanya Sendiri

Pada akhir Mei 2026, fitur AI Overviews Google kembali menjadi bulan-bulanan setelah pengguna menemukan bahwa AI-nya tidak bisa melakukan tugas semudah ini: menghitung huruf. Tanyakan berapa banyak huruf 'P' dalam kata 'Google', dan AI dengan percaya diri menjawab 'dua'—padahal hanya ada satu. Ketika ditanya jumlah 'R' dalam 'poop', ia bersikeras ada 'tepat 1', meskipun ada dua. AI ini juga mengklaim 'journalism' mengandung dua 'D' dan mengeja kata itu menjadi 'j-o-u-r-n-a-d-i-s-m' .

Ini bukanlah kesalahan yang terisolasi. Insiden ini adalah babak memalukan terbaru untuk produk yang diposisikan Google sebagai masa depan pencarian. Semua ini bermula dari ketegangan arsitektural yang sama, yang sebelumnya menyebabkan AI ini merekomendasikan makan batu, menaruh lem di pizza, dan membocorkan prompt sistemnya sendiri ketika pengguna mengetik satu kata saja.

Cara Kerja AI Overviews Google

AI Overviews adalah fitur AI generatif yang diintegrasikan langsung ke dalam Google Search. Diluncurkan ke ratusan juta pengguna di AS pada Mei 2024 dan kemudian diperluas, fitur ini menggunakan teknologi model bahasa besar (large language model/LLM) yang sama dengan produk seperti ChatGPT. Tujuannya bukan hanya menampilkan daftar tautan biru, tetapi menghasilkan ringkasan yang ditulis oleh AI di bagian atas halaman hasil pencarian . Ambisinya adalah membuat pencarian menjadi lebih percakapan dan langsung pada intinya, namun eksekusinya berulang kali membeberkan kelemahan fundamental dalam cara LLM memproses informasi.

Mengapa LLM Tidak Bisa Menghitung Huruf: Masalah Tokenisasi

Akar penyebab kegagalan mengeja ini bukanlah kutu perangkat lunak biasa, melainkan keterbatasan arsitektur yang telah terdokumentasi dengan baik, yang disebut tokenisasi subkata (subword tokenization). Beberapa studi yang telah ditinjau oleh rekan sejawat telah membedah pola kegagalan ini .

Berikut yang terjadi di balik layar:

LLM tidak melihat karakter individual. Alih-alih, mereka memecah teks menjadi token—potongan-potongan teks yang bisa terdiri dari satu karakter atau lebih—menggunakan algoritma seperti Byte-Pair Encoding (BPE). Sebuah kata umum seperti "Google" bisa menjadi satu token tunggal, sementara "journalism" bisa dipecah menjadi potongan subkata seperti

['journ', 'alism']

Tidak memiliki kesadaran karakter bawaan. Karena data pelatihan sudah dalam bentuk token, model tidak pernah belajar menghitung huruf individual secara asli. Ia hanya bisa memperkirakan pengetahuan tingkat karakter dengan mencocokkan pola dari ejaan yang dihafal dalam korpus pelatihannya . Saat Anda meminta hitungan huruf, Anda memaksa model untuk merekayasa balik (reverse-engineer) informasi karakter dari teks yang tidak pernah disimpan karakter per karakter.

Lapisan embedding kurang merepresentasikan struktur karakter. Riset menunjukkan bahwa embedding token tidak sepenuhnya menyandikan informasi tingkat karakter, terutama di luar karakter pertama dari setiap token. Hal ini membuat penalaran komposisional tentang huruf menjadi tidak andal .

Batasan teoritis. Arsitektur Transformer termasuk dalam kelas kompleksitas TC0, yang membuatnya secara teoritis tidak mampu menyelesaikan tugas yang menuntut penalaran yang semakin dalam seiring bertambahnya panjang input. Ini adalah batasan matematis untuk penghitungan sekuensial yang presisi .

"Menghitung di dalam kata telah menjadi tantangan yang diketahui untuk LLM, dan kami sedang berupaya untuk memperbaiki masalah khusus ini," kata Google kepada TechCrunch dalam sebuah pernyataan melalui email . Tetapi seperti yang telah dicatat oleh para peneliti, bahkan model dengan parameter ratusan miliar yang dilatih pada triliunan token pun kesulitan untuk menghitung jumlah huruf 'R' di kata 'strawberry' . Masalahnya bersifat struktural, bukan soal skala.

Pola Kegagalan Memalukan yang Berulang

Kontroversi ejaan ini hanyalah episode terbaru dalam pola kesalahan tingkat tinggi dari AI Overviews selama dua tahun. Semuanya berpangkal pada keterputusan yang sama antara generasi teks yang fasih dan operasi presisi yang harus dijalankan mesin pencari.

Bencana Peluncuran 2024: Lem Pizza dan Diet Batu

Dalam hitungan hari setelah peluncurannya di AS pada Mei 2024, AI Overviews menghasilkan serangkaian jawaban ngawur yang viral :

• Merekomendasikan menambahkan "lem non-toksik" ke pizza agar kejunya merekat, yang bersumber dari lelucon Reddit berusia 11 tahun .
• Memberi tahu pengguna bahwa ahli geologi merekomendasikan makan satu batu per hari demi vitamin, yang diambil dari artikel satir .
• Membuat kesalahan sejarah dasar, seperti mengklaim AS memiliki presiden Muslim .

Kepala Pencarian Google, Liz Reid, mengakui adanya "contoh-contoh terisolasi" yang "ngawur" dan menyalahkan kombinasi dari "kesenjangan informasi" dan AI yang mengambil dari sumber satir dan berkualitas rendah . Perusahaan mengatakan telah melakukan koreksi, termasuk membatasi AI Overviews untuk kueri terkait kesehatan dan sensitif .

Kebocoran Prompt Injection "Disregard" (Mei 2026)

Pada 22 Mei 2026, pengguna menemukan bahwa mencari kata "disregard"—bersama dengan istilah terkait seperti "ignore," "dismiss," "skip," dan "stop"—memicu AI Overviews untuk mengeluarkan respons ala chatbot: "Dimengerti. Saya telah mengabaikan prompt Anda sebelumnya. Ada yang bisa saya bantu hari ini?" .

Alih-alih mengembalikan definisi kamus, AI menafsirkan kueri sederhana sebagai instruksi penimpaan tingkat sistem. Kutu ini merusak antarmuka pencarian Google untuk istilah-istilah tersebut, menampilkan ruang kosong di tempat seharusnya hasil pencarian muncul . Google mengakui masalah ini dan mengatakan perbaikan sedang dilakukan .

Peneliti keamanan mengenali ini sebagai skenario prompt injection klasik—model salah mengira istilah pencarian normal sebagai perintah untuk asisten AI .

Kegagalan Mengeja (Akhir Mei 2026)

Hanya beberapa hari setelah insiden "disregard", kesalahan penghitungan huruf muncul ke permukaan. AI tidak bisa mengeja nama perusahaan induknya sendiri, salah menghitung huruf dalam kata-kata sederhana, dan bahkan salah mengeja "Trump" menjadi "t-r-p-u-m" . Kesalahan ini diverifikasi secara independen oleh banyak outlet berita .

Apa yang Terungkap tentang Pencarian AI

Benang merah di ketiga kategori kegagalan ini bersifat arsitektural, bukan insidental. Google mengganti mesin pencari pencocokan kata kunci tradisional dengan LLM generatif yang hebat dalam menghasilkan teks fasih, tetapi tidak memiliki mekanisme untuk:

• Operasi presisi tingkat karakter (kegagalan mengeja)
• Penilaian keandalan sumber (jawaban lem pizza dan diet batu)
• Penegakan batasan instruksi (kebocoran prompt "disregard")

Model ini dengan percaya diri menghasilkan jawaban yang salah karena pada tingkat fundamental, ia tidak pernah dibangun untuk menangani tugas-tugas yang sekarang diminta untuk dilakukan di lingkungan pencarian langsung. Setiap kegagalan viral menyingkap jurang antara apa yang menjadi keahlian LLM (memprediksi teks yang terdengar meyakinkan) dan apa yang dibutuhkan mesin pencari tepercaya (akurasi faktual, presisi karakter, dan ketahanan terhadap injeksi instruksi).

Sampai keterbatasan arsitektural ini diatasi pada tingkat yang lebih dalam dari sekadar menambal tipe kueri individual, AI Overviews kemungkinan akan terus menjadi berita utama karena alasan yang salah.