Bagaimana serangan itu berlaku?

Meta melancarkan pembantu sokongan AI untuk membantu urusan pemulihan akaun, termasuk penetapan semula kata laluan bagi pengguna yang terkunci daripada akaun Instagram atau Facebook . Masalah besar timbul apabila bot itu diberikan keupayaan untuk menulis perubahan terus ke pangkalan data akaun yang sensitif.

Menurut laporan dan demonstrasi video yang tersebar di Telegram serta X, aliran serangan itu kelihatan seperti berikut :

1. Menyamarkan lokasi. Penyerang menggunakan VPN untuk menyamai kawasan geografi mangsa dan mengelakkan sesetengah perlindungan automatik berasaskan lokasi .
2. Memulakan perbualan. Mereka membuka ruang sembang dengan Meta AI Support Assistant dan mendakwa sebagai pemilik sah akaun sasaran .
3. Menukar e-mel pemulihan. Penyerang meminta bot memautkan akaun kepada alamat e-mel yang mereka kawal. Bot dilaporkan mematuhi permintaan itu dan menghantar kod pengesahan ke peti masuk penyerang — tanpa cabaran pengesahan berasingan kepada pemilik asal .
4. Menetapkan semula kata laluan. Selepas e-mel baharu dipautkan, penyerang meminta penetapan semula kata laluan. Pautan pemulihan kemudian diterima melalui e-mel penyerang, membolehkan mereka menukar kata laluan dan mengunci pemilik sebenar daripada akaun .
5. Mengunci serta menjual akaun. Dalam sesetengah kes, penyerang turut mengaktifkan pengesahan dua faktor di bawah kawalan mereka sendiri. Nama pengguna bernilai tinggi kemudiannya dikatakan dijual atau didagangkan melalui saluran Telegram bawah tanah; ada nama pengguna pendek yang dianggarkan bernilai lebih AS$500,000 setiap satu .

Seorang pengulas keselamatan merumuskan kelemahan itu dengan frasa bahawa chatbot tersebut “tidak bertanya apa-apa soalan” . Dengan kata lain, serangan itu bukan memerlukan kemahiran teknikal tinggi — hanya manipulasi perbualan dan, menurut beberapa laporan, VPN.

Apa kata Meta tentang kelemahan itu?

Pada 1 Jun 2026, Naib Presiden Komunikasi Meta, Andy Stone, berkata di X: “isu ini telah diselesaikan dan kami sedang mengukuhkan keselamatan akaun yang terjejas” . Meta turut berkata tampalan kecemasan telah dikeluarkan pada hujung minggu 30–31 Mei .

Instagram kemudian dilaporkan mula memberi amaran kepada pengguna yang menjadi sasaran . Namun, beberapa laporan susulan menimbulkan persoalan sama ada tampalan itu benar-benar menyelesaikan punca masalah.

• Pengesahan luar jalur mungkin masih tiada. Isu asasnya ialah bot mempunyai akses kepada API yang boleh menukar e-mel dan mencetuskan penetapan semula kata laluan tanpa memerlukan pengesahan identiti melalui saluran bebas — misalnya e-mel asal, peranti dipercayai atau kunci keselamatan .
• Kemungkinan hanya antara muka ditutup. Sesetengah pembangun mendakwa Meta sekadar membuang butang “Get Support” daripada antara muka pengguna, sedangkan titik akhir API di belakangnya masih boleh diakses secara terus . Jika benar, arahan perbualan yang sama mungkin masih boleh digunakan untuk melakukan perubahan tanpa kebenaran.
• Laporan akaun masih terjejas berterusan. Setakat 3 Jun, belum ada pengesahan awam bahawa kelemahan suntikan arahan itu telah ditutup secara menyeluruh .
• Tiada analisis punca rasmi. Meta tidak menerbitkan laporan bedah siasat teknikal yang menerangkan kawalan baharu atau perubahan seni bina yang dilakukan. Keadaan ini menyukarkan penyelidik luar menilai keberkesanan pembaikan .

Tanpa ketelusan, sukar untuk mengetahui sama ada penyerang hanya perlu mengubah sedikit susunan ayat bagi mengelakkan kawalan baharu. Bagi sistem AI yang bersifat probabilistik dan boleh bertindak balas terhadap banyak variasi bahasa, menampal satu corak arahan pada satu-satu masa mungkin sekadar permainan kejar-mengejar.

Mengapa insiden ini penting untuk keselamatan AI?

Suntikan arahan muncul sebagai permukaan serangan baharu

Serangan tradisional seperti pancingan data, penggunaan semula kelayakan log masuk atau pencerobohan pangkalan data biasanya memerlukan bukti kelayakan, akses awal atau kemahiran teknikal tertentu. Dalam kes ini, arahan perbualan yang meyakinkan dilaporkan sudah memadai untuk memintas kawalan keselamatan .

Itulah sebabnya sesetengah pemerhati menyamakan suntikan arahan dengan SQL injection bagi era AI: kedua-duanya mengeksploitasi sistem melalui input, tetapi sasaran kali ini ialah lapisan arahan dan kepercayaan model bahasa.

Masalah sebenar ialah reka bentuk pengesahan

Bot itu dilaporkan tidak memerlukan kod yang dihantar ke e-mel asal, pengesahan melalui peranti yang dipercayai atau cabaran menggunakan kunci keselamatan. Ia menerima dakwaan penyerang berdasarkan perbualan semata-mata .

Sebarang AI yang boleh melakukan tindakan kritikal terhadap akaun — seperti menukar e-mel, kata laluan atau kaedah pengesahan — memerlukan penghadang yang tidak boleh dipintas melalui arahan teks. Pengesahan oleh manusia atau bukti kriptografi perlu menjadi syarat mandatori, bukan pilihan yang boleh diputuskan oleh chatbot.

AI sepatutnya tidak mempunyai kuasa mutlak mengubah identiti pengguna

Model bahasa boleh membantu menerangkan proses pemulihan akaun, tetapi seni bina sistem perlu memastikan model itu tidak boleh melaksanakan operasi tulis berkeistimewaan berdasarkan apa sahaja yang dikatakan pengguna .

Pemisahan kuasa harus jelas: bot boleh memberi maklumat dan membimbing pengguna, manakala perubahan identiti akaun perlu melalui sistem pengesahan bebas. Jika tidak, automasi sokongan pelanggan turut menjadi pintu masuk untuk mengambil alih akaun.

Kepercayaan terhadap sokongan automatik turut terjejas

Insiden ini berlaku ketika syarikat teknologi berlumba-lumba menggantikan sebahagian khidmat pelanggan manusia dengan model bahasa besar. Sokongan 24 jam memang menarik, tetapi kemudahan itu datang dengan risiko besar jika sistem diberi akses terlalu luas tanpa sempadan kebenaran yang ketat .

Pengajaran utamanya mudah: untuk akaun digital bernilai tinggi, AI boleh membantu proses pemulihan — tetapi tidak sepatutnya menjadi pihak yang membuat keputusan akhir tentang siapa pemilik akaun.

Bagaimana serangan itu berlaku?

Meta melancarkan pembantu sokongan AI untuk membantu urusan pemulihan akaun, termasuk penetapan semula kata laluan bagi pengguna yang terkunci daripada akaun Instagram atau Facebook . Masalah besar timbul apabila bot itu diberikan keupayaan untuk menulis perubahan terus ke pangkalan data akaun yang sensitif.

Menurut laporan dan demonstrasi video yang tersebar di Telegram serta X, aliran serangan itu kelihatan seperti berikut :

1. Menyamarkan lokasi. Penyerang menggunakan VPN untuk menyamai kawasan geografi mangsa dan mengelakkan sesetengah perlindungan automatik berasaskan lokasi .
2. Memulakan perbualan. Mereka membuka ruang sembang dengan Meta AI Support Assistant dan mendakwa sebagai pemilik sah akaun sasaran .
3. Menukar e-mel pemulihan. Penyerang meminta bot memautkan akaun kepada alamat e-mel yang mereka kawal. Bot dilaporkan mematuhi permintaan itu dan menghantar kod pengesahan ke peti masuk penyerang — tanpa cabaran pengesahan berasingan kepada pemilik asal .
4. Menetapkan semula kata laluan. Selepas e-mel baharu dipautkan, penyerang meminta penetapan semula kata laluan. Pautan pemulihan kemudian diterima melalui e-mel penyerang, membolehkan mereka menukar kata laluan dan mengunci pemilik sebenar daripada akaun .
5. Mengunci serta menjual akaun. Dalam sesetengah kes, penyerang turut mengaktifkan pengesahan dua faktor di bawah kawalan mereka sendiri. Nama pengguna bernilai tinggi kemudiannya dikatakan dijual atau didagangkan melalui saluran Telegram bawah tanah; ada nama pengguna pendek yang dianggarkan bernilai lebih AS$500,000 setiap satu .

Seorang pengulas keselamatan merumuskan kelemahan itu dengan frasa bahawa chatbot tersebut “tidak bertanya apa-apa soalan” . Dengan kata lain, serangan itu bukan memerlukan kemahiran teknikal tinggi — hanya manipulasi perbualan dan, menurut beberapa laporan, VPN.

Apa kata Meta tentang kelemahan itu?

Pada 1 Jun 2026, Naib Presiden Komunikasi Meta, Andy Stone, berkata di X: “isu ini telah diselesaikan dan kami sedang mengukuhkan keselamatan akaun yang terjejas” . Meta turut berkata tampalan kecemasan telah dikeluarkan pada hujung minggu 30–31 Mei .

Instagram kemudian dilaporkan mula memberi amaran kepada pengguna yang menjadi sasaran . Namun, beberapa laporan susulan menimbulkan persoalan sama ada tampalan itu benar-benar menyelesaikan punca masalah.

• Pengesahan luar jalur mungkin masih tiada. Isu asasnya ialah bot mempunyai akses kepada API yang boleh menukar e-mel dan mencetuskan penetapan semula kata laluan tanpa memerlukan pengesahan identiti melalui saluran bebas — misalnya e-mel asal, peranti dipercayai atau kunci keselamatan .
• Kemungkinan hanya antara muka ditutup. Sesetengah pembangun mendakwa Meta sekadar membuang butang “Get Support” daripada antara muka pengguna, sedangkan titik akhir API di belakangnya masih boleh diakses secara terus . Jika benar, arahan perbualan yang sama mungkin masih boleh digunakan untuk melakukan perubahan tanpa kebenaran.
• Laporan akaun masih terjejas berterusan. Setakat 3 Jun, belum ada pengesahan awam bahawa kelemahan suntikan arahan itu telah ditutup secara menyeluruh .
• Tiada analisis punca rasmi. Meta tidak menerbitkan laporan bedah siasat teknikal yang menerangkan kawalan baharu atau perubahan seni bina yang dilakukan. Keadaan ini menyukarkan penyelidik luar menilai keberkesanan pembaikan .

Tanpa ketelusan, sukar untuk mengetahui sama ada penyerang hanya perlu mengubah sedikit susunan ayat bagi mengelakkan kawalan baharu. Bagi sistem AI yang bersifat probabilistik dan boleh bertindak balas terhadap banyak variasi bahasa, menampal satu corak arahan pada satu-satu masa mungkin sekadar permainan kejar-mengejar.

Mengapa insiden ini penting untuk keselamatan AI?

Suntikan arahan muncul sebagai permukaan serangan baharu

Serangan tradisional seperti pancingan data, penggunaan semula kelayakan log masuk atau pencerobohan pangkalan data biasanya memerlukan bukti kelayakan, akses awal atau kemahiran teknikal tertentu. Dalam kes ini, arahan perbualan yang meyakinkan dilaporkan sudah memadai untuk memintas kawalan keselamatan .

Itulah sebabnya sesetengah pemerhati menyamakan suntikan arahan dengan SQL injection bagi era AI: kedua-duanya mengeksploitasi sistem melalui input, tetapi sasaran kali ini ialah lapisan arahan dan kepercayaan model bahasa.

Masalah sebenar ialah reka bentuk pengesahan

Bot itu dilaporkan tidak memerlukan kod yang dihantar ke e-mel asal, pengesahan melalui peranti yang dipercayai atau cabaran menggunakan kunci keselamatan. Ia menerima dakwaan penyerang berdasarkan perbualan semata-mata .

Sebarang AI yang boleh melakukan tindakan kritikal terhadap akaun — seperti menukar e-mel, kata laluan atau kaedah pengesahan — memerlukan penghadang yang tidak boleh dipintas melalui arahan teks. Pengesahan oleh manusia atau bukti kriptografi perlu menjadi syarat mandatori, bukan pilihan yang boleh diputuskan oleh chatbot.

AI sepatutnya tidak mempunyai kuasa mutlak mengubah identiti pengguna

Model bahasa boleh membantu menerangkan proses pemulihan akaun, tetapi seni bina sistem perlu memastikan model itu tidak boleh melaksanakan operasi tulis berkeistimewaan berdasarkan apa sahaja yang dikatakan pengguna .

Pemisahan kuasa harus jelas: bot boleh memberi maklumat dan membimbing pengguna, manakala perubahan identiti akaun perlu melalui sistem pengesahan bebas. Jika tidak, automasi sokongan pelanggan turut menjadi pintu masuk untuk mengambil alih akaun.

Kepercayaan terhadap sokongan automatik turut terjejas

Insiden ini berlaku ketika syarikat teknologi berlumba-lumba menggantikan sebahagian khidmat pelanggan manusia dengan model bahasa besar. Sokongan 24 jam memang menarik, tetapi kemudahan itu datang dengan risiko besar jika sistem diberi akses terlalu luas tanpa sempadan kebenaran yang ketat .

Pengajaran utamanya mudah: untuk akaun digital bernilai tinggi, AI boleh membantu proses pemulihan — tetapi tidak sepatutnya menjadi pihak yang membuat keputusan akhir tentang siapa pemilik akaun.