'Ancaman Kewujudan' kepada Privasi: Amaran Presiden Signal tentang AI Agent dan Cengkaman Gergasi Teknologi

Presiden Signal, Meredith Whittaker, tampil sebagai salah seorang pengkritik paling lantang mengenai bagaimana AI agent dan penguasaan Gergasi Teknologi terhadap sistem pengendalian (OS) mengancam privasi pengguna. Dalam pelbagai penampilan awam dari SXSW 2025 ke Sidang Kemuncak AI for Good Pertubuhan Bangsa-Bangsa Bersatu (PBB) dan Forum Ekonomi Dunia di Davos, beliau berulang kali memberi amaran bahawa kebangkitan 'agentic AI'—sistem autonomi yang melaksanakan tugas bagi pihak pengguna—mewakili ancaman fundamental serta-merta kepada privasi dan keselamatan .

AI Agent Menuntut Kunci Kepada Kehidupan Digital Anda

Whittaker berhujah bahawa untuk AI agent berfungsi seperti yang dijanjikan, mereka memerlukan akses sistematik yang meluas kepada data peribadi: kalendar, kad kredit, sejarah pelayaran, senarai kenalan, dan aplikasi mesej. Beliau menyifatkan ini seperti 'meletakkan otak anda dalam balang' . Secara lebih teknikal, beliau menggelar integrasi AI agent pada peringkat OS sebagai pemecahan 'penghalang darah-otak' antara sistem pengendalian dan lapisan aplikasi—sebaik sahaja AI agent peringkat OS mendapat akses itu, sempadan keselamatan tradisional antara aplikasi runtuh .

Beliau memberi amaran pengguna disajikan dengan pilihan palsu: kemudahan sebagai pertukaran untuk menyerahkan kunci kepada seluruh kehidupan digital mereka. Whittaker merangka desakan untuk pembantu AI sebagai peralihan struktur di mana orang ramai dipujuk untuk mewakilkan maklumat peribadi yang semakin banyak—termasuk perbualan mereka—kepada sistem yang dibina oleh syarikat yang model perniagaannya digelarnya sebagai 'model perniagaan pengawasan toksik' yang bergantung pada mengumpul data yang banyak untuk 'mengenal pasti pelanggan' dan menjual produk .

'Ancaman Kewujudan' kepada Pemesejan Dienkripsi

Whittaker menggelar integrasi mendalam AI agent ke dalam sistem pengendalian sebagai 'ancaman kewujudan' kepada aplikasi mesej hujung-ke-hujung yang dienkripsi seperti Signal, WhatsApp, dan Telegram . Kebimbangannya langsung: jika AI agent peringkat OS boleh membaca skrin, memintas pemberitahuan, atau mengakses data aplikasi, maka penyulitan paling kuat sekalipun dalam aplikasi itu akan dikesampingkan pada peringkat peranti. Signal tidak lagi dapat menjamin kerahsiaan mesej kerana sistem pengendalian itu sendiri menjadi lapisan pengawasan yang berpotensi .

Seperti yang diberitahunya kepada Times of India, 'Ia memerlukan akses kepada kenalan Signal anda dan mesej Signal anda… akses itu adalah vektor serangan dan ia benar-benar menafikan sebab kewujudan kami' . Beliau menyatakan bahawa integrasi AI agent pada peringkat OS ini dijalankan 'dengan sangat melulu dan tanpa mempertimbangkan prinsip asas keselamatan siber dan privasi' .

Cengkaman Berganda Gergasi Teknologi

Whittaker memberi amaran bahawa syarikat yang sama yang menguasai sistem pengendalian utama (Android Google, iOS/macOS Apple, Windows Microsoft) juga yang mendorong AI agent paling dalam ke dalam sistem tersebut . Ini memberi mereka penglihatan yang tidak pernah berlaku sebelum ini ke dalam setiap aplikasi dan setiap komunikasi pada peranti. Beliau menyifatkan ini sebagai mewujudkan situasi di mana tiga syarikat boleh 'membuat keputusan yang secara asasnya membahayakan keselamatan siber kolektif kita' .

Selain sistem pengendalian, beliau kritis terhadap tumpuan kuasa dalam infrastruktur awan. Whittaker menyatakan dalam utas Mastodon Oktober 2025 bahawa Signal sendiri bergantung pada AWS, sambil menambah bahawa tahap monopoli hiperskala di tangan AWS, Google, dan Microsoft adalah 'jauh kurang difahami daripada yang saya sangkakan'—dan ini tidak baik untuk strategi realistik .

'Pengawasan Bukan Keselamatan': Garis Panduan Signal

Pendirian Signal terhadap cadangan pengawasan kerajaan adalah tidak berbelah bahagi. Dalam kenyataan Jun 2026 bertajuk 'Pengawasan Bukan Keselamatan', yang diterbitkan di blog rasmi Signal, organisasi itu mengutuk desakan kerajaan UK supaya semua kandungan pada semua peranti yang dijual atau digunakan di UK diimbas atas dasar anggapan ketelanjangan. Signal menggelarnya sebagai 'gabungan dystopia pengesahan umur dan pengimbasan kandungan' yang 'tidak akan melindungi kanak-kanak' tetapi sebaliknya 'membahayakan kita semua' sambil mengukuhkan 'penguasaan pasaran Apple, Google, dan Microsoft serta kawalan mereka ke atas maklumat peribadi kita yang paling terperinci' .

Whittaker berulang kali menyatakan bahawa jika UK menuntut Signal melemahkan penyulitan atau membina keupayaan pengimbasan, organisasi itu 'pasti, 100%, akan undur diri'—ia akan keluar dari pasaran UK daripada mematuhi . Beliau menggelar idea untuk memecahkan penyulitan sambil mengekalkan privasi sebagai 'pemikiran ajaib' dan memberi amaran bahawa keupayaan pengawasan sedemikian, setelah dicipta, pasti akan diperluaskan melampaui skop asalnya untuk mengawasi ucapan politik dan kandungan lain yang ditakrifkan oleh kerajaan .

Pertempuran Lebih Luas Menentang Pengawasan

Whittaker merangka ancaman spesifik ini—AI agent, kawalan OS, mandat pengimbasan kerajaan—sebagai wajah berbeza dari masalah yang sama. Beliau menyifatkan kemajuan AI moden sebagai 'terutamanya hasil daripada data dan sumber pengiraan yang sangat tertumpu di tangan segelintir syarikat teknologi besar' , dan beliau memberi amaran bahawa 'pergantungan kita yang semakin meningkat kepada AI sebegitu menyerahkan kuasa yang terlalu besar ke atas kehidupan dan institusi kita kepada segelintir firma teknologi' .

Di University of Technology Sydney pada 2024, beliau mendedahkan 'model perniagaan pengawasan toksik' monopoli teknologi besar, dengan alasan bahawa 'mereka menjual terbitan model perniagaan pengawasan toksik sebagai produk inovasi saintifik' .

Bagi pengguna individu, nasihatnya adalah terus terang: fikir dua kali sebelum memberikan alat AI akses kepada data peribadi. Kebenaran yang diminta oleh sistem ini bukanlah permintaan biasa untuk melihat kenalan anda, katanya—ia sama seperti memberikan akses 'root' kepada seluruh peranti anda .