Direktur Keamanan Android Google Mundur karena Kontrak AI Pentagon: "Manajemen Kehilangan Kompas Moral"

Bahasa kontrak mencakup dua pagar pembatas yang perlu dicatat:

• Senjata otonom: Gemini tidak boleh digunakan dalam sistem senjata otonom tanpa campur tangan manusia (human in the loop) .
• Pengawasan massal domestik: Kontrak melarang penggunaan untuk pengawasan massal domestik tanpa pengawasan manusia .

Namun, ini semua bersifat saran, bukan aturan yang dapat ditegakkan — Google dapat "merekomendasikan" agar tidak digunakan untuk tujuan tertentu tetapi tidak memiliki hak kontraktual untuk memveto keputusan operasional pemerintah . Para kritikus mencatat bahwa hal ini membuat pagar pembatas tersebut hanya sekadar saran, bukan batasan yang mengikat .

Pembatalan Prinsip AI 2018 oleh Google

Pada 4 Februari 2025, Google secara diam-diam menghapus komitmen inti dari Prinsip AI 2018-nya yang melarang pengembangan AI untuk senjata atau pengawasan . Prinsip 2018 tersebut diadopsi sebagai respons terhadap pemberontakan karyawan terkait Proyek Maven pada 2018, di mana ribuan pekerja Google memaksa manajemen untuk membatalkan kontrak analisis video drone Pentagon . Dengan membatalkan komitmen-komitmen itu, Google membersihkan jalur hukum dan etika untuk kesepakatan April 2026 .

Aksi Karyawan dan Batas-Batas Penolakan

• 27 April 2026 — Beberapa jam sebelum kontrak Pentagon ditandatangani, lebih dari 600 karyawan Google — termasuk ilmuwan DeepMind dan peneliti senior lainnya — menandatangani surat terbuka yang mendesak CEO Sundar Pichai untuk menolak kontrak tersebut . Ilmuwan DeepMind menggambarkan diri mereka "sangat malu" .
• Respons manajemen: Pimpinan Google mengabaikan keluhan tersebut, menyatakan bahwa perusahaan "bangga" bekerja dengan Pentagon dan terus melaju dengan integrasi rahasia itu .
• Pengaruh yang terbatas: Tidak seperti tahun 2018, ketika tekanan karyawan menghentikan Proyek Maven, pengaruh pekerja kali ini telah menyusut secara signifikan. Pimpinan Google tetap pada pendiriannya, dan kesepakatan berjalan sesuai rencana .

Episode ini menandai akhir yang pasti dari era "Don't Be Evil" Google dalam hal etika AI — dengan seorang direktur, ratusan karyawan, dan sejumlah pengunduran diri tidak mampu menghentikan poros militer perusahaan ini.