Tim Keamanan AI Google DeepMind Beri Peringatan: Filter Rekrutmen AI Kami Tidak Bisa Diandalkan

Ironi inti

ASAT ada untuk mengurangi risiko eksistensial dan bencana dari AGI dan pada akhirnya kecerdasan super . Namun, panduan internal tim secara eksplisit memperingatkan bahwa filter perekrutan AI Google sendiri tidak dapat dipercaya. Menurut sebuah dokumen yang dilihat oleh Bloomberg, tim tersebut menyatakan: "Kami memiliki sistem aplikasi dengan kemungkinan yang tidak sepele bahwa CV Anda akan tersaring secara tidak benar atau memakan waktu terlalu lama untuk mencapai kami" . Tim tersebut secara efektif memberi tahu calon karyawan: jangan mengandalkan AI perusahaan untuk mengevaluasi Anda secara kompeten.

Menghindari AI perusahaan sendiri

Dokumen internal, yang memiliki peringatan tidak biasa "TOLONG JANGAN BAGIKAN DOKUMEN INI SECARA LUAS," mengarahkan kandidat untuk peran ASAT untuk mengisi formulir pengajuan internal rahasia . Formulir ini dirancang untuk memastikan lamaran langsung sampai ke tangan peninjau manusia daripada dimasukkan ke dalam jalur penyaringan CV otomatis Google . Bloomberg melaporkan bahwa tujuan formulir ini adalah untuk menghilangkan risiko bahwa lamaran "mungkin secara otomatis tersaring oleh sistem AI internal perusahaan" .

Peringatan terhadap materi lamaran yang dibuat AI

Pengumuman lowongan ASAT di Alignment Forum menyatakan: "Tolong jangan gunakan AI untuk menulis lamaran Anda; kami ingin mendengar suara Anda" . Ini menciptakan kontradiksi berlapis: tim tidak mempercayai sistem penyaringan AI Google cukup untuk menghindarinya, tetapi juga tidak mempercayai penggunaan alat obrolan AI oleh kandidat untuk menyusun tanggapan—bahkan ketika pekerjaan ASAT sendiri melibatkan pengembangan dan pengawasan sistem AI canggih.

Konteks lebih luas tentang pengawasan bias perekrutan AI

Episode ASAT bukanlah insiden yang terisolasi. Serangkaian studi dan investigasi telah mendokumentasikan masalah persisten dengan alat perekrutan berbasis AI:

• Sebuah studi Stanford HAI Juli 2026 menganalisis 4 juta lamaran pekerjaan di 150+ perusahaan dan menemukan bahwa alat perekrutan AI dapat menghasilkan hasil yang tidak adil secara rasial dalam skala besar. Para peneliti menemukan bahwa 15% pelamar Asia dan 26% pelamar Kulit Hitam berulang kali ditolak di berbagai pekerjaan—sebuah pola yang menunjukkan bias sistemik .
• Sebuah analisis Bloomberg menunjukkan bahwa GPT-3.5 milik OpenAI, ketika diminta untuk memberi peringkat résumé 1.000 kali, secara sistematis lebih memilih nama dari beberapa demografi daripada yang lain hingga tingkat yang akan gagal dalam tolok ukur yang digunakan untuk menilai diskriminasi pekerjaan .
• Penelitian dari University of Melbourne menemukan bahwa perangkat lunak perekrutan AI dapat mendiskriminasi pelamar yang mengenakan jilbab, mereka yang memiliki nama yang dianggap sebagai orang Kulit Hitam, dan individu yang meminta akomodasi disabilitas .
• Sebuah audit Kantor Komisaris Informasi Inggris menemukan bahwa beberapa alat rekrutmen AI menyaring pelamar berdasarkan karakteristik yang dilindungi seperti ras, jenis kelamin, dan orientasi seksual .

Google sendiri menjual alat SDM bertenaga AI ke klien korporat, menjanjikan penyaringan yang lebih cepat dan lebih objektif . Episode ASAT merusak pesan pemasaran itu dengan secara implisit mengakui bahwa filter perusahaan sendiri bisa salah.

Tanggapan Google DeepMind

DeepMind membantah karakterisasi bahwa sistem perekrutan mereka yang lebih luas rusak. Seorang juru bicara menggambarkan formulir bypass hanya sebagai "langkah efisiensi" untuk peran dengan volume tinggi . Namun, bahasa dokumen internal sendiri—memperingatkan tentang penyaringan yang salah dan mendorong kerahasiaan—menunjukkan bahwa tim menganggap masalah ini cukup material untuk memerlukan solusi .

Intinya

Situasi ini mengungkap kesenjangan kredibilitas: tim yang dipekerjakan Google untuk meneliti dan menjaga terhadap ketidakselarasan AI tidak mempercayai sistem AI yang digunakan Google untuk menyaring calon karyawannya sendiri. Disonansi ini telah menarik perhatian luas sebagai contoh dunia nyata dari pengembang AI yang secara implisit mengakui keterbatasan dan risiko dari teknologi yang sama yang mereka bangun dan jual. Seperti yang dirangkum oleh sebuah analisis: "tim yang bertanggung jawab atas keselamatan AI canggih tidak mempercayai AI perusahaan tempatnya bekerja untuk membaca résumé" .