Ironi Dalaman Google DeepMind: Pasukan Yang Tugasnya Menjaga Keselamatan AI Suruh Pemohon Kerja Langkau Sistem Penapisan AI Sendiri

Ironi teras

ASAT wujud untuk mengurangkan risiko eksistensi dan bencana daripada AGI dan akhirnya kecerdasan super . Namun, panduan dalaman pasukan itu secara jelas memberi amaran bahawa penapis pengambilan pekerja AI Google sendiri tidak boleh dipercayai. Menurut dokumen yang dilihat oleh Bloomberg, pasukan itu menyatakan: "Kami mempunyai sistem permohonan dengan kebarangkalian bukan remeh bahawa CV anda akan disaring secara salah atau mengambil masa terlalu lama untuk sampai kepada kami" . Pasukan itu secara efektif memberitahu bakal pekerja: jangan bergantung pada AI syarikat untuk menilai anda dengan cekap.

Memintas AI syarikat sendiri

Dokumen dalaman itu, yang mengandungi penafian luar biasa "SILA JANGAN KONGSI DOKUMEN INI SECARA LUAS," mengarahkan calon untuk peranan ASAT supaya melengkapkan borang penyerahan dalaman yang sulit . Borang ini direka untuk memastikan permohonan terus sampai kepada penilai manusia dan bukannya disalurkan ke saluran paip saringan CV automatik Google . Bloomberg melaporkan bahawa tujuan borang itu adalah untuk menghapuskan risiko bahawa permohonan "mungkin ditapis secara automatik oleh sistem AI dalaman syarikat" .

Amaran terhadap bahan permohonan yang dijana AI

Iklan jawatan ASAT di Alignment Forum menyatakan: "Tolong jangan gunakan AI untuk menulis permohonan anda; kami mahu mendengar suara anda" . Ini mewujudkan kontradiksi berlapis: pasukan itu tidak mempercayai sistem saringan AI Google cukup untuk mengelakkannya, tetapi juga tidak mempercayai penggunaan alat sembang AI oleh calon untuk menulis respons — walaupun kerja ASAT sendiri melibatkan pembangunan dan pengawasan sistem AI termaju.

Konteks lebih luas mengenai bias dalam pengambilan pekerja AI

Episod ASAT bukanlah kejadian terpencil. Satu siri kajian dan siasatan telah mendokumentasikan masalah berterusan dengan alat pengambilan pekerja dipacu AI:

• Kajian Stanford HAI Julai 2026 menganalisis 4 juta permohonan kerja merentas lebih 150 majikan dan mendapati bahawa alat pengambilan pekerja AI boleh menghasilkan hasil yang tidak seimbang dari segi kaum secara berskala besar. Penyelidik mendapati bahawa 15% pemohon Asia dan 26% pemohon Kulit Hitam berulang kali ditolak merentas pelbagai pekerjaan — corak yang menunjukkan bias sistemik .
• Analisis Bloomberg menunjukkan bahawa GPT-3.5 OpenAI, apabila diminta untuk menilai resume sebanyak 1,000 kali, secara sistematik memihak kepada nama dari beberapa demografi berbanding yang lain sehingga tahap yang akan gagal dalam penanda aras yang digunakan untuk menilai diskriminasi pekerjaan .
• Penyelidikan dari Universiti Melbourne mendapati bahawa perisian pengambilan pekerja AI mungkin mendiskriminasi terhadap pemohon yang memakai tudung, mereka yang mempunyai nama yang dianggap sebagai Kulit Hitam, dan individu yang meminta penginapan kecacatan .
• Audit Pejabat Pesuruhjaya Maklumat UK (ICO) mendapati bahawa beberapa alat pengambilan pekerja AI menapis pemohon berdasarkan ciri-ciri yang dilindungi seperti bangsa, jantina, dan orientasi seksual .

Google sendiri menjual alat HR berkuasa AI kepada pelanggan korporat, menjanjikan saringan yang lebih pantas dan lebih objektif . Episod ASAT menjejaskan mesej pemasaran itu dengan secara tersirat mengakui bahawa penapis syarikat sendiri boleh salah.

Respons Google DeepMind

DeepMind mempertikaikan gambaran bahawa sistem pengambilan pekerja mereka yang lebih luas rosak. Seorang jurucakap menggambarkan borang pintasan itu sebagai "langkah kecekapan" untuk peranan dengan jumlah permohonan yang tinggi . Walau bagaimanapun, bahasa dokumen dalaman itu sendiri — memberi amaran tentang saringan yang salah dan menggesa kerahsiaan — menunjukkan bahawa pasukan itu menganggap isu itu cukup material untuk menjamin penyelesaian kerja .

Kesimpulan

Situasi ini mendedahkan jurang kredibiliti: pasukan yang diupah Google untuk menyelidik dan menjaga terhadap ketidakselarasan AI tidak mempercayai sistem AI yang digunakan Google untuk menyaring bakal pekerja masa depannya sendiri. Percanggahan ini telah menarik perhatian luas sebagai kes dunia sebenar di mana pembangun AI secara tersirat mengakui batasan dan risiko teknologi yang sama yang dibina dan dijualnya. Seperti yang dirumuskan oleh satu analisis: "pasukan yang bertanggungjawab untuk keselamatan AI termaju tidak mempercayai AI majikannya sendiri untuk membaca resume" .