ASAT มีหน้าที่ลดความเสี่ยงร้ายแรงจาก AI ระดับมนุษย์ (AGI) และในอนาคตอาจรวมถึง AI ที่เหนือมนุษย์ แต่แนวทางปฏิบัติภายในของทีมกลับเตือนอย่างชัดเจนว่าระบบกรองการจ้างงานด้วย AI ของ Google เองนั้นเชื่อถือไม่ได้ ตามเอกสารที่บลูมเบิร์กตรวจสอบ ทีมงานระบุว่า "ระบบการสมัครของเรามีความน่าจะเป็นที่ไม่น้อยที่เรซูเม่ของคุณจะถูกคัดออกอย่างไม่ถูกต้อง หรือใช้เวลานานเกินไปกว่าจะถึงมือเรา" ทีมงานกำลังบอกกับผู้สมัครว่า: อย่าพึ่งพา AI ของบริษัทในการประเมินคุณ
เอกสารภายในซึ่งมีคำเตือนว่า "กรุณาอย่าแชร์เอกสารนี้ในวงกว้าง" แนะนำให้ผู้สมัครตำแหน่ง ASAT กรอกแบบฟอร์มลับภายใน แบบฟอร์มนี้ถูกออกแบบมาเพื่อให้ใบสมัครไปถึงผู้ตรวจสอบที่เป็นมนุษย์โดยตรง แทนที่จะถูกป้อนเข้าสู่ระบบคัดกรอง CV อัตโนมัติของ Google บลูมเบิร์กรายงานว่าจุดประสงค์ของแบบฟอร์มคือเพื่อลดความเสี่ยงที่ใบสมัคร "อาจถูกคัดออกโดยอัตโนมัติจากระบบ AI ภายในของบริษัท"
ประกาศรับสมัครงานของ ASAT บน Alignment Forum ระบุว่า "กรุณาอย่าใช้ AI ในการเขียนใบสมัครของคุณ เราอยากได้ยิน เสียง ของคุณ" สิ่งนี้สร้างความขัดแย้งแบบซ้อน: ทีมงานไม่ไว้ใจระบบคัดกรอง AI ของ Google จนต้องหาทางเลี่ยง แต่ก็ไม่ไว้ใจที่ผู้สมัครจะใช้ AI ในการเขียนตอบกลับ — ทั้งที่งานของ ASAT เองคือการพัฒนาและดูแลระบบ AI ขั้นสูง
เหตุการณ์ของ ASAT ไม่ใช่เรื่องโดดเดี่ยว การศึกษาและการสอบสวนหลายชิ้นได้บันทึกปัญหาที่เกิดขึ้นอย่างต่อเนื่องกับเครื่องมือการจ้างงานที่ขับเคลื่อนด้วย AI:
Google เองก็ขายเครื่องมือ HR ที่ขับเคลื่อนด้วย AI ให้กับลูกค้าองค์กร โดยสัญญาว่าจะคัดกรองได้รวดเร็วและเป็นกลางมากขึ้น เหตุการณ์ ASAT บั่นทอนข้อความทางการตลาดนั้นโดยปริยาย โดยยอมรับว่าตัวกรองของบริษัทเองก็มีข้อบกพร่อง
DeepMind โต้แย้งว่าการตีความว่าระบบการจ้างงานโดยรวมเสียหายนั้นไม่ถูกต้อง โฆษกบรรยายว่าแบบฟอร์มเลี่ยงระบบนี้เป็นเพียง "มาตรการเพื่อประสิทธิภาพ" สำหรับตำแหน่งที่มีผู้สมัครจำนวนมาก อย่างไรก็ตาม ภาษาที่ใช้ในเอกสารภายในซึ่งเตือนถึงการคัดกรองที่ผิดพลาดและกระตุ้นให้เก็บเป็นความลับ บ่งชี้ว่าทีมงานมองว่าปัญหานี้มีนัยสำคัญพอที่จะต้องหาทางแก้ไข
สถานการณ์นี้เผยให้เห็นช่องว่างด้านความน่าเชื่อถือ: ทีมที่ Google จ้างมาเพื่อวิจัยและป้องกันความไม่สอดคล้องของ AI กลับไม่ไว้วางใจระบบ AI ที่ Google ใช้ในการคัดกรองพนักงานในอนาคตของตัวเอง ความไม่ลงรอยกันนี้ได้รับความสนใจอย่างกว้างขวางในฐานะกรณีศึกษาที่นักพัฒนา AI ยอมรับโดยปริยายถึงข้อจำกัดและความเสี่ยงของเทคโนโลยีเดียวกับที่ตนสร้างและขาย ดังที่บทวิเคราะห์หนึ่งสรุปไว้ว่า "ทีมงานที่รับผิดชอบด้านความปลอดภัยของ AI ขั้นสูง ไม่ไว้ใจ AI ของนายจ้างตัวเองให้อ่านเรซูเม่ได้"