ASAT tồn tại để giảm thiểu rủi ro hiện sinh và thảm khốc từ AGI và sau này là siêu trí tuệ nhân tạo . Tuy nhiên, hướng dẫn nội bộ của nhóm lại cảnh báo rõ ràng rằng các bộ lọc tuyển dụng AI của Google không thể tin cậy được. Theo một tài liệu được Bloomberg xem xét, nhóm này viết: 'Chúng tôi có một hệ thống nộp đơn với xác suất không hề nhỏ rằng CV của bạn sẽ bị sàng lọc sai hoặc mất quá nhiều thời gian để đến được với chúng tôi' . Nói một cách đơn giản, nhóm này đang nói với những ứng viên tiềm năng: đừng dựa vào AI của công ty để đánh giá bạn một cách chính xác.
Tài liệu nội bộ, mang dòng cảnh báo bất thường 'VUI LÒNG KHÔNG CHIA SẺ RỘNG RÃI TÀI LIỆU NÀY', hướng dẫn các ứng viên cho các vị trí trong ASAT điền vào một biểu mẫu nội bộ bí mật . Biểu mẫu này được thiết kế để đảm bảo đơn xin việc đến thẳng tay những người đánh giá là con người, thay vì bị đưa vào quy trình sàng lọc CV tự động của Google . Bloomberg đưa tin rằng mục đích của biểu mẫu là loại bỏ rủi ro các đơn xin việc 'có thể bị tự động sàng lọc bởi hệ thống AI nội bộ của công ty' .
Các tin tuyển dụng của ASAT trên Diễn đàn Căn chỉnh (Alignment Forum) còn nêu rõ: 'Vui lòng không sử dụng AI để viết đơn xin việc của bạn; chúng tôi muốn nghe giọng nói của bạn' . Điều này tạo ra một mâu thuẫn nhiều lớp: nhóm không tin tưởng hệ thống sàng lọc AI của Google đến mức phải tìm cách lách, nhưng đồng thời cũng không tin tưởng ứng viên sử dụng AI để viết câu trả lời - ngay cả khi công việc hàng ngày của ASAT là phát triển và giám sát các hệ thống AI tiên tiến.
Sự việc của ASAT không phải là cá biệt. Một loạt các nghiên cứu và điều tra đã ghi nhận những vấn đề dai dẳng với các công cụ tuyển dụng do AI điều khiển:
Chính Google cũng đang bán các công cụ nhân sự hỗ trợ AI cho các khách hàng doanh nghiệp, hứa hẹn việc sàng lọc nhanh hơn và khách quan hơn . Vụ việc của ASAT đã làm suy yếu thông điệp tiếp thị đó khi ngầm thừa nhận rằng các bộ lọc của chính công ty cũng có thể sai sót.
DeepMind đã bác bỏ quan điểm cho rằng hệ thống tuyển dụng rộng lớn hơn của họ có vấn đề. Một người phát ngôn mô tả biểu mẫu 'né' này chỉ đơn giản là một 'biện pháp hiệu quả' cho các vai trò có số lượng đơn xin việc lớn . Tuy nhiên, chính ngôn ngữ của tài liệu nội bộ - cảnh báo về việc sàng lọc sai và yêu cầu giữ bí mật - cho thấy nhóm này coi vấn đề là đủ nghiêm trọng để cần có một giải pháp thay thế .
Tình huống này phơi bày một khoảng cách đáng kể về độ tin cậy (credibility gap): chính nhóm mà Google thuê để nghiên cứu và bảo vệ chống lại sự sai lệch của AI lại không tin tưởng vào các hệ thống AI mà Google sử dụng để sàng lọc những nhân viên tương lai của chính mình. Sự bất hòa này đã thu hút sự chú ý rộng rãi như một trường hợp thực tế cho thấy một nhà phát triển AI ngầm thừa nhận những hạn chế và rủi ro của chính công nghệ mà họ xây dựng và bán ra. Như một phân tích đã tóm tắt: 'nhóm chịu trách nhiệm về an toàn AI tiên tiến không tin tưởng vào AI của chính chủ lao động của mình để đọc sơ yếu lý lịch' .