Câu trả lờiĐã xuất bản17 nguồn
Google chuyển nhóm AI Responsibility khỏi DeepMind: Bài toán an toàn hay nguy cơ giảm độc lập?
Khoảng 90 nhân sự thuộc nhóm AI Responsibility của Google DeepMind dự kiến được chuyển sang bộ phận Global Affairs vào đầu tháng 9, nhằm đưa công việc về rủi ro AI gần hơn với chính sách, pháp lý và quan hệ chính phủ. Nhóm từng nghiên cứu các rủi ro nghiêm trọng như nguy cơ lạm dụng hóa học, sinh học, phóng xạ và hạ...
Đăng bởiBiên tập bằng GPT-5.6 LunaHình ảnh được tạo bằng GPT Image 1.5
Câu trả lời nghiên cứu
Bài học chính
- Khoảng 90 nhân sự thuộc nhóm AI Responsibility của Google DeepMind dự kiến được chuyển sang bộ phận Global Affairs vào đầu tháng 9, nhằm đưa công việc về rủi ro AI gần hơn với chính sách, pháp lý và quan hệ chính phủ.
- Nhóm từng nghiên cứu các rủi ro nghiêm trọng như nguy cơ lạm dụng hóa học, sinh học, phóng xạ và hạt nhân, cùng những tác động tâm lý có thể phát sinh khi người dùng tương tác kéo dài với chatbot.
- Nhân viên lo ngại việc rời khỏi phòng nghiên cứu phát triển các mô hình AI tiên tiến có thể làm giảm tính độc lập và khoảng cách cần thiết để đưa ra cảnh báo bất tiện.
- Chưa có đủ bằng chứng công khai để xác định nhóm sẽ giữ lại mức ngân sách, quyền tiếp cận mô hình, quyền công bố nghiên cứu hay thẩm quyền yêu cầu đánh giá trước khi phát hành ở mức nào.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Google’s planned early September transfer of its roughly 90 member AI responsibility team from Google DeepMind to the Global Affairs. Article summary: Google plans to move its roughly 90 person AI Responsibility team out of Google DeepMind and into Google’s Global Affairs organization in early September.. Topic tags: general web, openai, chatgpt, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layou
Google đang thay đổi điều gì?
Google dự kiến chuyển nhóm AI Responsibility gồm khoảng 90 người khỏi Google DeepMind sang bộ phận Global Affairs vào đầu tháng 9. Global Affairs là khối phụ trách các vấn đề như chính sách công, pháp lý và quan hệ với chính phủ; trong khi Google DeepMind là phòng nghiên cứu và phát triển các mô hình AI tiên tiến của Google.
Theo các thông tin được đưa tin, lý do của việc điều chuyển là đưa hoạt động nghiên cứu rủi ro và tác động xã hội của AI đến gần hơn với các nhóm hoạch định chính sách, pháp lý và đối ngoại, trong bối cảnh DeepMind đang được tích hợp chặt hơn vào hoạt động AI hướng sản phẩm của Google. 5
3
Nhóm AI Responsibility đang nghiên cứu những gì?
Nhóm này không chỉ xem xét các lỗi kỹ thuật thông thường. Phạm vi công việc bao gồm cả những rủi ro nghiêm trọng và tác động xã hội có thể xuất hiện khi các hệ thống AI ngày càng mạnh, trong đó có:
- nguy cơ lạm dụng mô hình trong các lĩnh vực hóa học, sinh học, phóng xạ và hạt nhân, thường được gọi chung là CBRN;
- những tác động xã hội rộng hơn của các hệ thống AI tiên tiến;
- khả năng tương tác kéo dài với chatbot gây ra hoặc làm trầm trọng thêm một số vấn đề tâm lý ở những người dễ bị tổn thương.
5
Việc chuyển nhóm ra khỏi chính phòng nghiên cứu đang xây dựng các mô hình AI tiên tiến khiến một số nhân viên lo rằng nhóm sẽ ít tham gia trực tiếp hơn vào các quyết định phát triển mô hình.
Vì sao nhân viên lo ngại về tính độc lập?
Mối quan ngại chính là sự thay đổi cơ cấu có thể khiến nhóm AI Responsibility gần với chức năng đối ngoại doanh nghiệp hơn là hoạt động nghiên cứu độc lập. Theo những người trong tổ chức được đưa tin, điều này có thể:
- làm giảm khoảng cách độc lập cần thiết để nhóm đánh giá chính các mô hình do DeepMind phát triển;
- hạn chế khả năng tiếp cận những quyết định quan trọng trong quá trình huấn luyện và triển khai mô hình;
- khiến việc theo đuổi hoặc chuyển cấp các phát hiện bất lợi, đặc biệt là những phát hiện có thể làm chậm việc phát hành sản phẩm, trở nên khó khăn hơn.
Đây là những lo ngại của nhân viên được báo cáo, không phải bằng chứng cho thấy các hạn chế đó đã được áp đặt. Hiện cũng chưa có thông tin công khai đầy đủ về cách nhóm sẽ hoạt động sau khi chuyển sang Global Affairs.
Nhóm sẽ giữ lại gì và mất đi điều gì?
Các thông tin hiện có cho thấy nhóm vẫn được kỳ vọng tiếp tục nghiên cứu rủi ro AI và tác động xã hội. Tuy nhiên, chưa đủ bằng chứng để kết luận chắc chắn về các điều kiện thực tế sau điều chuyển, gồm:
- số lượng nhân sự và cơ cấu mới;
- quyền tiếp cận các mô hình hoặc dữ liệu cần thiết cho đánh giá;
- quyền công bố kết quả nghiên cứu;
- ngân sách hoạt động;
- quyền đưa vấn đề lên cấp quản lý cao hơn;
- thẩm quyền yêu cầu xem xét hoặc ngăn một mô hình được phát hành.
Vì vậy, chưa thể khẳng định nhóm sẽ giữ lại toàn bộ các biện pháp bảo vệ trước đây. Đồng thời, cũng chưa đủ bằng chứng để nói rằng việc chuyển sang Global Affairs chắc chắn tước bỏ quyền chính thức ngăn phát hành sản phẩm, nếu quyền đó từng tồn tại. 5
Những mảng an toàn nào vẫn ở DeepMind?
Việc chuyển nhóm AI Responsibility không đồng nghĩa toàn bộ công việc an toàn AI rời khỏi DeepMind. Các nhóm khác của DeepMind và Google vẫn phụ trách những biện pháp bảo vệ gắn trực tiếp với mô hình và sản phẩm, chẳng hạn:
- hành vi của mô hình;
- quyền riêng tư;
- an ninh và bảo mật;
- an toàn kỹ thuật trong quá trình phát triển và vận hành.
6
7
Cách sắp xếp mới tạo ra ranh giới rõ hơn giữa hai loại công việc: các biện pháp kiểm soát kỹ thuật và sản phẩm nằm trong tổ chức phát triển mô hình, còn nghiên cứu tác động rộng hơn, quản trị và chính sách được đặt gần Global Affairs.
Bối cảnh Demis Hassabis rời vị trí CEO
Đợt điều chuyển diễn ra trong một cuộc tái cấu trúc rộng hơn của Google DeepMind. Demis Hassabis không còn phụ trách các hoạt động hằng ngày với tư cách CEO. Ông chuyển sang làm chủ tịch Google DeepMind và nhà khoa học trưởng của Alphabet, công ty mẹ của Google.
Koray Kavukcuoglu, trước đây là giám đốc công nghệ của DeepMind và kiến trúc sư AI trưởng của Alphabet, được trao thêm quyền điều hành với vai trò phó chủ tịch cấp cao. Ông sẽ phụ trách các quyết định vận hành quan trọng, bao gồm phát triển mô hình Gemini, nghiên cứu AI tiên phong và các nhóm ứng dụng Gemini dành cho người dùng cũng như nhà phát triển. 6
8
Reuters cũng đưa tin Google đã chuyển một số đội ngũ AI về khối Google bên ngoài DeepMind, trong khi lãnh đạo công ty thúc đẩy tốc độ phát triển Gemini để cạnh tranh trong cuộc đua AI. Những thay đổi này diễn ra cùng làn sóng nhân sự cấp cao rời công ty. 13
3
4
Bài toán lớn hơn: an toàn phải đủ gần, nhưng cũng đủ độc lập
Cấu trúc mới không cho thấy Google đã từ bỏ công việc an toàn AI. Ngược lại, nó phản ánh một mâu thuẫn ngày càng rõ trong các phòng nghiên cứu AI lớn: chuyên môn an toàn cần ở đủ gần nhóm phát triển để có thể tác động đến thiết kế mô hình, nhưng doanh nghiệp cũng muốn tập trung hoạt động này cùng các quyết định về pháp lý, chính sách và triển khai sản phẩm.
Đưa nhóm về Global Affairs có thể giúp Google thống nhất cách làm việc với cơ quan quản lý và phối hợp chính sách trên toàn tập đoàn. Nhưng nếu thiếu quyền tiếp cận mô hình, quyền công bố kết quả và một cơ chế chuyển cấp rõ ràng, nhóm đánh giá rủi ro có thể bị suy giảm tính độc lập — ít nhất là trong cảm nhận của nhân viên, và có thể cả trên thực tế. 5
3
Điều sẽ quyết định hiệu quả của đợt tái cấu trúc không chỉ là nhóm thuộc phòng ban nào, mà là nhóm có thể nhìn thấy gì, được nói ra điều gì và có quyền yêu cầu doanh nghiệp dừng lại để đánh giá trước khi phát hành một mô hình mới hay không.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Google chuyển nhóm AI Responsibility khỏi DeepMind: Bài toán an toàn hay nguy cơ giảm độc lập?" là gì?
Khoảng 90 nhân sự thuộc nhóm AI Responsibility của Google DeepMind dự kiến được chuyển sang bộ phận Global Affairs vào đầu tháng 9, nhằm đưa công việc về rủi ro AI gần hơn với chính sách, pháp lý và quan hệ chính phủ.
Những điểm chính cần xác nhận đầu tiên là gì?
Khoảng 90 nhân sự thuộc nhóm AI Responsibility của Google DeepMind dự kiến được chuyển sang bộ phận Global Affairs vào đầu tháng 9, nhằm đưa công việc về rủi ro AI gần hơn với chính sách, pháp lý và quan hệ chính phủ. Nhóm từng nghiên cứu các rủi ro nghiêm trọng như nguy cơ lạm dụng hóa học, sinh học, phóng xạ và hạt nhân, cùng những tác động tâm lý có thể phát sinh khi người dùng tương tác kéo dài với chatbot.
Tôi nên làm gì tiếp theo trong thực tế?
Nhân viên lo ngại việc rời khỏi phòng nghiên cứu phát triển các mô hình AI tiên tiến có thể làm giảm tính độc lập và khoảng cách cần thiết để đưa ra cảnh báo bất tiện.