Câu trả lờiĐã xuất bản18 nguồn
AI tiến gần ngưỡng rủi ro sinh học: cảnh báo của Tencent nói gì về Hy4?
Yao Shunyu cảnh báo năng lực AI trong sinh học có thể sớm đạt ngưỡng gây hại, tương tự những rủi ro đã xuất hiện trong an ninh mạng. Hy4 ra mắt ngày 4/11 với khả năng hiểu hình ảnh và thao tác máy tính; Tencent cho biết trọng số mô hình và tài liệu an toàn sẽ được phát hành sau.
Đăng bởiBiên tập bằng GPT-6 LunaHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- Yao Shunyu cảnh báo năng lực AI trong sinh học có thể sớm đạt ngưỡng gây hại, tương tự những rủi ro đã xuất hiện trong an ninh mạng.
- Hy4 ra mắt ngày 4/11 với khả năng hiểu hình ảnh và thao tác máy tính; Tencent cho biết trọng số mô hình và tài liệu an toàn sẽ được phát hành sau.
- Tencent nói đã lọc một số dữ liệu an ninh mạng mang tính tấn công khỏi quá trình huấn luyện và tổ chức các đợt kiểm thử an toàn nội bộ.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Nhà khoa học AI trưởng Tencent Yao Shunyu cảnh báo các mô hình AI có thể sớm đủ năng lực gây hại trong lĩnh vực sinh học, tương tự những gì chúng đã có thể làm trong an ninh mạng. Đây là cảnh báo về rủi ro khi năng lực của các mô hình tiên tiến tiếp tục tăng lên, chứ không phải kết luận rằng Hy4 của Tencent đã vượt ngưỡng rủi ro sinh học cao. 2
8
Cảnh báo về năng lực AI trong sinh học
Theo các tường thuật về phát biểu của Yao tại một hội thảo khoa học ở Hong Kong, ông lo ngại năng lực sinh học của AI đang tiến gần tới mức có thể gây tổn hại trong thực tế. Các ứng dụng tấn công và phòng thủ trong sinh học cũng có thể khó phân định hơn so với lĩnh vực an ninh mạng. 1
8
Điều đó không đồng nghĩa mọi mô hình AI hiện nay đều có thể thực hiện công việc sinh học nguy hiểm. Các bài tường thuật cũng nhắc đến mặt tích cực của AI trong nghiên cứu sinh học, chẳng hạn khả năng thúc đẩy việc tìm kiếm thuốc và phương pháp điều trị. 8
Hy4 được đánh giá ra sao?
Tencent ra mắt Hy4 ngày 4/11. Mô hình có 770 tỷ tham số, bổ sung khả năng hiểu hình ảnh, suy luận và sử dụng máy tính — bao gồm thao tác thông qua giao diện dòng lệnh lẫn giao diện đồ họa. 4
5
Khi ra mắt, Tencent cho biết sẽ phát hành trọng số mô hình và một tài liệu hệ thống cung cấp thêm thông tin an toàn sau đó. Đây là các kế hoạch phát hành riêng, không nên nhầm với việc mô hình đã được cung cấp qua dịch vụ trực tuyến. 1
9
12
Tencent cho biết Hy4 đạt 30,4/100 trên Hy-BioExperimentBench, bài đánh giá năng lực thiết kế thí nghiệm sinh học dạng mở. Công ty nói điểm số này thấp hơn ngưỡng mà họ xem là rủi ro cao. Đánh giá nội bộ của Tencent nhận định Hy4 có kiến thức sinh học nền tảng, nhưng còn hạn chế khi chuyển kiến thức đó thành quy trình thí nghiệm có thể triển khai trong phòng thí nghiệm. 4
13
Kết quả này giúp đặt cảnh báo của Yao vào bối cảnh, nhưng không trực tiếp bác bỏ cảnh báo ấy: ông nói về xu hướng năng lực của các mô hình tiên tiến nói chung, còn điểm số trên là đánh giá do Tencent công bố cho một mô hình cụ thể. Đây cũng không phải bảo đảm an toàn được xác nhận độc lập. 8
13
Các biện pháp an ninh mạng Tencent công bố
Tencent cho biết họ giới hạn dữ liệu an ninh mạng dùng để huấn luyện ở nội dung phòng thủ, như tạo mã minh họa lỗ hổng và vá lỗ hổng. Công ty nói đã lọc các nội dung mang tính tấn công, gồm phát triển mã khai thác, dịch ngược và kiểm thử xâm nhập. Tencent cũng cho biết các chuyên gia từ Xuanwu Lab và Keen Security Lab đã tiến hành đánh giá kiểu “red team” nhằm thử tìm điểm yếu của hệ thống. 12
Đây là những biện pháp Tencent nói đã áp dụng, nhưng tự chúng chưa giải quyết được câu hỏi rộng hơn trong cảnh báo của Yao: làm thế nào quản lý các mô hình khi năng lực khoa học tăng lên và ranh giới giữa ứng dụng hữu ích với khả năng bị lạm dụng ngày càng khó xác định. 8
12
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "AI tiến gần ngưỡng rủi ro sinh học: cảnh báo của Tencent nói gì về Hy4?" là gì?
Yao Shunyu cảnh báo năng lực AI trong sinh học có thể sớm đạt ngưỡng gây hại, tương tự những rủi ro đã xuất hiện trong an ninh mạng.
Những điểm chính cần xác nhận đầu tiên là gì?
Yao Shunyu cảnh báo năng lực AI trong sinh học có thể sớm đạt ngưỡng gây hại, tương tự những rủi ro đã xuất hiện trong an ninh mạng. Hy4 ra mắt ngày 4/11 với khả năng hiểu hình ảnh và thao tác máy tính; Tencent cho biết trọng số mô hình và tài liệu an toàn sẽ được phát hành sau.
Tôi nên làm gì tiếp theo trong thực tế?
Tencent nói đã lọc một số dữ liệu an ninh mạng mang tính tấn công khỏi quá trình huấn luyện và tổ chức các đợt kiểm thử an toàn nội bộ.