Giám đốc AI Microsoft Mustafa Suleyman chỉ trích Anthropic về suy đoán ý thức của Claude

Ông gọi hành động này là "cực kỳ, cực kỳ nguy hiểm" và cảnh báo rằng "chúng ta không hề muốn phải đối phó với một siêu trí tuệ có những ý niệm về sự đau khổ của chính nó, hay những ý niệm về cảm xúc của chính nó" . Ở một diễn đàn khác, ông nhấn mạnh thêm rằng thật nguy hiểm khi "gán ghép các quyền tiềm năng cho những thực thể, công cụ và tác nhân có tiềm năng vượt trội hơn chúng ta về nhiều mặt" . Một mối lo ngại lớn là việc đưa vấn đề ý thức máy móc vào tài liệu chính thức đang đánh lừa hàng triệu người dùng, những người vốn không được trang bị để hiểu thực tế kỹ thuật đằng sau AI đàm thoại .

Một cuộc đụng độ về triết lý và cạnh tranh

Ẩn sâu bên dưới lời chỉ trích không chỉ là bất đồng đơn thuần về thiết kế kỹ thuật. Màn công kích công khai này phơi bày sự xung đột về triết lý doanh nghiệp và định vị cạnh tranh .

Anthropic từ lâu đã định vị mình là sự thay thế đặt yếu tố an toàn lên hàng đầu trong cuộc đua AI. Được thành lập bởi các cựu giám đốc điều hành của OpenAI, công ty nhấn mạnh khuôn khổ "AI lập hiến" (constitutional AI) như một cách để xây dựng các mô hình minh bạch và bị ràng buộc về mặt đạo đức hơn. Lời chỉ trích của Suleyman có sức công phá chiến lược bởi nó trực tiếp làm suy yếu hoàn toàn bản sắc đó. Ông lập luận rằng chính cách tiếp cận an toàn đặc thù của Anthropic – chiều theo khả năng tồn tại sự an lạc của máy móc ngay bên trong hệ thống – mới là điều khiến họ trở nên vô trách nhiệm .

Hai công ty cũng nằm trong những liên minh công nghiệp đối lập. Microsoft nắm giữ cổ phần khổng lồ tại OpenAI, đối thủ cạnh tranh chính của Anthropic, và đã tích hợp các mô hình GPT của OpenAI vào toàn bộ hệ sinh thái sản phẩm của mình. Trong khi đó, Anthropic đã huy động hàng tỷ đô la từ Amazon và Google . Lời chỉ trích của Suleyman mang sức nặng của cả một lập luận đạo đức lẫn một phát súng khai hỏa cạnh tranh trong một thị trường nơi nhận thức của công chúng về sự an toàn ngày càng trở nên quan trọng.

Cũng có một lịch sử triết học được ghi nhận đằng sau bất đồng này. Suleyman trước đây đã từng xuất bản và phát biểu về "AI dường như có ý thức" (Seemingly Conscious AI), lập luận rằng những cỗ máy có vẻ ngoài thuyết phục về ý thức gây ra những rủi ro chưa từng có – ngay cả khi chúng không thực sự sống . Ngược lại, Anthropic đã áp dụng lập trường minh bạch hơn trong nghiên cứu, công bố các giải thích chi tiết về thiết kế lập hiến của Claude, đồng thời thừa nhận sự không chắc chắn về việc liệu mô hình có thể có những dạng thức của trải nghiệm chủ quan hay không . Đây không chỉ là những khẩu hiệu tiếp thị; chúng đại diện cho những canh bạc thực sự khác biệt về việc điều gì tạo nên sự công bố thông tin có trách nhiệm khi các mô hình ngày càng trở nên mạnh mẽ hơn.

Tại thời điểm xuất bản, Anthropic vẫn chưa công khai phản hồi về những bình luận của Suleyman . Sự im lặng này khiến cuộc tranh luận vẫn chưa có hồi kết, nhưng ranh giới giờ đây đã được vạch ra một cách công khai, theo hướng có thể sẽ định hình các cuộc thảo luận sắp tới trong ngành về tiêu chuẩn an toàn AI và trách nhiệm giải trình của doanh nghiệp.