Inter-2: AI nhận diện tín hiệu xã hội, nhưng không đọc được suy nghĩ

Interhuman AI đang phát triển một lớp “trí tuệ xã hội” để giúp các hệ thống AI chú ý không chỉ đến lời nói mà còn đến cách một người giao tiếp. Công ty có trụ sở tại Copenhagen cho biết mô hình Inter-2 phân tích tín hiệu xã hội theo thời gian thực; các nguồn mô tả dữ liệu đầu vào gồm văn bản, âm thanh và video. Kết quả nên được hiểu là nhận định về hành vi quan sát được, không phải cách đọc chắc chắn suy nghĩ hay cảm xúc riêng tư của một người. 25

Inter-2 được cho là nhận diện những gì?

Theo thông tin được công bố, mô hình nhận diện 10 tín hiệu: đồng tình, bất đồng, hoài nghi, tự tin, do dự, thất vọng, quan tâm, không chắc chắn, bối rối và căng thẳng. Mô hình cũng đưa ra đánh giá tổng quát về mức độ tương tác. 18

Ý tưởng là kết hợp nội dung lời nói với những dấu hiệu như cách phát âm, nét mặt và ngôn ngữ cơ thể. Tech.eu mô tả Inter-2 phân tích tín hiệu từ văn bản, âm thanh và video; một trang giới thiệu mô hình mô tả việc nhận diện tín hiệu từ video có âm thanh. Các thông tin công khai cho thấy mô hình có khả năng phân tích đa phương thức, nhưng chưa giải thích đầy đủ từng loại đầu vào được xử lý ra sao trong mọi cấu hình sản phẩm. 2518

Vì sao Interhuman xây dựng lớp trí tuệ xã hội?

Interhuman AI được thành lập tại Copenhagen năm 2023. Các nhà đồng sáng lập gồm Paula Petcu, Frederik Sally và Line Clemmensen. 179

Theo định hướng của công ty, bản ghi lời thoại đôi khi chưa đủ để một trợ lý AI phản hồi phù hợp. Chẳng hạn, hệ thống có thể dùng dấu hiệu cho thấy người đối thoại đang bối rối hoặc mất tập trung để điều chỉnh cuộc trò chuyện. Tech.eu mô tả cách tiếp cận của Interhuman là bổ sung phân tích âm thanh và video bên cạnh các mô hình ngôn ngữ lớn. 2

Đây là mục tiêu sản phẩm, không phải bằng chứng cho thấy mô hình luôn suy luận chính xác ý định của mọi người trong mọi hoàn cảnh. Một khoảng ngừng, nét mặt hay thay đổi trong giọng nói có thể xuất phát từ nhiều nguyên nhân; vì vậy, không nên xem một tín hiệu đơn lẻ là chẩn đoán hoặc cách diễn giải đúng cho tất cả mọi người.

Ứng dụng tiềm năng và những gì đã được xác lập

Interhuman nêu AI hội thoại và huấn luyện phỏng vấn là những ứng dụng tiềm năng. Trang web của công ty giới thiệu dịch vụ luyện phỏng vấn thử, tập trung vào cách thể hiện. Tài liệu về phỏng vấn nghiên cứu mô tả việc gắn tín hiệu với những đoạn trả lời liên quan. Tuy nhiên, ví dụ về phỏng vấn nghiên cứu nói đến Inter-1, mô hình trước đó, chứ không chứng minh mọi tính năng ấy đều có trong mọi trường hợp sử dụng Inter-2. 524

Những ví dụ này cho thấy lớp phân tích tín hiệu xã hội có thể hỗ trợ huấn luyện hoặc giúp nhà nghiên cứu xem lại các cuộc phỏng vấn. Nhưng tự chúng không chứng minh mô hình hoạt động chính xác với những người, nền văn hóa hay bối cảnh khác nhau. Các nguồn hiện có chưa cung cấp đủ thông tin để đánh giá độc lập hiệu suất đó.

Khả năng truy vết, quyền riêng tư và nguy cơ bị lạm dụng

Interhuman cho biết mô hình Inter-1 trước đây có thể giải thích những dấu hiệu hành vi nào góp phần tạo nên một đánh giá. Công ty cũng mô tả cách liên kết tín hiệu với các cụm từ cụ thể trong câu trả lời phỏng vấn. Đây có thể là những tính năng hữu ích để tăng tính minh bạch khi được cung cấp, nhưng nguồn hiện có không xác nhận mọi kết quả của Inter-2 đều có mức giải thích hoặc khả năng truy vết tương tự. 2524

Điều khoản dịch vụ của công ty liệt kê một số hình thức sử dụng bị hạn chế, trong đó có suy luận cảm xúc của một người tại nơi làm việc hoặc cơ sở giáo dục. Tuy nhiên, tài liệu hiện có chưa đủ để mô tả cụ thể chính sách lưu trữ dữ liệu, quy trình xin đồng thuận hay cách các giới hạn này được thực thi trên thực tế. 19

Những câu hỏi còn bỏ ngỏ rất đáng lưu ý vì công nghệ này phân tích khuôn mặt, giọng nói và nội dung hội thoại. Tín hiệu xã hội có thể bị diễn giải sai hoặc bị dùng để giám sát; bằng chứng hiện có chưa cho thấy các biện pháp bảo vệ của Interhuman xử lý mọi nguy cơ như thế nào.

Lộ trình của Interhuman vẫn còn là câu hỏi mở

Các bài viết và tài liệu của công ty được dẫn ở đây mô tả cách tiếp cận đa phương thức hiện tại của Inter-2, nhưng chưa xác nhận lịch trình hay cam kết kỹ thuật cụ thể cho phân tích chỉ bằng giọng nói, hội thoại nhiều người, các mô hình tiếp theo hoặc việc mở rộng ra ngoài châu Âu. Vì vậy, nên xem đây là những vấn đề chưa được xác nhận, thay vì tính năng hay mốc thời gian đã công bố. 25