ChatGPT cho thanh thiếu niên hoạt động ra sao? Những điều phụ huynh cần biết

Điều đó không đồng nghĩa với xác minh tuổi hoàn hảo. Hệ thống có thể tạo ra dương tính giả, khiến người trưởng thành bị áp dụng các giới hạn không cần thiết, hoặc âm tính giả, khiến một số trẻ vị thành niên vẫn ở trong trải nghiệm ChatGPT tiêu chuẩn. Người dùng cũng có thể khai báo sai tuổi hoặc sử dụng tài khoản của người khác. Vì vậy, bằng chứng hiện có cho thấy dự đoán độ tuổi nên được xem là một biện pháp bảo vệ bổ sung, chứ không phải hệ thống bảo đảm độ tuổi hoàn chỉnh.

Study Mode và các công cụ học tập hoạt động thế nào?

Các tính năng học tập được xây dựng để ChatGPT đóng vai trò giống một người bạn đồng hành học tập hơn là công cụ chuyên đưa đáp án:

• Study Mode sử dụng câu hỏi gợi mở, hướng dẫn từng bước, phương pháp chia nhỏ vấn đề và các lần kiểm tra kiến thức để giúp học sinh tự xử lý bài toán. OpenAI cho biết tính năng này được phát triển cùng giáo viên, nhà khoa học và chuyên gia sư phạm.
• Responsible Homework Reminder có thể nhận diện khi một yêu cầu dường như nhằm làm tắt hoặc làm hộ bài tập, sau đó hướng người dùng sang Study Mode và cách giải quyết bài cùng nhau. Đây là một lời nhắc định hướng, không phải công cụ phát hiện gian lận chính xác tuyệt đối.
• Bài kiểm tra và công cụ luyện tập giúp người dùng kiểm tra mức độ hiểu bài, tạo câu hỏi luyện tập và ôn lại kiến thức khi các tính năng này khả dụng.
• Study Hours cho phép các cuộc trò chuyện mới đủ điều kiện bắt đầu ở Study Mode. Cài đặt này định hướng cách cuộc trò chuyện khởi đầu, chứ không chặn quyền truy cập ChatGPT.

Những công cụ trên phản ánh mục tiêu được OpenAI công bố: hỗ trợ việc học mà không đơn giản hoàn thành bài tập thay cho học sinh. Dù vậy, chúng không bảo đảm mọi câu trả lời đều phù hợp về mặt sư phạm hoặc mọi học sinh đều sử dụng hệ thống một cách trung thực.

Phụ huynh có thể kiểm soát những gì?

Phụ huynh hoặc người giám hộ có thể tùy chọn liên kết tài khoản của mình với tài khoản của thanh thiếu niên thông qua Parental Controls. Sau khi liên kết, người lớn có thể quản lý một số cài đặt an toàn và sản phẩm, gồm bảo vệ nội dung nhạy cảm, bộ nhớ đã lưu, việc cho phép dữ liệu tham gia huấn luyện mô hình, Voice Mode và một số công cụ như tạo ảnh, Cloud Browser hoặc quyền truy cập mạng của Codex.

Phụ huynh đã liên kết tài khoản cũng có thể:

• Đặt Study Mode làm chế độ mặc định cho các cuộc trò chuyện mới đủ điều kiện.
• Cấu hình Study Hours, trong đó các cuộc trò chuyện mới đủ điều kiện bắt đầu ở Study Mode.
• Đặt Quiet Hours, khoảng thời gian thanh thiếu niên không thể sử dụng ChatGPT, bao gồm ChatGPT Work.
• Nhận một số thông báo an toàn trong các tình huống rủi ro cao cụ thể.

Đây không phải bảng điều khiển để phụ huynh theo dõi toàn bộ hoạt động của con. Phụ huynh không nhận được nội dung trò chuyện, bản chép lại hay lịch sử chat của con, và các thông báo cũng không phải hình thức giám sát theo thời gian thực.

Lời nhắc nghỉ và thông báo an toàn có tác dụng gì?

ChatGPT cho thanh thiếu niên có các lời nhắc nghỉ, khuyến khích người dùng dừng lại và rời khỏi màn hình sau một thời gian sử dụng kéo dài. OpenAI cho biết thanh thiếu niên dùng ChatGPT trong thời gian dài sẽ nhận lời nhắc thường xuyên hơn; thông tin về đợt triển khai mô tả một lời nhắc sau 90 phút hoạt động trong khoảng thời gian ba giờ.

Thông báo an toàn được thiết kế với phạm vi khá hẹp. OpenAI cho biết phụ huynh đã liên kết tài khoản có thể được thông báo sau khi các nhân sự đánh giá được đào tạo chuyên biệt xác định dấu hiệu nghiêm trọng liên quan đến tự làm hại bản thân. Thông báo cũng có thể liên quan đến một số trường hợp tài khoản bị vô hiệu hóa vì nội dung về hành vi bạo lực; OpenAI đồng thời cho biết đã mở rộng phạm vi bao phủ đối với các vấn đề rối loạn ăn uống.

Các cảnh báo này có thể bỏ sót vấn đề và không thể thay thế dịch vụ khẩn cấp, chăm sóc chuyên môn hoặc sự hỗ trợ trực tiếp từ một người lớn đáng tin cậy.

Những giới hạn nào chặt chẽ hơn với người dưới 18 tuổi?

OpenAI cho biết trải nghiệm dành cho thanh thiếu niên bổ sung các biện pháp bảo vệ về hành vi và sản phẩm đối với những lĩnh vực có thể gây rủi ro đặc biệt cho trẻ vị thành niên:

Tự làm hại bản thân và tự tử

Trong các tình huống nghiêm trọng, phản hồi được thiết kế với mức bảo vệ cao hơn và các biện pháp can thiệp hướng tới việc kết nối người dùng với hỗ trợ phù hợp. Một số trường hợp cũng có thể kích hoạt kênh thông báo an toàn hạn chế cho phụ huynh đã liên kết tài khoản.

Rối loạn ăn uống và hoạt động nguy hiểm

Các biện pháp bảo vệ nhằm giảm việc cung cấp hướng dẫn gây hại cũng như hạn chế nội dung đồ họa hoặc không phù hợp với độ tuổi phát triển. Những mối lo liên quan đến rối loạn ăn uống cũng nằm trong phạm vi thông báo mở rộng mà OpenAI mô tả.

Bạo lực

Trải nghiệm dành cho thanh thiếu niên áp dụng giới hạn nghiêm ngặt hơn với nội dung bạo lực và các hoạt động nguy hiểm. Trong một số trường hợp liên quan đến hành vi bạo lực, tài khoản có thể bị vô hiệu hóa và phụ huynh đã liên kết có thể nhận thông báo giới hạn.

Nội dung tình dục và lãng mạn

OpenAI cho biết các biện pháp bảo vệ người dưới 18 tuổi đặt giới hạn chặt hơn đối với nội dung tình dục tường minh, nội dung đồ họa và nhập vai mang tính tình dục hoặc lãng mạn. Cài đặt dành cho phụ huynh đã liên kết có thể bổ sung bộ lọc đối với nhập vai tình dục hoặc lãng mạn, nhập vai bạo lực và các nhóm nội dung nhạy cảm khác.

Lệ thuộc cảm xúc và tuyên bố có ý thức

Các quy tắc hành vi dành cho người dưới 18 tuổi nhằm ngăn mô hình sử dụng ngôn ngữ lãng mạn với thanh thiếu niên, khuyến khích sự lệ thuộc cảm xúc hoặc ám chỉ rằng nó có cảm xúc hay ý thức. Mục tiêu được nêu là củng cố các mối quan hệ lành mạnh bên ngoài chatbot.

Đây là các chính sách và hành vi được thiết kế ở cấp sản phẩm, không phải bằng chứng cho thấy mọi lời nhắc nguy hiểm đều sẽ bị chặn hoặc mọi cuộc trò chuyện rủi ro đều được phát hiện.

Vì sao OpenAI ra mắt tính năng này vào thời điểm hiện nay?

OpenAI giới thiệu ChatGPT cho thanh thiếu niên như một cách để khiến việc sử dụng AI tạo sinh của người trẻ phù hợp hơn với độ tuổi và tập trung hơn vào học tập, thay vì chỉ loại họ khỏi công nghệ này. Sản phẩm kế thừa các nỗ lực trước đó của công ty về kiểm soát phụ huynh, dự đoán độ tuổi, hướng dẫn an toàn cho thanh thiếu niên và quy tắc mô hình dành cho người dưới 18 tuổi.

Thời điểm ra mắt cũng phản ánh sự giám sát ngày càng lớn đối với vai trò của chatbot trong các cuộc trò chuyện về tự làm hại bản thân, lời khuyên nguy hiểm, tương tác tình dục, sự phụ thuộc cảm xúc và việc sử dụng quá mức ở trẻ em. Trong khi đó, các nền tảng xã hội lớn cũng mở rộng tài khoản dành cho thanh thiếu niên, hệ thống ước tính độ tuổi, hạn chế nội dung, công cụ giám sát và lời nhắc giới hạn thời gian hoặc nghỉ sử dụng. ChatGPT cho thanh thiếu niên đưa OpenAI tham gia trực tiếp hơn vào cuộc cạnh tranh rộng lớn về cách các sản phẩm AI tiêu dùng nên phục vụ — và giới hạn — người dùng trẻ.

Những hạn chế phụ huynh và thanh thiếu niên cần hiểu rõ

Câu hỏi quan trọng nhất vẫn là hiệu quả thực tế. Các chuyên gia an toàn trẻ em và những người chỉ trích sản phẩm hoan nghênh các thiết lập mặc định chặt chẽ hơn, nhưng đặt câu hỏi liệu các hàng rào tự động có thể chống chịu ổn định trước nhiều cách diễn đạt khác nhau và tình huống sử dụng ngoài đời hay không.

Có bốn hạn chế thực tế:

1. Phát hiện độ tuổi có thể sai. Thiết lập an toàn hơn giúp giảm một phần rủi ro nhưng không bảo đảm mọi trẻ vị thành niên đều được nhận diện.
2. Hàng rào an toàn không phải bất khả xâm phạm. Chính sách nghiêm ngặt hơn không đồng nghĩa với việc câu trả lời gây hại sẽ không bao giờ xuất hiện.
3. Kiểm soát phụ huynh là tính năng tự nguyện. Tài khoản phải được liên kết và phụ huynh chỉ có một nhóm tùy chọn nhất định, thay vì được xem toàn bộ cuộc trò chuyện.
4. Cảnh báo có phạm vi hạn chế và được thiết kế không phải để giám sát liên tục. Chúng không phải hệ thống theo dõi theo thời gian thực hay công cụ phản ứng khẩn cấp.

Kết luận thận trọng nhất không phải là “ChatGPT cho thanh thiếu niên an toàn”. Có thể nói chính xác hơn rằng OpenAI đã tạo ra một trải nghiệm mặc định có giới hạn chặt chẽ hơn và định hướng học tập cho người dưới 18 tuổi, đi kèm một số công cụ hữu ích dành cho gia đình và các biện pháp bảo vệ có mục tiêu. Việc những biện pháp này hoạt động đáng tin cậy đến đâu trong các cuộc trò chuyện thực tế vẫn cần được kiểm chứng qua thử nghiệm liên tục và đánh giá độc lập.