OpenAI公布首份青少年使用報告,稱青少年平均每天使用ChatGPT不到15分鐘,連續使用超過3小時者不到2%。公司也表示,在出現休息提醒的青少年對話中,近半數使用者在5分鐘內暫停或結束聊天,較長時間的使用也常與學習活動有關。
17
20
但平均使用時間回答不了另一個關鍵問題:當青少年談到自傷、飲食失調等高風險議題時,產品的安全防護是否真的有效?Common Sense Media旗下Youth AI Safety Institute(青少年人工智慧安全研究所)以逾4,000項提示測試後,將ChatGPT for Teens評為未滿18歲使用者的「不可接受的風險」。
6
OpenAI公布了哪些使用數據?
OpenAI表示,青少年平均每天使用ChatGPT不到15分鐘,不到2%的使用者會連續使用超過3小時。在近半數出現休息提醒的對話中,青少年於5分鐘內暫停或結束聊天;公司也指出,學習相關活動在較長的使用時段中仍相當常見。
17
20
這些數字是OpenAI對使用情況及休息提醒反應的描述,並不等於證明長時間使用沒有風險,也不能單獨說明安全機制是否足以保護青少年。
倡議團體質疑:平均數看不見重度使用者
Design It For Us、Fairplay與Common Sense Media質疑,若缺少更清楚的資料揭露與獨立查證,單看平均值或低比例,難以了解最常使用ChatGPT的青少年實際經歷了什麼。這些團體呼籲進一步檢視使用量最高的10%,包括他們使用多久、談論哪些內容。
1
倡議團體也將這場爭議與Meta如何呈現青少年使用數據的相關檢視相提並論,並指出外界對青少年心理健康的關注及相關訴訟背景下,企業自行挑選和公布的使用數字,不應被當成產品安全的獨立證據。
1
報導中提到的一項估算指出,不到2%的重度使用者仍可能相當於約50萬人。不過,這是對可能規模的估算,並非經獨立查證的實際人數;單靠比例,也無法在缺乏確認分母的情況下得出確切人數。
1
逾4,000項測試發現哪些防護缺口?
Youth AI Safety Institute表示,研究人員在青少年版體驗推出前後測試了逾4,000項提示。在測試中,研究人員以新建立、已連結家長帳號的帳戶,進行最長約一小時、涉及自殺、自傷或飲食失調的對話,卻沒有收到家長通知。研究所稱,通知反而出現在已有數週敏感對話紀錄的帳戶上。
5
6
研究所也指出,臨床審查者判定應提供危機轉介的情況中,超過四分之一沒有收到相關轉介;測試者還發現,作業防護可能遭到繞過,即使出現與Study Mode(學習模式)相關的提醒,ChatGPT仍可能直接完成作業。
2
12
這些結果反映的是研究所設定的測試情境,不代表上述情況在所有青少年對話中發生的頻率。研究所的「不可接受風險」評級,則是根據其測試發現所作的判斷。
6
OpenAI如何回應?爭議焦點仍在防護是否可靠
Youth AI Safety Institute呼籲,在防護措施能如宣稱般運作並經獨立驗證之前,應將使用權限限制於成年人。OpenAI則表示,家長將帳號連結後,家長控制與通知可能需要數小時才會啟用,並以此解釋部分通知未能觸發的情況;公司也表示,計畫公布更完整的研究,並與獨立第三方研究者合作。
1
雙方爭論的核心不只是青少年平均花多少時間使用ChatGPT。OpenAI的數據呈現整體使用概況;Common Sense Media的測試則針對高風險情境,檢驗特定安全功能。若要了解平均數看不到的部分,仍需要更多獨立研究,尤其是重度使用者的使用情況,以及各項防護措施在實際情境中的表現。
1
6