UN 重磅報告：兒童淪為「未受監管 AI 的白老鼠」

關鍵警示：暴露於風險中的一代

全球有超過82%的15至24歲青少年已經連上網路，而他們正不成比例地暴露在假訊息、網路騷擾、演算法偏見，以及AI的惡意使用之下 。報告警告，採取行動的窗口正在迅速關閉：AI的發展已遠遠超越從未為此設計的法規框架，從合成內容到AI助長的剝削行為，這些風險正在不斷湧現 。

商業模式：傷害並非意外

報告提出了一個尖銳的論點：年輕人在網路上遇到的傷害並非意外。它們是將注意力與個人資料貨幣化的商業模式，以及專為最大化互動與消費而設計的平台功能所直接產生的結果 。報告特別點名了「暗黑模式」（dark patterns）、「戰利品箱」（loot boxes）以及其他驅使兒童強迫性使用的設計手法，這些手法尤其影響習慣與身份認同仍在發展階段的兒童 。報告同時警告，越來越隱蔽的廣告手法正在利用兒童來刺激線上消費 。

人工智慧：正在疊加的既有風險

AI正在以安全防護措施追趕不及的速度，疊加既有風險。報告指出的風險範圍從AI生成的內容到AI助長的剝削 。報告中直接引述了聯合國秘書長安東尼奧·古特瑞斯的話：「沒有任何孩子應該成為未受監管AI的白老鼠……當一個孩子受到傷害時，答案絕不應該是『這是演算法幹的』」 。

青年參與：不只是受害者，更是倡議者

報告強調，兒童與青少年不僅僅是受害者——他們同時也是內容創作者、倡議者與組織者 。然而，他們的觀點在政策制定的討論場合，以及為這些政策提供依據的研究中，仍然代表性不足 。報告明確表示：「保護他們與讓他們參與其中並非相互競爭的目標。我們必須兩者兼顧」 。

將兒童權利嵌入AI治理的迫切性

報告呼籲，必須在相關法規還在草擬階段的現在，就將兒童權利寫入AI治理框架，並警告一個*「不會敞開太久的窗口」*正在關閉 。報告敦促各國政府、科技公司、廣告商、媒體以及研究人員共同採取行動。文中提及了「兒童權利與保護人工智慧時代聯盟」（Coalition for Children's Rights and Protection in the Age of Artificial Intelligence），以及聯合國秘書長所呼籲的，涵蓋任何兒童可能接觸到的系統的「AI兒童安全承諾」 。