聯合國嘅策略跳過咗「細路夠唔夠秤用某個App」呢種二元問題,直接對準令App變得危險嘅運作機制。建議圍繞四大支柱:
禁止掠奪性設計,而唔係單單禁細路。 聯合國呼籲禁止針對兒童嘅掠奪性操作,包括令人上癮嘅設計功能、操控性推薦系統,同埋提取式數據操作。呢啲設計元素——例如無限滾動(infinite scroll)、自動播放同不斷彈出嘅通知——全部都係為咗最大化用戶參與度而設計,犧牲咗用戶嘅身心健康。
將安全同私隱設為預設配置。 指引要求,合乎年齡嘅設計、私隱保護同安全措施,必須由產品開發嘅第一日起就嵌入平台,而唔係等傷害發生咗先被動地做內容審查。呢個「設計即安全」嘅原則,要求公司喺產品推出之前,就要預見並預防風險。
通過強而有力、協調一致嘅法律。 聯合國敦促各國制定同執行法律,打擊一切形式嘅網上暴力同針對兒童嘅犯罪。呢啲法律框架必須同現有嘅兒童保護、教育、醫療同司法系統整合,令數碼安全唔再被當作一個獨立、割裂嘅議題。
要科技公司問責。 指引嘅一個核心轉變,係要將安全嘅主要責任放喺製造風險嘅平台身上。指引表明:「即係話要禁止掠奪性操作,監管高風險功能……並要求將私隱、安全同年齡適合嘅設計作為基準」,否定咗單靠家庭去處理危險環境嘅諗法。
正當澳洲等國家將16歲以下青少年鎖喺各大平台門外之際,圖克將聯合國嘅新指引定位為直接抗衡「禁令優先」方針嘅對策。佢唔係主張要畀細路上一個無法無天嘅互聯網,而係解釋點解用限制使用權作為主要政策工具,係一種想像力同監管上嘅失敗。
傷害係一種設計上嘅選擇。 圖克明確指出,網上虐待同行為對心理健康嘅影響並非意外。佢指出,呢啲傷害「源於損害安全嘅設計選擇同商業操作,包括令人上癮嘅功能,例如無限滾動、自動播放同持續嘅App通知」。佢嘅理據係,如果危險係由產品製造出嚟,咁單純踢走用戶並唔會修復個產品,只係將風險轉移咗去第二度。
禁令可能適得其反。 指引警告,年齡限制同「一刀切」禁令無法解決平台底層嘅危險功能,而且可能會產生反效果,將細路推向未受監管、更唔安全嘅互聯網角落。聯合國兒童基金會(UNICEF)早前亦都提醒過,「社交媒體禁令本身帶有風險,甚至可能適得其反」,因為咁樣會切斷年輕人接觸重要支援網絡同資訊嘅渠道,同時亦冇令佢哋轉戰嘅未受監管空間變得更安全。
責任必須轉移到業界身上。 聯合國指引強調:「首要任務係要科技公司問責,而唔係禁止兒童進入數碼世界。」 圖克堅持,各國必須運用監管權力,迫使科技巨頭將兒童安全「由設計開始」嵌入平台,而唔係留低家長同細路喺一個充滿敵意嘅數碼環境中掙扎求存。佢話:「『一刀切』禁社交媒體並唔係解決呢個多面向問題嘅萬能藥。」佢要求嘅係系統性問責,而唔係簡單化嘅「封關」政策。
聯合國提出嘅替代模式,要求公司必須進行「兒童權利影響評估」,建立有效嘅執行機制,並確保佢哋嘅系統受到獨立監督。呢個意味住演算法必需要接受審計,睇吓佢哋點樣向未成年人推送內容;預設私隱設定必須鎖定喺最高級別;而喺證實會造成傷害嘅地方,例如無限滾動呢類賺錢嘅參與度循環,必需要被拆除。呢個方針旨在從根本上改變平台嘅架構,保護所有兒童,冇一例外。
聯合國嘅策略跳過咗「細路夠唔夠秤用某個App」呢種二元問題,直接對準令App變得危險嘅運作機制。建議圍繞四大支柱:
禁止掠奪性設計,而唔係單單禁細路。 聯合國呼籲禁止針對兒童嘅掠奪性操作,包括令人上癮嘅設計功能、操控性推薦系統,同埋提取式數據操作。呢啲設計元素——例如無限滾動(infinite scroll)、自動播放同不斷彈出嘅通知——全部都係為咗最大化用戶參與度而設計,犧牲咗用戶嘅身心健康。
將安全同私隱設為預設配置。 指引要求,合乎年齡嘅設計、私隱保護同安全措施,必須由產品開發嘅第一日起就嵌入平台,而唔係等傷害發生咗先被動地做內容審查。呢個「設計即安全」嘅原則,要求公司喺產品推出之前,就要預見並預防風險。
通過強而有力、協調一致嘅法律。 聯合國敦促各國制定同執行法律,打擊一切形式嘅網上暴力同針對兒童嘅犯罪。呢啲法律框架必須同現有嘅兒童保護、教育、醫療同司法系統整合,令數碼安全唔再被當作一個獨立、割裂嘅議題。
要科技公司問責。 指引嘅一個核心轉變,係要將安全嘅主要責任放喺製造風險嘅平台身上。指引表明:「即係話要禁止掠奪性操作,監管高風險功能……並要求將私隱、安全同年齡適合嘅設計作為基準」,否定咗單靠家庭去處理危險環境嘅諗法。
正當澳洲等國家將16歲以下青少年鎖喺各大平台門外之際,圖克將聯合國嘅新指引定位為直接抗衡「禁令優先」方針嘅對策。佢唔係主張要畀細路上一個無法無天嘅互聯網,而係解釋點解用限制使用權作為主要政策工具,係一種想像力同監管上嘅失敗。
傷害係一種設計上嘅選擇。 圖克明確指出,網上虐待同行為對心理健康嘅影響並非意外。佢指出,呢啲傷害「源於損害安全嘅設計選擇同商業操作,包括令人上癮嘅功能,例如無限滾動、自動播放同持續嘅App通知」。佢嘅理據係,如果危險係由產品製造出嚟,咁單純踢走用戶並唔會修復個產品,只係將風險轉移咗去第二度。
禁令可能適得其反。 指引警告,年齡限制同「一刀切」禁令無法解決平台底層嘅危險功能,而且可能會產生反效果,將細路推向未受監管、更唔安全嘅互聯網角落。聯合國兒童基金會(UNICEF)早前亦都提醒過,「社交媒體禁令本身帶有風險,甚至可能適得其反」,因為咁樣會切斷年輕人接觸重要支援網絡同資訊嘅渠道,同時亦冇令佢哋轉戰嘅未受監管空間變得更安全。
責任必須轉移到業界身上。 聯合國指引強調:「首要任務係要科技公司問責,而唔係禁止兒童進入數碼世界。」 圖克堅持,各國必須運用監管權力,迫使科技巨頭將兒童安全「由設計開始」嵌入平台,而唔係留低家長同細路喺一個充滿敵意嘅數碼環境中掙扎求存。佢話:「『一刀切』禁社交媒體並唔係解決呢個多面向問題嘅萬能藥。」佢要求嘅係系統性問責,而唔係簡單化嘅「封關」政策。
聯合國提出嘅替代模式,要求公司必須進行「兒童權利影響評估」,建立有效嘅執行機制,並確保佢哋嘅系統受到獨立監督。呢個意味住演算法必需要接受審計,睇吓佢哋點樣向未成年人推送內容;預設私隱設定必須鎖定喺最高級別;而喺證實會造成傷害嘅地方,例如無限滾動呢類賺錢嘅參與度循環,必需要被拆除。呢個方針旨在從根本上改變平台嘅架構,保護所有兒童,冇一例外。