国連がSNSの包括的禁止に異議「デザインで安全を」

安全性とプライバシーを初期設定にする。 危害が発生した後の事後的なコンテンツモデレーションに頼るのではなく、年齢に適したデザインやプライバシー保護、安全性を最初からプラットフォームに組み込むことを、指針は義務付けている 。この「安全のデザイン」原則は、製品がリリースされる前に、企業がリスクを予測し未然に防ぐことを要求するものだ 。

強固で整合性のある法律を制定する。 国連は、あらゆる形態のオンライン暴力や子どもに対する犯罪に対処する法律の制定と執行を各国に促している。これらの法的枠組みは、既存の児童保護、教育、保健、司法制度と統合され、デジタル上の安全が孤立した別個の問題として扱われないようにしなければならない 。

テクノロジー企業に説明責任を負わせる。 指針の中心的な転換点は、安全に関する主たる責任を、リスクを生み出すプラットフォームに負わせることにある。「つまり、搾取的な慣行を禁止し、リスクのある機能を規制し、プライバシー、安全性、年齢に適したデザインを基準として要求することです」と指針は述べており、危険な環境を取り締まるのは家庭だけの役割であるという考え方を否定している 。

フォルカー・テュルク高等弁務官が包括的禁止に反対する理由

オーストラリアのように16歳未満の子どもを主要プラットフォームから締め出す動きが出る中、テュルク氏は国連の新指針を、禁止を先行させるアプローチへの直接的な対抗軸として位置づけた。彼は、子どもにとって無法なインターネットを主張したのではなく、アクセス制限が主要な政策ツールとして使われることが、いかに想像力と規制の失敗であるかを説明したのだ。

危害は「デザインの選択」である。 テュルク氏は、オンライン上の虐待やメンタルヘルスへの影響は偶然ではないと明言した。それらは「無限スクロール、自動再生、持続的なアプリ通知などの中毒性のある機能を含む、安全性を損なうデザインの選択とビジネス慣行から生じる」と彼は述べた 。危険が製品によって作り出されているのならば、単にユーザーを取り除いても製品は何も改善されず、リスクを別の場所に移すだけだと彼は論じた。

禁止措置は裏目に出る可能性がある。 指針は、年齢制限や包括的禁止は根本的な危険な機能に対処しておらず、子どもたちを未規制でより安全性の低いインターネットの片隅へと追いやることで、逆効果になる可能性があると警告している 。ユニセフ（UNICEF）も以前、「SNS禁止には独自のリスクが伴い、裏目に出る可能性さえある」と警告していた。それは、若者を重要な支援ネットワークや情報から遮断する一方で、彼らが流れ着く未規制の空間はより危険なままであるからだ 。

負担は業界へ転嫁されるべきである。 「優先されるべきは、テクノロジー企業に説明責任を負わせることであり、子どもたちをデジタルの世界から禁止することではありません」と国連の指針は述べている 。テュルク氏は、各国はその規制権限を駆使して、テクノロジー大手に設計段階から子どもの安全をプラットフォームに組み込ませるべきであり、危険なデジタル環境を親子がただ生き延びるしかない状況に任せるべきではないと主張した 。「SNSの包括的禁止は、多面的な問題に対する一回限りの万能薬ではありません」と彼は述べ、単純な門前払いではなく、システム的な説明責任を要求した 。

「安全のデザイン」とは実際にどのようなものか

国連が提示する代替モデルは、企業に対し、子どもの権利への影響評価の実施、実効性のある執行メカニズムの確立、そして自社システムに対する独立した監視の実施を求めている 。これは、未成年者へのコンテンツ配信方法についてアルゴリズムの監査を行うこと、デフォルトのプライバシー設定を最も高いレベルに固定すること、そして無限スクロールのような収益性の高いエンゲージメントループを、害を及ぼすことが証明された場合には解体することを意味する。このアプローチは、子どもたちが使用するプラットフォームの構造を根本から変えることで、すべての子どもを例外なく保護することを目指している。