UN schlägt Alarm: Geschäftsmodelle und unregulierte KI treiben Kinder in die Online-Krise

Eine Generation im Visier: Die zentralen Warnungen

Mehr als 82 % der 15- bis 24-Jährigen sind online – und sie sind überproportional Desinformation, Belästigung, algorithmischen Verzerrungen und dem böswilligen Einsatz von KI ausgesetzt . Der Bericht warnt, dass das Zeitfenster für Gegenmaßnahmen sich rapide schließt: KI überholt die regulatorischen Rahmenwerke, die nie für sie konzipiert wurden, und schafft neue Risiken – von synthetischen Inhalten bis hin zu KI-gestützter Ausbeutung .

Die Geschäftsmodelle: Die Schäden sind kein Versehen

Das Papier argumentiert pointiert: Die Schäden, die junge Menschen online erleiden, sind kein Zufall. Sie sind das direkte Ergebnis von Geschäftsmodellen, die Aufmerksamkeit und persönliche Daten monetarisieren, und von Designmerkmalen, die darauf ausgelegt sind, Interaktion und Ausgaben zu maximieren . Konkret genannt werden „Dark Patterns“, Lootboxen und andere Taktiken, die bei Kindern, deren Gewohnheiten und Identitäten sich noch formen, zwanghaftes Nutzungsverhalten fördern . Der Bericht warnt zudem vor zunehmend versteckten Werbemethoden, die Kinder ausbeuten, um Online-Ausgaben zu steigern .

Künstliche Intelligenz: Beschleuniger bestehender Risiken

KI verstärkt die bestehenden Risiken schneller, als Schutzmaßnahmen mithalten können. Der Bericht führt Risiken von KI-generierten Inhalten bis hin zu KI-gestützter Ausbeutung an . UN-Generalsekretär António Guterres wird direkt zitiert: „Kein Kind sollte ein Versuchskaninchen für unregulierte KI sein … Wenn einem Kind Schaden zugefügt wird, darf die Antwort niemals ‚Der Algorithmus war es‘ lauten“ .

Jugendbeteiligung: Nicht nur Opfer, sondern auch Gestalter

Der Bericht betont, dass Kinder und Jugendliche nicht nur Opfer sind – sie sind Schöpfer, Fürsprecher und Organisatoren . Dennoch bleiben ihre Perspektiven in den Gremien, in denen Politik gestaltet wird, und in der Forschung, die diese Politik untermauert, unterrepräsentiert . Der Bericht stellt klar: „Sie zu schützen und sie einzubeziehen sind keine gegensätzlichen Ziele. Wir müssen beides tun“ .

Die Dringlichkeit: Kinderrechte in die KI-Governance einbetten

Der Bericht fordert, Kinderrechte jetzt in die KI-Governance-Rahmenwerke zu schreiben, solange diese Gesetze noch entwickelt werden – und warnt, dass sich „ein Fenster, das nicht lange offen bleiben wird“, schließt . Er ruft Staaten, Tech-Unternehmen, Werbetreibende, Medien und Forscher zum gemeinsamen Handeln auf. Er verweist auf die Koalition für Kinderrechte und Schutz im Zeitalter der Künstlichen Intelligenz und den Aufruf des Generalsekretärs für ein KI-Kindersicherheitsversprechen, das jedes System umfasst, das ein Kind erreichen kann .