EU-KIDS-Act: Diese Online-Regeln für Kinder plant die EU

Der EU-KIDS-Act soll europaweit einheitliche Regeln schaffen, damit Kinder und Jugendliche digitale Dienste sicherer nutzen können. Die Europäische Kommission hat den Verordnungsentwurf am 17. September vorgelegt. Er ist noch nicht in Kraft: Erst das Europäische Parlament und der Rat der EU, in dem die Mitgliedstaaten vertreten sind, müssen den Text verhandeln und verabschieden. Bis dahin können sich zentrale Details noch ändern. 1617

Die geplanten Altersstufen für soziale Medien

Der Entwurf unterscheidet klar nach Alter:

• Unter 13 Jahren: Kein Zugang zu sozialen Medien. Kinder könnten aber weiterhin speziell kinderfreundliche Video-Sharing-Dienste über ein von Eltern oder Sorgeberechtigten verwaltetes Konto nutzen. 2
• 13 und 14 Jahre: Zugang nur über ein von Eltern oder Sorgeberechtigten beaufsichtigtes Mini-Konto. Diese Konten hätten eingeschränkte Funktionen und ein tägliches Zeitlimit von einer Stunde. 2517
• Ab 15 Jahren: Jugendliche dürften ein eigenes Social-Media-Konto eröffnen. Die Anbieter müssten dafür aber besonders geschützte, von Anfang an sicher gestaltete Konten anbieten. 117

Die Kommission will damit verhindern, dass in den EU-Staaten sehr unterschiedliche Altersregeln entstehen. Zugleich sollen Risiken für Privatsphäre, Sicherheit und Schutz von Minderjährigen bei besonders risikoreichen Diensten verringert werden.

Nicht nur Social Media: Welche Dienste betroffen wären

Der KIDS Act zielt nicht allein auf soziale Netzwerke. Schutzpflichten für Minderjährige sollen auch für Video-Sharing-Plattformen, Online-Spiele, KI-Begleiter, Chatbots und App-Stores gelten. 217

Damit geht es nicht nur um die Frage, wer ein Konto eröffnen darf. Der Entwurf greift auch in die Gestaltung digitaler Produkte ein, wenn diese von unter 18-Jährigen verwendet werden.

Weniger Suchtmechanismen, weniger Kontakt zu Fremden

Ein Kernpunkt ist das Prinzip „Safety by Design“: Anbieter sollen nicht erst reagieren, wenn Schäden nachgewiesen sind. Sie müssten vielmehr selbst belegen, dass ihre Angebote altersgerecht und sicher konzipiert sind. 117

Für Minderjährige sollen unter anderem folgende Funktionen und Praktiken eingeschränkt oder verhindert werden:

• endloses Scrollen ohne Unterbrechung;
• Belohnungsmechanismen und andere Tricks zur Steigerung der Nutzung;
• Push-Nachrichten während der Schlafenszeit;
• unaufgeforderte Kontaktaufnahme durch Fremde;
• auf Profiling beruhende Empfehlungsfeeds und personalisierte Werbung für Kinder; sowie
• Kosten- und Ausgabenfallen, die sich an Minderjährige richten. 517

Der Vorschlag ist damit mehr als eine Altersgrenze. Er richtet sich auch gegen Designentscheidungen, die möglichst viel Aufmerksamkeit oder Umsatz erzeugen sollen, dabei aber den Schutz jüngerer Nutzerinnen und Nutzer beeinträchtigen können.

KI-Begleiter und Chatbots: standardmäßig ausgeschaltet

Für KI-Begleiter und Chatbots sieht der Entwurf besondere Schutzvorkehrungen vor. Bei Minderjährigen sollen solche Funktionen standardmäßig deaktiviert sein. Zudem wären Gestaltungen verboten, die zwischenmenschliche Beziehungen nachahmen und dadurch emotionale Abhängigkeit fördern könnten. 517

Bei Verstößen gegen bestimmte Pflichten für KI-Begleiter und allgemeine dialogorientierte Chatbots drohen laut Entwurf Geldbußen von bis zu 6 % des gesamten weltweiten Jahresumsatzes des jeweiligen Anbieters.

Was als Nächstes passiert

Die Kommission hat einen Vorschlag angenommen und an Parlament und Rat übermittelt; eine fertige EU-Verordnung ist das noch nicht. Im weiteren EU-Gesetzgebungsverfahren können beide Institutionen den Text ändern. Das betrifft etwa Altersgrenzen, den Anwendungsbereich, Methoden zur Altersprüfung und die Durchsetzung. 6

Deshalb gilt: Die derzeit diskutierten Regeln sind geplant, nicht geltendes Recht.

Streitpunkt Altersprüfung – und Kritik am Geschäftsmodell der Plattformen

Altersgrenzen dürften besonders umstritten bleiben. Kritikerinnen und Kritiker weisen darauf hin, dass Altersabfragen technisch schwer durchzusetzen sein können, Kinder zu falschen Altersangaben verleiten könnten und möglicherweise weitreichende, datenschutzsensible Verfahren zur Altersverifikation erfordern. Auch der breite Geltungsbereich wird als Risiko für Überregulierung und unbeabsichtigte Folgen bei sehr unterschiedlichen Online-Diensten gesehen.

Ein weiterer Einwand lautet, Altersbeschränkungen griffen zu kurz, wenn die grundlegenden Anreize der Plattformen – hohe Nutzungsdauer, Datennutzung und personalisierte Werbung – nicht ausreichend verändert würden. Der KIDS Act reagiert teilweise darauf: Er enthält Verbote oder Einschränkungen für Suchtmechanismen, profilbasierte Empfehlungen und personalisierte Werbung für Minderjährige. Ob diese Punkte im Gesetzgebungsverfahren erhalten bleiben und wie sie später kontrolliert würden, wird entscheidend sein. 517

Fragen zu Beratern und internationale Debatten

Nach Angaben der Kommission waren an den Vorarbeiten Fachleute sowie Vertreterinnen und Vertreter von Industrie, Eltern und jungen Menschen beteiligt. 2 Die vorliegenden Quellen belegen jedoch keine konkreten Vorwürfe zu möglichen Technologiebranche-Verbindungen einzelner Berater, Interessenkonflikten oder Fehlverhalten. Darüber hinausgehende Schlussfolgerungen wären daher nicht gerechtfertigt.

Auch außerhalb der EU wird über Kinderschutz im Netz und altersabhängige Zugangsregeln diskutiert. Das hier vorliegende Material erlaubt jedoch keinen belastbaren Vergleich einzelner Maßnahmen anderer Staaten. Klar ist: Der EU-Vorschlag ist Teil einer breiteren politischen Debatte darüber, wie digitale Dienste Kinder besser schützen können – bei weiterhin offenen Fragen zu Privatsphäre, Umsetzung und Verantwortung der Plattformen.