Maria Ressa: Drei KI-Wellen könnten die Demokratie aushöhlen

Maria Ressa warnt nicht vor einem bloß fernen Szenario autonomer Maschinen. Nach ihrer Darstellung haben drei aufeinanderfolgende Technოლოგiewellen bereits Einfluss darauf genommen, worauf Menschen achten, wie sie emotionale Nähe erleben und möglicherweise künftig Entscheidungen treffen. Wenn diese Entwicklung nicht begrenzt werde, stehe demokratische Selbstregierung auf dem Spiel – denn Bürgerinnen und Bürger müssten ihre Fähigkeit zu eigenständigen Entscheidungen behalten. 1

Die drei KI-Wellen nach Ressa

1. Soziale Medien erobern die Aufmerksamkeit

Die erste Welle sind für Ressa soziale Medien. Plattformen konkurrierten um Aufmerksamkeit und hätten Menschen polarisiert sowie isoliert, sagte sie. Demokratisch problematisch werde das, wenn eine Öffentlichkeit weder gemeinsame Aufmerksamkeit noch Vertrauen oder einen gemeinsamen Informationsraum aufrechterhalten könne. Dann lasse sie sich leichter spalten und könne schlechter gemeinsam beraten und entscheiden. 1

2. Chatbots setzen bei Intimität an

Als zweite Welle nennt Ressa dialogbasierte KI. Chatbots könnten die menschliche Biologie beeinflussen, indem sie das Bedürfnis nach Nähe und Intimität ansprechen, sagte sie. Ihre Sorge ist nicht allein eine häufige Nutzung: Emotional besonders anziehend gestaltete Systeme könnten gerade für verletzliche Menschen neue Wege der Beeinflussung eröffnen. 1

3. Agentische KI bedroht menschliche Handlungsmacht

Die dritte Welle besteht in Ressas Lesart aus agentischer und Multi-Agenten-KI – also Systemen, die für Menschen handeln oder potenziell auch gegen ihre Interessen agieren können. Ohne rechtzeitig gesetzte Grenzen könnten sie menschliche Handlungsmacht untergraben: die Fähigkeit, unabhängig zu entscheiden. Regeln müssten beschlossen werden, bevor solche Systeme tief im Alltag verankert seien, warnte sie. 1

In Ressas Argumentation verschärfen sich die Risiken damit stufenweise: vom Kampf um Aufmerksamkeit über Einfluss durch emotionale Nähe bis zur Aussicht, dass automatisierte Systeme folgenreiche Entscheidungen anstelle von Menschen treffen.

Warum Ressa KI-Regeln als Frage der öffentlichen Sicherheit sieht

Ressa fordert, KI-Steuerung als Angelegenheit der öffentlichen Sicherheit zu behandeln – nicht vor allem als Streit über Meinungsfreiheit oder technologischen Wettbewerb. Bürgerinnen und Bürger sollten sich für KI-Regulierung einsetzen und damit gewählte Politiker dazu bewegen, Gesetze zu verabschieden. 1

Zu ihren Vorschlägen gehören mehrere miteinander verbundene Schutzmaßnahmen:

• Rechtliche Verantwortung großer Technologiekonzerne, wenn ihre Produkte Schaden verursachen. 1
• Der Abbau suchtfördernder Produktfunktionen – auch für Erwachsene, nicht nur für Jugendliche. 1
• Altersgrenzen für den Zugang zu relevanten Technologien. 1
• Eine Verlangsamung der Entwicklung und Einführung von KI, bis Regeln und Schutzvorkehrungen greifen. 1

Auch das Argument, westliche Staaten würden durch Regulierung den KI-Wettlauf an China verlieren, wies Ressa zurück. Nach dem Reuters-Bericht wäre der Preis ausbleibender Regeln grundlegender: der mögliche Verlust demokratischer Selbstbestimmung. 1

Regulierung allein reicht nicht

Ressas Ansatz beschränkt sich nicht darauf, schädliche Systeme einzudämmen. Sie ruft auch Journalistinnen, Journalisten und Gemeinschaften dazu auf, Technologie aufzubauen und zu besitzen, die Informationsintegrität stärkt. Auf der Nobel Peace Conference sagte sie, Technologieentwickler müssten die Kontrolle über Daten und Infrastruktur behalten; sie verwies damit auf gemeinwohlorientierte Alternativen zu dominanten Plattformen. 9

Dazu zählen sicherere, gemeinschaftsorientierte Kommunikationsräume wie Rappler Communities. Diese Infrastruktur soll demokratische Beteiligung ermöglichen, ohne dass die auf maximale Interaktion ausgerichteten Anreize großer Plattformen zum Standard werden.

Die zentrale Frage

Ressas Drei-Wellen-Modell ist vor allem ein Plädoyer dafür, zu handeln, bevor agentische Systeme im Alltag zu normalen Entscheidungsträgern werden. Die ersten beiden Wellen zeigen aus ihrer Sicht, wie digitale Systeme Aufmerksamkeit und das Bedürfnis nach Nähe im großen Maßstab ausnutzen können. Bei der dritten Welle geht es deshalb um die Frage, ob Gesellschaften menschliche Wahlfreiheit, Verantwortlichkeit und demokratische Kontrolle bewahren können, bevor autonomere Systeme weitreichend etabliert sind. 1