Sam Altmans „Liebe Untertanen“-Spott legt das Vertrauensproblem der KI offen

Die KI-Branche hat ein Kommunikationsproblem – aber möglicherweise ein noch größeres Machtproblem. Das wurde deutlich, als OpenAI-Chef Sam Altman in einem am 23. August veröffentlichten Podcast eine sarkastische Zukunftsvision entwarf: „Liebe Untertanen, wir schenken euch eine Heilung von Krebs, materiellen Wohlstand und großartige Unterhaltung. Hört auf zu klagen, wir entscheiden über die Zukunft – vertraut uns einfach.“ 3242

Altman griff damit nicht ausdrücklich Anthropic-Chef Dario Amodei an. Doch der Spott traf einen Nerv, weil Amodei wenige Tage zuvor eine ähnliche Zukunftsverheißung ungewöhnlich scharf kommentiert hatte. Die Aussage, KI werde Krebs heilen, sei inzwischen eher ein Klischee als ein überzeugendes Argument. Was die Öffentlichkeit umstimmen könne, sei nicht noch mehr Werbung, sondern die Krankheit „tatsächlich zu heilen“. 1416

Was hinter Altmans „Liebe Untertanen“ steckt

Altman stellte nicht unbedingt die Aussicht auf bessere Medizin oder größeren Wohlstand infrage. Sein Ziel war vielmehr ein paternalistischer Handel: Die Unternehmen liefern materiellen Nutzen – und die Bevölkerung soll im Gegenzug darauf verzichten, über die Richtung der technologischen Entwicklung mitzuentscheiden.

Diese Sorge passt zu weiteren Aussagen aus dem Podcast. Altman nannte zwei Risiken, die zunächst gegensätzlich wirken: KI könnte so mächtig werden, dass Menschen sie nicht mehr zuverlässig kontrollieren können. Gleichzeitig könnte die Entscheidungsgewalt bei wenigen Unternehmen, Modellen oder Einzelpersonen konzentriert werden. 3135

Damit ist die Frage nicht nur technisch, sondern auch politisch. Eine Zukunft kann materiell erfolgreich aussehen und den Menschen dennoch kaum Einfluss darauf lassen, wie KI ihre Arbeit, ihre Privatsphäre und gesellschaftliche Institutionen verändert.

Warum Amodeis Krebs-Aussage dazu passt

Amodei reagierte am 15. August auf den Investor Gavin Baker. Baker hatte argumentiert, Amodeis wiederholte Warnungen vor den Gefahren der KI hätten die öffentliche Ablehnung der Technologie verstärkt – unter anderem den Widerstand gegen den Bau von Rechenzentren. 722

Amodei wies diese Erklärung zurück. Die negative Stimmung gegenüber KI sei nicht hauptsächlich das Ergebnis seiner Rhetorik oder der Warnungen anderer KI-Manager. Sie sei vielmehr eine „grundsätzliche Vertrauenskrise“, die auf jahrzehntelangem Misstrauen gegenüber Unternehmen, Regierungen und der Technologiebranche beruhe. 13

Zugleich formulierte er die vielleicht härteste Kritik an der eigenen Branche: KI-Unternehmen, auch Anthropic, hätten ihre großen Versprechen, der Welt zu nutzen, bislang nicht eingelöst. Die Behauptung, KI werde Krebs heilen, wirke auf viele Menschen inzwischen sogar irreführend. Entscheidend sei daher nicht die nächste Kampagne, sondern ein realer medizinischer Durchbruch. 814

Hier überschneiden sich die Positionen von Altman und Amodei. Beide warnen davor, dass die Öffentlichkeit weitreichende Behauptungen einfach auf Vertrauensbasis akzeptieren soll. Altman konzentriert sich auf den politischen Preis eines Verlusts an Selbstbestimmung. Amodei betont den Glaubwürdigkeitsverlust, wenn außergewöhnliche Vorteile versprochen, aber nicht sichtbar geliefert werden.

Amodeis Gegenargument zu Bakers Optimismus

Bakers Diagnose beschreibt die Gegenreaktion im Wesentlichen als Kommunikationsfehler: weniger über Katastrophenrisiken sprechen, stärker die Vorteile hervorheben und die Technologie leichter vermittelbar machen. Amodeis Antwort lautet, dass Misstrauen gegenüber mächtigen Institutionen älter ist als die öffentliche Kommunikation eines einzelnen Managers. Eine Hochglanzkampagne könne dieses Defizit nicht beheben. 17

Das bedeutet nicht, dass Amodei das Potenzial der KI bestreitet. Er hält es für möglich, dass KI innerhalb von etwa fünf bis zehn Jahren bei der Heilung der meisten menschlichen Krankheiten helfen könnte – räumt aber ein, dass diese Prognose außergewöhnlich klingt. 16

Der entscheidende Unterschied liegt zwischen einer Prognose und einem nachgewiesenen Ergebnis. Die Branche mag ein starkes Argument für ihre Technologie haben. Überzeugend wird es für viele Menschen jedoch erst, wenn konkrete Resultate sichtbar sind und nachvollziehbar wird, wie diese Vorteile verteilt werden.

Warum auch Zuckerbergs Zukunftsbild unter Druck gerät

Meta-Chef Mark Zuckerberg zeichnet ein deutlich optimistischeres Bild. In seinem 6.500 Wörter langen Essay „The Future is for Everyone“ beschreibt er Superintelligenz als Instrument, das alle Menschen stärken könne. Zugleich vertritt er die Ansicht, dass auch in Zukunft genügend Arbeitsplätze vorhanden sein werden. 1726

Amodeis Vertrauensargument stellt dieses Zukunftsbild indirekt infrage. Ein positives Szenario reicht nicht automatisch aus. Die Öffentlichkeit kann weiterhin fragen: Wer kontrolliert die Modelle? Wer erhält den geschaffenen Wohlstand? Wer trägt die Risiken? Und können demokratische Institutionen die Unternehmen wirksam zur Verantwortung ziehen?

Die Skepsis beschränkt sich dabei nicht auf existenzielle Sicherheitsrisiken. Im Raum stehen auch mögliche Arbeitsplatzverluste, wachsende Ungleichheit, Datenschutz, die Vergütung von Kreativen und Auswirkungen auf das soziale Leben. Eine von WIRED zitierte Umfrage des Pew Research Center kam zudem zu dem Ergebnis, dass viele US-Amerikaner KI negativer als positiv sehen. 25

Die verfügbaren Belege zeigen einen ernsthaften Streit über Vertrauen und öffentliche Akzeptanz. Sie beweisen jedoch nicht, dass die Warnungen eines einzelnen CEOs den Widerstand gegen Rechenzentren verursacht haben oder dass es eine einzige messbare Ursache für die nachlassende Begeisterung gibt.

Der tiefere Bruch: Versprechen gegen Macht

Der Konflikt zwischen Altman, Amodei und ihren Kritikern dreht sich deshalb nicht bloß um den richtigen Ton.

• Optimismus zuerst: KI-Unternehmen sollten die Vorteile klarer erklären und verhindern, dass Warnungen vor Auslöschung oder massenhaftem Jobverlust die öffentliche Wahrnehmung dominieren. 730
• Vertrauen zuerst: Skepsis ist das Ergebnis eines über Jahrzehnte gewachsenen Misstrauens. Marketing kann weder gelieferte Vorteile noch glaubwürdige Regeln und Rechenschaft ersetzen. 12
• Kontrolle zuerst: Selbst eine wohlhabende KI-Zukunft wäre problematisch, wenn wenige Unternehmen, Modelle oder Personen die entscheidenden Weichen für alle anderen stellen. 3537

Altmans „Liebe Untertanen“-Formulierung machte den Widerspruch besonders anschaulich: Die Branche kann Wohlstand und Bequemlichkeit versprechen und dabei unbeabsichtigt so klingen, als solle die Öffentlichkeit dafür ihre Autonomie eintauschen. Amodei liefert die andere Hälfte der Kritik: Auch wohlmeinende Versprechen schaffen kein Vertrauen, solange sie nicht in überprüfbare Ergebnisse übersetzt werden.

Die Lehre ist deshalb relativ klar. Weder Angst noch Optimismus werden die Öffentlichkeit allein überzeugen. Vertrauen hängt davon ab, was die Technologie tatsächlich leistet, wer sie kontrolliert, wer ihre Gewinne erhält – und ob die Menschen ein ernsthaftes Mitspracherecht bei der Zukunft behalten, die gerade entsteht.