Warum Googles KI ihren eigenen Namen nicht buchstabieren kann

Ende Mai 2026 erntete Googles KI-Übersichts-Feature eine neue Welle der Häme, als Nutzer entdeckten, dass es an einer Aufgabe scheitert, die jedes Kind im Vorschulalter löst: Buchstaben zählen. Fragt man, wie viele „P“ in „Google“ stecken, antwortet die KI selbstbewusst: „zwei“ – dabei ist es nur eines. Erkundigt man sich nach den „R“ in „poop“ (deutsch: „Kacke“), behauptet sie, es gebe „genau 1“ – tatsächlich sind es zwei. Auch das Wort „journalism“ enthalte angeblich zwei „D“ und werde „j-o-u-r-n-a-d-i-s-m“ geschrieben .

Das sind keine Einzelfälle. Es ist das neueste peinliche Kapitel für ein Produkt, das Google als Zukunft der Websuche positioniert hat – und es führt zurück zu demselben architektonischen Spannungsfeld, das die KI schon früher dazu brachte, das Essen von Steinen zu empfehlen, Kleber auf Pizza zu geben und ihre eigenen System-Prompts preiszugeben, wenn Nutzer nur ein einziges Wort eingaben.

Wie Googles KI-Übersichten funktionieren

Google AI Overviews ist eine generative KI-Funktion, die direkt in die Google-Suche integriert ist. Sie wurde im Mai 2024 für Hunderte Millionen US-Nutzer ausgerollt und später ausgeweitet. Statt bloßer blauer Links erscheinen nun KI-generierte Zusammenfassungen ganz oben auf der Ergebnisseite . Die Ambition: Suche sollte dialogorientiert und direkt werden. Doch die Umsetzung offenbarte immer wieder grundlegende Schwächen darin, wie große Sprachmodelle Informationen verarbeiten.

Warum Sprachmodelle keine Buchstaben zählen können: Das Tokenisierungsproblem

Die Ursache für die Rechtschreib-Pleiten ist kein kleiner Software-Bug – es ist ein gut dokumentiertes architektonisches Handicap großer Sprachmodelle, die sogenannte Subwort-Tokenisierung. Mehrere von Fachleuten begutachtete Studien haben genau diesen Fehlermodus analysiert .

Unter der Haube passiert Folgendes:

Sprachmodelle sehen keine einzelnen Buchstaben. Stattdessen zerlegen sie Text mithilfe von Algorithmen wie Byte-Pair Encoding (BPE) in Tokens – Häppchen aus einem oder mehreren Zeichen. Ein gängiges Wort wie „Google“ kann so zu einem einzigen Token werden, während „journalism“ in Subwort-Stücke wie

['journ', 'alism']

Kein angeborenes Buchstabenbewusstsein. Weil die Trainingsdaten tokenisiert sind, lernt das Modell nie von sich aus, einzelne Buchstaben zu zählen. Es kann sich zeichengenauem Wissen nur über Mustervergleiche mit auswendig gelernten Schreibweisen aus seinem Trainingskorpus annähern . Wer nach einer Buchstabenzahl fragt, zwingt das Modell, Zeicheninformationen aus Text zu rekonstruieren, der nie Zeichen für Zeichen abgelegt wurde.

Der Embedding-Layer gibt Zeichenstrukturen nur unzureichend wieder. Forschungen zeigen, dass Token-Embeddings die Zeichenebene nicht vollständig kodieren – besonders über das erste Zeichen jedes Tokens hinaus. Das macht kombinatorisches Denken über Buchstaben unzuverlässig .

Theoretische Grenzen. Transformer-Architekturen gehören zur Komplexitätsklasse TC0, was sie theoretisch unfähig macht, Aufgaben zu lösen, die mit wachsender Eingabelänge tiefenabhängiges Denken verlangen – eine mathematische Schranke für präzises sequenzielles Zählen .

„Das Zählen innerhalb von Wörtern ist eine bekannte Herausforderung für große Sprachmodelle, und wir arbeiten daran, dieses spezielle Problem zu beheben“, erklärte Google gegenüber dem Tech-Portal TechCrunch . Doch wie Fachleute anmerken: Selbst Modelle mit Hunderten Milliarden Parametern, trainiert auf Billionen von Tokens, haben Mühe, zuverlässig die Zahl der „r“ in „strawberry“ zu zählen . Das Problem liegt in der Architektur – nicht an der schieren Größe.

Eine Geschichte peinlicher Pannen

Das Rechtschreibdebakel ist nur die jüngste Episode in einer zweijährigen Serie spektakulärer KI-Übersichts-Fehler. Alle entspringen derselben Kluft zwischen flüssiger Textgenerierung und den präzisen Operationen, die eine Suchmaschine leisten muss.

Die Start-Katastrophen von 2024: Kleber-Pizza und Stein-Diäten

Innerhalb weniger Tage nach dem US-Rollout im Mai 2024 produzierte die KI-Übersicht eine Reihe viraler, unsinniger Antworten :

• Sie empfahl, „ungiftigen Kleber“ auf Pizza zu geben, damit der Käse besser hält – Quelle: ein elf Jahre alter Reddit-Witz .
• Sie behauptete, Geologen rieten dazu, ein Gesteinsstück pro Tag zu essen, um Vitamine aufzunehmen – aus einem Satire-Artikel gezogen .
• Sie machte grundlegende historische Fehler, etwa dass die USA einen muslimischen Präsidenten gehabt hätten .

Googles Suchchefin Liz Reid räumte „vereinzelte Beispiele“ ein, die „unsinnig“ seien, und machte eine Mischung aus „Informationslücken“ und dem unkritischen Aufgreifen satirischer oder minderwertiger Quellen dafür verantwortlich . Das Unternehmen erklärte, es habe Korrekturen vorgenommen und schränkte KI-Übersichten für gesundheitsbezogene und sensible Suchanfragen ein .

Der „Disregard“-Prompt-Injection-Leak (Mai 2026)

Am 22. Mai 2026 entdeckten Nutzer, dass die Suche nach dem Wort „disregard“ (deutsch: „ignorieren“) – ebenso wie verwandte Begriffe wie „ignore“, „dismiss“, „skip“ und „stop“ – die KI-Übersichten dazu brachte, eine Chatbot-ähnliche Antwort auszugeben: „Verstanden. Ich habe Ihre vorherige Anweisung ignoriert. Wie kann ich Ihnen heute helfen?“ .

Statt einer Wörterbuchdefinition interpretierte die KI eine simple Suchanfrage als Überschreibung auf Systemebene. Der Bug zerstörte Googles Suchoberfläche für diese Begriffe und zeigte eine leere Fläche, wo eigentlich Ergebnisse stehen sollten . Google bestätigte den Fehler und kündigte eine zeitnahe Lösung an .

Sicherheitsforscher erkannten darin ein klassisches Prompt-Injection-Szenario: Das Modell verwechselte normale Suchbegriffe mit Kommandos für einen KI-Assistenten .

Die Rechtschreibfehler (Ende Mai 2026)

Nur Tage nach dem „Disregard“-Vorfall tauchten die Buchstabenzähl-Fehler auf. Die KI konnte nicht einmal den Namen ihres eigenen Mutterkonzerns buchstabieren, verzählte sich bei einfachen Wörtern und entstellte sogar den Namen „Trump“ zu „t-r-p-u-m“ . Die Fehler wurden unabhängig voneinander von mehreren Nachrichtenportalen bestätigt .

Was das über KI-Suche verrät

Der gemeinsame Nenner aller drei Fehlerkategorien ist kein Zufall, sondern Architektur. Google hat eine traditionelle, stichwortbasierte Suchmaschine durch ein generatives Sprachmodell ersetzt, das hervorragend flüssige Texte generiert – dem aber die Maschinerie fehlt für:

• Präzise Operationen auf Zeichenebene (die Rechtschreibfehler)
• Quellenzuverlässigkeit einschätzen (die Kleber-Pizza- und Stein-Diät-Antworten)
• Einhaltung von Anweisungsgrenzen (der „Disregard“-Prompt-Leak)

Das Modell produziert überzeugt falsche Antworten, weil es auf fundamentaler Ebene nie dafür gebaut wurde, die Aufgaben zu erfüllen, die man ihm jetzt in einer Live-Suchumgebung abverlangt. Jeder virale Fehler legt die Lücke offen zwischen dem, worin Sprachmodelle gut sind (plausibel klingenden Text vorhersagen), und dem, was eine vertrauenswürdige Suchmaschine braucht: faktische Genauigkeit, Zeichenpräzision und Resistenz gegen Prompt-Injection.

Bevor diese architektonischen Begrenzungen nicht auf einer tieferen Ebene angegangen werden als durch das bloße Flicken einzelner Anfragetypen, werden die KI-Übersichten vermutlich weiterhin Schlagzeilen produzieren – und zwar aus den falschen Gründen.