Wie iFLYTEK die heimische KI-Hardware trotz fünffachem Langkontext-Nachteil nutzt

iFLYTEK versucht offenbar nicht, Nvidia-basierte KI-Labore beim Training des größtmöglichen Modells direkt zu überbieten. Der chinesische Anbieter verfolgt einen pragmatischeren Ansatz: Die verfügbare heimische Rechenleistung soll für wirtschaftlich relevante Anwendungen produktiv genug werden – und Kunden sollen für verlässliche Ergebnisse in konkreten Arbeitsabläufen zahlen, nicht für die längstmögliche Kontextlänge.

Das ist vor allem deshalb bemerkenswert, weil das Unternehmen selbst eine erhebliche Einschränkung einräumt. Bei Trainingsaufgaben mit Kontexten von mehr als 256.000 Token können heimische Beschleuniger demnach bis zu etwa fünfmal weniger effizient sein als Nvidias H200. Die Zahl stammt aus einer berichteten Aussage des Managements und wurde nicht unabhängig anhand eines primären Protokolls der Ergebnisveranstaltung überprüft. 8

Der Kompromiss: relevanter Kontext statt unbegrenzter Kontext

Viele produktive KI-Anwendungen müssen keine durchgehende Historie von einer Million Token in einem einzigen Aufmerksamkeitsfenster verarbeiten. Ein Bildungssystem sucht womöglich in Lehrplänen und Schülerdaten. Eine medizinische Anwendung benötigt die jeweils relevanten Informationen zu einem Fall. Ein Assistent im Fahrzeug muss Gesprächszustand und Fahrzeugdaten berücksichtigen. Ein Unternehmenssystem greift auf klar definierte interne Dokumente und Prozesse zu.

Für solche Aufgaben können Verfahren wie Retrieval-Augmented Generation, die Aufteilung von Informationen, strukturierte Langzeitgedächtnisse sowie Tool- und Agentenaufrufe ausreichen. Das beseitigt den Wert großer Kontextfenster nicht. Es kann aber verringern, wie häufig das teuerste und hardwareintensivste Szenario tatsächlich benötigt wird.

Die strategische Wette ist damit eng gefasst, aber kommerziell relevant: Wenn Kunden Fachgenauigkeit, Datenschutz, Kontrolle über die Bereitstellung, Latenz und zuverlässige Prozessabschlüsse höher bewerten als ein benchmarkführendes Kontextfenster, kann iFLYTEK konkurrenzfähig bleiben, ohne bei jeder Trainingsgröße Nvidias Effizienz zu erreichen.

Optimierung über den gesamten KI-Stack

Die Antwort des Unternehmens besteht nicht aus einem einzelnen Softwaretrick. iFLYTEK arbeitet nach eigenen Angaben an einem Hardware-Software-Co-Design, das mehrere Ebenen umfasst:

• Modellarchitekturen, darunter Mixture-of-Experts-Ansätze;
• auf die jeweiligen Beschleuniger zugeschnittene Operatoren und Kernel;
• verteilte Kommunikation und Expertenparallelisierung;
• Speicheraufteilung und Verwaltung des KV-Caches;
• Trainingsframeworks, Scheduling und Werkzeuge für die Bereitstellung.

Damit sollen Kommunikationskosten sinken, Speicherengpässe vermieden und die Auslastung der Hardware verbessert werden. Zugleich lässt sich jedes Modell stärker an die Eigenschaften heimischer Chips anpassen. Denn die Rohdaten eines Beschleunigers bestimmen nicht allein, wie schnell ein vollständiges Trainings- oder Inferenzsystem arbeitet.

Nach einer eigenen Darstellung von iFLYTEK liefen die heimischen Cluster anfangs mit rund 30 Prozent der Effizienz gängiger Cluster. Durch die Optimierung von Operatoren, Änderungen an verteilten Strategien und weitere technische Anpassungen sei dieser Wert auf 84 bis 93 Prozent gestiegen. Es handelt sich um vom Unternehmen gemeldete Leistungswerte, nicht um einen unabhängig geprüften Benchmark. 17

Die Spark-Modelle als wichtigster Beleg

Der deutlichste Beleg für diesen Kurs ist, dass iFLYTEK seine Spark-Modellfamilie weiterhin auf heimischer Infrastruktur entwickelt – und lokale Chips nicht lediglich als Ersatz für die Inferenz nach einem Training auf anderer Hardware behandelt.

Spark X2-Flash wird als Mixture-of-Experts-Modell mit 30 Milliarden Parametern beschrieben, das vollständig auf Clustern mit Huawei-Ascend-910B-Beschleunigern trainiert und bereitgestellt wurde. Das ist deshalb relevant, weil es einen durchgängigen heimischen Weg vom Training bis zum Einsatz zeigt und nicht nur die nachträgliche Portierung eines anderswo trainierten Modells. 8

Das Unternehmen verweist außerdem auf eine Pipeline für die Inferenz mit langen Sequenzen und auf Spark X2 als Beispiele für die gemeinsame Optimierung von Modell und Infrastruktur. Spark X2-VL erweitert die Familie auf multimodale Anwendungen. Nach den veröffentlichten Unternehmensangaben wurden X2, X2-Flash und X2-VL im Jahr 2026 aktualisiert. 17

Der Kurs knüpft an frühere Arbeiten an. iFLYTEK erklärt, seine Spark-Modelle hätten einen vollständig heimischen Rechenweg für Training, Weiterentwicklung und Inferenz-Bereitstellung genutzt. 17 Frühere Berichte beschrieben zugleich den erheblichen Entwicklungsaufwand bei der Anpassung neuer Modellalgorithmen an heimische Chips: Mehr als sechs Monate seien für einzelne Iterationen nötig gewesen, um mehr als 80 Prozent der Leistung von High-End-Nvidia-Chips zu erreichen. 5

Ein heimisches Flaggschiff als nächster Test

Bei der Ergebnisveranstaltung am 21. August 2026 kündigte iFLYTEK ein neues allgemeines Flaggschiffmodell an, das auf vollständig heimischer Rechenleistung basieren und beim diesjährigen Global 1024 Developer Festival vorgestellt werden soll. Die Ankündigung stützt einen gestaffelten Start vor der Veranstaltung, belegt jedoch nicht die in der Ausgangsfrage genannte genaue Veröffentlichung „Ende August“. 1

Das Modell wird ein wichtiger Test dafür, ob der Ansatz über spezialisierte Einsatzgebiete hinaus funktioniert. Ein erfolgreicher Start würde zeigen, dass heimische Infrastruktur eine weitere große Modellgeneration tragen kann. Er wäre jedoch kein Beweis dafür, dass heimische Hardware bei sämtlichen Trainingsaufgaben mit Nvidia gleichgezogen hat.

Warum daraus ein produktorientiertes Geschäft entstehen kann

Für ein Unternehmen mit begrenzter Rechenleistung gibt es grundsätzlich zwei Wege: Es kann direkt über Kosten und Maßstab des Frontier-Trainings konkurrieren – oder es kann Modelle in Produkte integrieren, bei denen die Infrastruktur nur ein Teil des Kundennutzens ist. iFLYTEK betont den zweiten Weg.

Die Modellfamilie zielt auf vertikale Anwendungen in Bereichen wie Bildung und Gesundheitswesen. Dort können private Bereitstellung, domänenspezifische Qualität und betriebliche Zuverlässigkeit ebenso wichtig sein wie allgemeine Benchmarkwerte. Unternehmensmaterialien beschreiben Spark als Plattform für Bildung und weitere Anwendungsszenarien. Für das Gesundheitswesen hebt iFLYTEK zudem ein klinisches Entscheidungsunterstützungssystem hervor, das auf einem medizinischen Spark-Modell basiert. 17 35

Dieser produktorientierte Ansatz kann technische Fortschritte mehrfach nutzbar machen. Verbesserte Operatoren, Kommunikationsverfahren, Speicherverwaltung und Bereitstellungsframeworks lassen sich über mehrere Modellgenerationen und Kundeninstallationen hinweg einsetzen. Der Vorteil besteht dann nicht zwingend darin, dass Training absolut günstiger wird. Entscheidend wäre vielmehr, aus begrenzter Hardware mehr nutzbare Arbeit herauszuholen und zugleich die Kontrolle über den gesamten Bereitstellungszyklus zu behalten.

Warum Liu Qingfeng auf einen Wendepunkt in zwei Jahren hofft

Die Hoffnung auf eine Verringerung des Abstands beruht auf gesammelter Erfahrung – nicht auf der Annahme, heimische Chips seien Nvidia-Hardware bereits gleichwertig. iFLYTEK hat über Jahre Modellarchitekturen, verteilte Systeme und Softwarewerkzeuge an die heimische Infrastruktur angepasst. Wenn sich Chips, Netzwerke, Compiler, Frameworks und Entwicklerökosysteme weiterentwickeln, könnte diese Erfahrung den produktiven Einsatz jeder neuen Generation beschleunigen.

In diesem Szenario könnte der heutige Nachteil sogar zu einem organisatorischen Vorteil werden: iFLYTEK hätte geringere Migrationskosten, mehr Produktionserfahrung und einen ausgereiften heimischen Bereitstellungs-Stack. Das Unternehmen beschreibt seine öffentlichen Ziele als den Aufbau eines unabhängigen und kontrollierbaren Systems – von der Recheninfrastruktur bis zu den Modellanwendungen. 3 17

Das ist ein plausibler Entwicklungspfad, aber keine Garantie. Berichte zum chinesischen KI-Hardwaremarkt unterscheiden weiterhin zwischen Fortschritten heimischer Chips bei der Inferenz und Nvidias anhaltendem Vorsprung beim Training. Besonders das Speichersystem gilt dabei als entscheidender Faktor. 2 6

Das Risiko: Die Anforderungen an die Spitzenklasse steigen schneller

Die Strategie funktioniert am besten, wenn Kunden aus Bildung, Gesundheitswesen, Fahrzeugindustrie und Unternehmen weiterhin sichere Bereitstellung, Fachgenauigkeit, niedrige Latenz und verlässliche Ergebnisse höher gewichten als unbegrenzte Kontextlängen. Sie wird weniger überzeugend, falls echte Trainings- und Reasoning-Aufgaben mit einer Million Token zum Standard werden.

Die zentrale Frage lautet daher nicht, ob iFLYTEK jede Hardwarelücke schließen kann. Entscheidend ist, ob Engineering und Produktintegration den Abstand für genügend wertvolle Anwendungen wirtschaftlich bedeutungslos machen können. Die Spark-X2-Familie, die gemeldeten Effizienzgewinne und das geplante heimische Flaggschiff zeigen, dass das Unternehmen genau dieses Ziel verfolgt. Die Langkontext-Grenze bleibt jedoch die deutlichste offene Herausforderung.