KI-Sicherheit oder Marktmacht? Was hinter Arthur Menschs Kritik steckt

„KI ist Software. Sie lässt sich kontrollieren.“ Mit diesem Satz stellte Arthur Mensch, Chef des französischen KI-Unternehmens Mistral AI, in einem Interview mit Le Monde vom 24. September die Warnungen großer US-Anbieter infrage. Sein Vorwurf: Sie könnten Ängste vor der Technologie nutzen, um ihre Stellung im Markt zu festigen. Doch ein wirtschaftliches Interesse macht eine Warnung nicht automatisch falsch.29

Wer bestimmt, was sichere KI ist?

Im Kern geht es Mensch um die Regeln für die weitere KI-Entwicklung. Wenn die größten Anbieter Sicherheitsanforderungen prägen, die vor allem sie selbst erfüllen können, geraten kleinere Konkurrenten möglicherweise ins Hintertreffen. Das ist eine Frage des Wettbewerbs – kein Beleg dafür, dass die zugrunde liegenden Risiken erfunden wären.29

Auch Mistral bestreitet Risiken nicht grundsätzlich. Das Unternehmen warnt selbst davor, dass KI-Modelle zu mächtigen Akteuren werden können, wenn sie eigenständig handeln und auf Werkzeuge zugreifen dürfen. Sie sicher einzusetzen, erfordere besondere Sorgfalt. Menschs Aussage zur Kontrollierbarkeit ist daher als Plädoyer für Risikomanagement zu lesen, nicht als Nachweis, dass sich jedes künftige System beherrschen lässt.72

Ernst nehmen, ohne Prognosen für Gewissheiten zu halten

Der frühere Anthropic-Forscher Jacob Coxon, der zuvor bei OpenAI gearbeitet hatte, warnte Anfang September, KI „könnte uns alle bis zum Ende des Jahrzehnts töten“. Anthropic-Chef Dario Amodei forderte anschließend eine freiwillige Verlangsamung bei der Entwicklung der fortgeschrittensten Modelle. Nach Angaben von Le Monde unterstützten führende amerikanische Wettbewerber seinen Aufruf vom 12. September.18

Coxons Aussage beschreibt eine Möglichkeit, keine nachgewiesene Frist. Ebenso belegt die Unterstützung für eine Verlangsamung für sich genommen nicht, dass sie Risiken wirksamer senken würde als gezielte Schutzmaßnahmen.18

Die Positionen verlaufen zudem nicht einfach entlang einer Trennlinie zwischen Europa und den USA: Geoffrey Hinton drängt auf raschere Sicherheitsvorkehrungen, während Andrew Ng die Belege für Untergangsszenarien hinterfragt und pauschale Entwicklungspausen ablehnt. Die nützlichere Frage lautet deshalb: Welche Gefahren sind belegt – und welche Maßnahmen würden ihnen tatsächlich begegnen?

Was die Kartellklage bedeutet – und was nicht

Abonnenten von KI-Diensten werfen Anthropic, OpenAI, SpaceXAI und Google in einer Klage vor, nach dem Aufruf vom 12. September vereinbart zu haben, ihre konkurrierenden Entwicklungsarbeiten zu bremsen. Das ist ein Vorwurf, keine gerichtliche Feststellung. Dass Führungskräfte ähnliche Sicherheitsbedenken äußern, beweist für sich genommen noch keine wettbewerbswidrige Absprache.

Menschs Kritik und die Klage betreffen also zwei verschiedene Fragen: Können Sicherheitsargumente etablierte Anbieter begünstigen? Und haben Wettbewerber tatsächlich eine gemeinsame Verlangsamung vereinbart? Für beide braucht es eigene Belege.

Ein tragfähiger Maßstab wäre, Schutzvorschläge anhand unabhängig prüfbarer Erkenntnisse zu bewerten und zugleich zu untersuchen, wen ihre Kosten treffen. Das gilt für Forderungen nach einer Entwicklungspause ebenso wie für Mistrals Plädoyer, weiterzuentwickeln. Das Geschäftsinteresse eines Unternehmens ist ein Grund, sein Argument kritisch zu prüfen – nicht, es ungeprüft zu verwerfen.789