Frankreichs Minister Lescure warnt vor KI-Bremse zugunsten der US-Spitze

Für Frankreichs Finanzminister Roland Lescure geht es in der Debatte über das Tempo der KI-Entwicklung nicht nur um Sicherheit, sondern auch um wirtschaftliche und technologische Macht. Forderungen nach einer Verlangsamung kämen von Unternehmen, die bereits „an der Spitze der Klasse“ stünden, sagte er am 16. September. Wenn alle Verfolger langsamer werden müssten, nütze das vor allem den derzeitigen Marktführern. 2

Lescures Argument: Eigene Fähigkeiten sind Teil der Risikokontrolle

Lescure bestreitet nicht, dass KI Risiken birgt. Seine Schlussfolgerung lautet jedoch: Frankreich und Europa müssten den Einsatz und die eigenen Fähigkeiten im Bereich KI beschleunigen, um selbst zu Akteuren zu werden, die diese Risiken steuern können. Wer bei den fortschrittlichsten Anbietern im Ausland abhängig bleibe, habe in der Praxis weniger Einfluss darauf, wie die Technologie eingesetzt und reguliert wird. 2

Das passt zu seiner früheren Warnung, Europas KI-Souveränität dürfe nicht auf einem einzigen Unternehmen beruhen. Statt alles auf einen nationalen Champion zu setzen, brauche Europa ein breiteres Ökosystem. 17

Warum das mit den Forderungen nach einer KI-Bremse kollidiert

Dario Amodei, Chef des KI-Unternehmens Anthropic, hat vorgeschlagen, die Fähigkeiten von sogenannten Frontier-Modellen – also besonders leistungsfähigen KI-Modellen – langsamer zu steigern. Sein Ziel ist es, Zeit für Sicherheitsforschung und Regeln zu gewinnen, während die Systeme leistungsfähiger werden. Teil seines Vorschlags sind unabhängige Prüfer, die dauerhaft Zugang zu Systemen erhalten sollen, um Sicherheitszusagen und Vorfälle bewerten zu können. 15

Auch OpenAI-Chef Sam Altman gehörte laut Reuters zu den Branchenvertretern, die eine koordinierte Verlangsamung anstreben. Damit liegt er bei der unmittelbaren politischen Forderung näher bei Amodei als bei Lescures beschleunigungsorientiertem Ansatz. 4

Der Streit lautet somit nicht schlicht „Tempo gegen Sicherheit“. Amodeis Lager will den Zuwachs an Fähigkeiten begrenzen, damit Schutzvorkehrungen aufschließen können. Lescure dagegen argumentiert, Europa müsse KI schnell entwickeln und einsetzen, wenn es die Folgen der Technologie überhaupt wirksam mitgestalten wolle. 12

Was die Berichte belegen – und was nicht

Die vorliegenden Berichte stützen die Aussage, dass Amodei vor hochentwickelten KI-Agenten warnte, die schwer kontrollierbar werden könnten. Er nannte ein Szenario, in dem ein Schwarm von Agenten innerhalb von sechs bis zwölf Monaten große Teile des Internets übernehmen könnte. 39

Sie stützen außerdem die engere Feststellung, dass Amodei keine vollständige Einstellung der KI-Forschung fordert, sondern ein gebremstes Tempo bei der Entwicklung besonders leistungsfähiger Systeme. 18

Nicht belegt sind dagegen mehrere konkretere Behauptungen, die mit dieser Debatte teils verbunden werden: Die verfügbaren Quellen bestätigen nicht, dass Anthropic-Forschende einen durch raschen KI-Fortschritt verursachten Aussterben der Menschheit vorhergesagt hätten. Ebenso lässt sich daraus nicht ableiten, dass Lescure bestimmte KI-Risiken für Cybersicherheit oder Bildung benannt hätte oder dass er sagte, eindeutige Prognosen über ein existenzielles Risiko könnten die Gesellschaft von gemeinsamer Verantwortung entbinden.

Europas praktisches Dilemma

Lescures Einwurf bringt einen Zielkonflikt auf den Punkt, der sich für Staaten außerhalb der führenden KI-Mächte stellt: Eine langsamere Entwicklung hochmoderner KI könnte mehr Zeit für Sicherheitsvorkehrungen schaffen. Eine koordinierte Bremse könnte aber zugleich den Vorteil jener Unternehmen festschreiben, die bereits über die stärksten Modelle, die meiste Rechenleistung und die größte Reichweite bei der Einführung verfügen. 12

Seine Antwort darauf lautet: europäische Fähigkeiten aufbauen und zugleich Risiken steuerbar halten. Die Berichte belegen diesen strategischen Konflikt klar – nicht aber die weitergehenden, spezifischen Behauptungen zu Cybersicherheit, Bildung oder dem Aussterberisiko. 24