Volker Türk: Freiwillige KI-Sicherheitszusagen reichen nicht aus

Der Wettlauf um immer leistungsfähigere KI braucht nach Ansicht von Volker Türk mehr als Selbstverpflichtungen der Unternehmen. Der UN-Hochkommissar für Menschenrechte fordert in einem offenen Brief rasches multilaterales Handeln auf Grundlage des internationalen Menschenrechtsrechts. Freiwillige Selbstregulierung sei „bei Weitem nicht ausreichend“. 7

Was Türk von Staaten und KI-Unternehmen verlangt

Türks Appell richtet sich an Regierungen ebenso wie an Unternehmen, die sogenannte Spitzen- oder Frontier-KI entwickeln – also Systeme an der Grenze des technisch derzeit Machbaren. Sein Kernanliegen: Nicht einige wenige Unternehmen sollen allein entscheiden, welche Risiken die Öffentlichkeit tragen muss. Schutzvorkehrungen müssten international abgestimmt und wirksam durchsetzbar sein. 7

Im Mittelpunkt stehen dabei folgende Maßnahmen:

• Verbindliche, menschenrechtsbasierte Regeln: Staaten sollen die Regulierung stärken, statt sich auf freiwillige Zusagen der Konzerne zu verlassen. Internationale Zusammenarbeit soll verhindern, dass Lücken zwischen nationalen Regelwerken entstehen. 7
• Fortlaufende menschenrechtliche Sorgfaltspflicht: KI-Entwickler sollen tatsächliche und mögliche Auswirkungen auf Menschenrechte über den gesamten Lebenszyklus eines Systems erkennen und angehen. Die UN-Leitlinien beschreiben dies als kontinuierlichen Prozess: Risiken erfassen, Maßnahmen umsetzen, ihre Wirksamkeit nachverfolgen und transparent darüber informieren.
• Unabhängige technische Prüfung und Verifikation: Sicherheitsvorkehrungen sollen extern überprüfbar sein – statt allein auf den Zusicherungen der Unternehmen zu beruhen. 7
• Dringendes multilaterales Vorgehen: Die Steuerung von Spitzen-KI sei ein internationales Problem. Regeln und Sicherheitsgarantien müssten daher koordiniert zwischen Staaten und Institutionen entwickelt werden. 79

Warum die Warnung jetzt kommt

Türks Intervention fällt in eine Phase sichtbar wachsender Unruhe in der KI-Branche. Dort wird darüber gestritten, wie schnell führende KI-Labore Systeme entwickeln sollten, die zunehmend autonom handeln und sich womöglich selbst verbessern können.

Jacob Coxon, ein Forscher, der sowohl bei OpenAI als auch bei Anthropic gearbeitet hatte, kündigte im September 2026 bei Anthropic. Er warf beiden Unternehmen vor, auf dem Weg zu selbstverbessernder Superintelligenz mit dem Leben der Menschen zu „spielen“. 68 Coxon erklärte zudem, manche an KI arbeitenden Personen glaubten ernsthaft, die Technologie könne bis Ende des Jahrzehnts „uns alle töten“. Das ist eine Coxon zugeschriebene Warnung besorgter Entwickler – keine gesicherte Prognose. 6

Parallel dazu forderte die von Beschäftigten getragene Initiative Pacing the Frontier die US-Regierung auf, eine internationale Anstrengung zu unterstützen. Entwickelt werden sollen technische und politische Instrumente, mit denen sich die Entwicklung von Spitzen-KI bewusst verlangsamen lässt, wenn sie schneller voranschreitet, als Menschen sie sicher beaufsichtigen können. Auf der Website der Initiative werden 1.386 Unterzeichnende aus Unternehmen für Spitzen-KI genannt. 15

Diese wachsende Unterstützung für ein kontrolliertes Entwicklungstempo ist bedeutsam, löst aber das Problem der Verantwortung nicht. Türk betont: Freiwillige Zusagen – auch wenn sie von Beschäftigten oder Führungskräften der Branche unterstützt werden – können verbindliche öffentliche Schutzmechanismen nicht ersetzen. 7

Gegenwärtige Schäden und langfristige Risiken gehören zusammen

Türk beschränkt seine Warnung nicht auf ein fernes Szenario menschlicher Auslöschung. Freiwillige Selbstregulierung reiche weder aus, um bereits bestehende Schäden zu bewältigen, noch um zu verhindern, dass fortgeschrittene autonome Modelle menschliche Schutzvorkehrungen umgehen. 7

Die vorliegenden Berichte nennen keine abschließende Liste einzelner aktueller Schäden, die Türk in seinem Brief konkret aufgeführt hätte. Es wäre daher unzutreffend, ihm bestimmte Schadenskategorien über diese allgemeine Warnung hinaus zuzuschreiben. Klar ist jedoch sein Maßstab für gute KI-Steuerung: Menschenrechte müssen bei Entwicklung, Einsatz, Bewertung und Regulierung von KI im Zentrum stehen. 7

Die Lücke, auf die Türk hinweist

Zwischen Teilen der KI-Branche und der UN-Warnung gibt es einen bemerkenswerten gemeinsamen Punkt: Beide Seiten erkennen an, dass die Entwicklung neuer Fähigkeiten bewusst gebremst und unabhängig bewertet werden könnte. 715

Die offene Frage ist politischer Natur. Erklärungen aus der Industrie können Zusammenarbeit fördern. Sie setzen aber keine gemeinsamen Schwellenwerte fest, erzwingen keine Offenlegung, verpflichten nicht zu unabhängigen Prüfungen und schaffen keine Abhilfe oder Rechenschaftspflicht, wenn Schäden eintreten.

Türk fordert deshalb, dass Regierungen diese Lücke durch rasche multilaterale Regulierung nach internationalem Menschenrechtsrecht schließen. 79 Für politische Entscheidungsträger und Organisationen, die KI einkaufen oder einsetzen, folgt daraus ein klarer Maßstab: Sicherheitsversprechen sollten mit nachweisbaren, fortlaufenden Risikoanalysen zu Menschenrechten, externer Kontrolle und klar geregelter Verantwortung verbunden sein – nicht nur mit freiwilligen Zusagen der Unternehmen, die die Systeme bauen.