Volker Türk fordert harte Leitplanken für künstliche Intelligenz

Volker Türk hat in seiner Rede vor dem UN-Menschenrechtsrat am 7. September eindringlich vor den Folgen fortgeschrittener künstlicher Intelligenz gewarnt. Ohne rasch durchsetzbare Schutzvorkehrungen könne sie zu einer „existenziellen Gefahr für die Menschheit“ werden, sagte der UN-Hochkommissar für Menschenrechte. Seine Ansprache war die erste vor dem 47 Mitglieder zählenden Rat, nachdem seine zweite vierjährige Amtszeit bestätigt worden war. 17

KI dürfe nicht schneller wachsen als ihre Kontrolle

Türk zufolge könnten besonders leistungsfähige KI-Systeme kritische Infrastruktur, Kommunikation, grundlegende Dienstleistungen und demokratische Institutionen beeinträchtigen. Er verlangte deshalb „eiserne Garantien“ für Sicherheit und Schutz: verbindliche Regeln, unabhängige Kontrolle sowie klare, international abgestimmte rote Linien. Diese müssten für Staaten, Unternehmen, Entwickler und die gesamte Lieferkette von KI gelten. 47

Die Dringlichkeit begründete Türk damit, dass sich die Fähigkeiten der Systeme schneller entwickelten als die Schutzmechanismen. Den berichteten Vorfall um Hugging Face nannte er als Beispiel dafür, dass Systeme verfügbar werden oder Fähigkeiten erlangen könnten, bevor ausreichende Kontrollen eingerichtet seien. Zudem warnte er davor, entscheidende KI-Macht bei einer kleinen Gruppe von Unternehmensführern zu konzentrieren. 17

Weitere Punkte seiner Rede

Türk verband die KI-Warnung mit einer breiten menschenrechtspolitischen Bilanz:

• US-Migrationshaft: Er verlangte Aufklärung und Verantwortlichkeit für rund 23 Todesfälle in US-Einwanderungshaft im Jahr 2026. Zugleich appellierte er an Washington, Abschiebungen in Länder zu unterlassen, in denen Betroffenen nicht wiedergutzumachender Schaden drohe. Besorgt äußerte er sich über Berichte, wonach Beamte der Einwanderungsbehörde mit Elektroschock-Handschuhen ausgestattet werden könnten; dies könne Gewalt verstärken. 812

• Ukraine und autonome Waffen: Türk verurteilte Russlands anhaltende Angriffe auf die Ukraine. Berichte, wonach vollständig autonome, von Russland gestartete Drohnen drei Menschen getötet hätten, bezeichnete er als erschütternd. Er forderte ein internationales Verbot von Waffensystemen, die Menschen ohne wirksame menschliche Beteiligung auswählen und töten. 1

• Iran: Der Hochkommissar kritisierte die wachsende Zahl von Hinrichtungen und Todesurteilen, darunter in Fällen mit Bezug zur nationalen Sicherheit. Sein Büro hatte zuvor von mindestens 56 Hinrichtungen wegen solcher Vorwürfe seit dem 19. März berichtet. 4

• Kriege und wirtschaftliche Profiteure: Weltweit gebe es inzwischen mehr als 60 bewaffnete Konflikte, an denen mindestens ein Staat beteiligt sei – so viele wie seit dem Zweiten Weltkrieg nicht mehr. Sein Büro werde Unternehmen, Geldgeber und weitere wirtschaftliche Interessen, die er als „Schattenakteure“ der Konflikte bezeichnete, stärker prüfen und öffentlich benennen. 1

• Israel und das besetzte Westjordanland: Türk rief Staaten dazu auf, Waffenlieferungen einzustellen, wenn das Risiko von Verstößen gegen das Völkerrecht bestehe. Unternehmen sollten Geschäftsaktivitäten beenden, die Siedlungen unterstützten. Er verwies zudem auf eine bevorstehende UN-Aktualisierung zu Firmen mit Verbindungen zu israelischen Siedlungen im besetzten Westjordanland. Die UN betrachtet diese Siedlungen als völkerrechtswidrig; Israel weist diese Einordnung zurück. 513

Türks zentrale Botschaft zur KI lautet damit: Technologischer Fortschritt müsse an überprüfbare Schutzpflichten gebunden sein, bevor Risiken für zentrale öffentliche Systeme und Menschenrechte außer Kontrolle geraten.