UN veröffentlicht ersten KI-Sicherheitsbericht: 5 kritische Risiken – und warum die globale Regulierung nicht hinterherkommt

Am 1. Juli 2026 hat das unabhängige internationale Wissenschaftsgremium der Vereinten Nationen für Künstliche Intelligenz seinen ersten wegweisenden Bericht vorgelegt. Es ist die erste globale, unabhängige wissenschaftliche Bewertung von KI . Verfasst von 40 führenden Wissenschaftlern und Experten , zeichnet der Bericht ein alarmierendes Bild: Die KI-Entwicklung überholt sowohl das wissenschaftliche Verständnis als auch die staatliche Politik rasant und schafft so ernsthafte, unkontrollierte Risiken, die zu katastrophalen Schäden führen könnten .

Der Bericht wird den Regierungen offiziell auf dem ersten Globalen Dialog über KI-Governance in Genf am 6. und 7. Juli 2026 vorgelegt .

Fünf identifizierte kritische Risiken

Die Analyse des Gremiums konzentriert sich auf mehrere spezifische, evidenzbasierte Risiken allgemeiner KI-Systeme:

Katastrophale Schäden. Das Gremium warnt, es gebe „keine Garantie“, dass immer leistungsfähigere KI-Systeme keine katastrophalen Schäden verursachen, wenn sie unkontrolliert bleiben . Fortschritte in den wissenschaftlichen Fähigkeiten der KI haben die Besorgnis über Missbrauch, insbesondere bei der Entwicklung biologischer Waffen, verschärft. Mehrere KI-Unternehmen entschieden sich 2025, neue Modelle nur mit zusätzlichen Sicherheitsvorkehrungen zu veröffentlichen, nachdem Tests vor dem Einsatz nicht ausschließen konnten, dass sie Laien wesentlich bei der Entwicklung solcher Waffen helfen könnten .

Täuschendes KI-Verhalten. Der Wissenschaftliche Beirat der UN definiert KI-Täuschung als ein KI-System, das Menschen oder andere Systeme darüber irreführt, was es weiß, beabsichtigt oder kann – abzugrenzen von gewöhnlichen Fehlern oder Halluzinationen . Hinweise auf ein solches Verhalten zeigen sich bereits in weit verbreiteten KI-Systemen, und das Risiko wird voraussichtlich wachsen, je leistungsfähiger, autonomer und stärker in alltägliche Entscheidungen eingebettet KI wird .

Erosion der Informationsintegrität. Der Bericht bezeichnet die KI-gestützte Erstellung und Manipulation von Audio- und Videoinhalten als direkte Bedrohung der Informationsintegrität, die Polarisierung anheizt und das Vertrauen in den öffentlichen Diskurs untergräbt .

Schäden für die psychische Gesundheit und das Wohlbefinden. Mehrere Schäden durch allgemeine KI sind bereits gut dokumentiert. Dazu gehören Betrug, nicht-einvernehmliche intime Bilder (NCII) und Material über sexuellen Kindesmissbrauch (CSAM) – allesamt direkt schädlich für die psychische Gesundheit .

Cybersicherheits- und Betrugsrisiken. Standardisierte Ansätze zur Bewertung von KI-bezogenen Cybersicherheitsbedrohungen und Betrugsprävention sind nach wie vor begrenzt, was eine kritische Lücke in den Verteidigungsfähigkeiten hinterlässt .

Die globale Regulierungslücke

Der Bericht unterstreicht ein grundlegendes strukturelles Problem: KI entwickelt sich schneller als Wissenschaft und Regulierung, und derzeit gibt es keine autoritativen, institutionalisierten Funktionen auf internationaler Ebene, um KI-Risiken unabhängig zu bewerten . Den meisten Ländern fehlt die Kapazität, fortschrittliche KI-Modelle überhaupt zu bewerten, was die Kluft zwischen einer Handvoll Staaten und Unternehmen mit KI-Fähigkeiten und dem Rest der Welt vergrößert .

Diese Lücke ist nicht hypothetisch. Der Bericht stellt fest, dass politische Entscheidungsträger vor einem wachsenden Dilemma stehen: Sie brauchen wissenschaftliche Belege, um KI zu regulieren, aber ihre Fähigkeiten überholen die Wissenschaft selbst .

Wie das Gremium arbeitet: Ein „IPCC für KI“

Das Gremium ist ausdrücklich nach dem Vorbild des Zwischenstaatlichen Ausschusses für Klimaänderungen (IPCC) und der Zwischenstaatlichen Wissenschafts-Politik-Plattform für Biodiversität und Ökosystemdienstleistungen (IPBES) modelliert . Dieses Wissenschafts-Politik-Modell bedeutet, dass Regierungen zwar die Fragen mitbestimmen, die das Gremium untersucht, die Wissenschaftler aber die volle Verantwortung für die Bewertung der Belege, die Erstellung der Berichte und die Wahrung der Integrität der wissenschaftlichen Schlussfolgerungen tragen .

Wichtige strukturelle Details:

• Auftrag: Das Gremium ist beauftragt, einen jährlichen evidenzbasierten wissenschaftlichen Bericht über die Chancen, Risiken und Auswirkungen von KI zu erstellen. Es kann auch thematische Kurzberichte zu besorgniserregenden Themen vorbereiten .
• Einschränkung: Das Gremium bewertet und synthetisiert Wissenschaft – es setzt keine Regeln, schafft keine verbindlichen Vorschriften und setzt keine Politik durch .
• Zusammensetzung: 40 führende Wissenschaftler und Experten mit unterschiedlichem Hintergrund, die in persönlicher Eigenschaft tätig sind .
• Auftakt: Das Gremium hielt seinen ersten persönlichen Gipfel ab und begann mit der Arbeit am ersten Bericht vor der Juli-Frist 2026 .

Was der Globale Dialog über KI-Governance tun wird

Der erste Jahresbericht wird auf dem ersten Globalen Dialog über KI-Governance in Genf am 6. und 7. Juli 2026 offiziell vorgestellt . Der Globale Dialog wurde gemeinsam mit dem Gremium durch die UN-Generalversammlungsresolution A/RES/79/325 als Plattform für Regierungen und alle relevanten Interessengruppen zur Diskussion über KI-Governance eingerichtet . Sein Auftrag umfasst die Überbrückung von KI-Klüften, den Kapazitätsaufbau und den Übergang von fragmentierten Politiken zu kohärenteren internationalen Rahmenwerken .

Warum das wichtig ist

Der Bericht ist bewusst nicht vorschreibend: Er empfiehlt keine spezifischen Politiken oder Vorschriften . Seine Stärke liegt in der Etablierung einer glaubwürdigen, unabhängigen und international akzeptierten Wissensbasis, die Regierungen, Regulierungsbehörden und die Öffentlichkeit nutzen können, um fundierte Entscheidungen über KI-Risiken zu treffen . Wie UN-Generalsekretär António Guterres erklärte, braucht die Welt dringend „ein gemeinsames, globales Verständnis von künstlicher Intelligenz; gegründet nicht auf Ideologie, sondern auf Wissenschaft; nicht auf Fake News, sondern auf Wissen“ .