KI im Unternehmen: klare Regeln nach dem Ampelprinzip

Singapurs Gerichte liefern Unternehmen einen hilfreichen Ausgangspunkt für den Umgang mit KI: Statt pauschal festzulegen, KI sei „erlaubt“ oder werde „von Menschen überwacht“, lässt sich der Einsatz danach unterscheiden, wie viel Verantwortung an ein System übertragen wird. Generative KI darf dort bei der Vorbereitung von Gerichtsdokumenten helfen. Für korrekte und unabhängig geprüfte Inhalte bleiben jedoch die Menschen verantwortlich, die sie verwenden. Unternehmen können diesen Grundgedanken übernehmen – ihre Regeln müssen aber zu den eigenen Aufgaben und Risiken passen. Sie sind keine Vorgaben der Gerichte für die Wirtschaft. 36

Nicht das Tool, sondern die Aufgabe zählt

Dasselbe KI-Werkzeug kann sich für einen ersten Textentwurf eignen, für eine Entscheidung mit Folgen für eine Person aber ungeeignet sein. Singapurs Gerichte beschreiben ihren Ansatz als Ampelmodell: Grün steht etwa für Übersetzungen und Zusammenfassungen, die Menschen beim Verständnis von Informationen unterstützen, ohne über einen Fall zu entscheiden. Gelb kennzeichnet Bereiche, in denen besondere Vorsicht nötig ist; Rot steht für Anwendungen, die die Gerichte nicht in Betracht ziehen wollen. 638

Für Unternehmen kann die Ampel eine praktische Struktur für interne Regeln sein. Die folgenden Beispiele sind mögliche Ausgangspunkte, keine allgemeingültige Einteilung. Entscheidend sind jeweils die konkrete Aufgabe, die verwendeten Informationen und die möglichen Folgen eines Fehlers.

Grün: bei Routineaufgaben unterstützen

Lassen Sie freigegebene KI-Werkzeuge bei Aufgaben mit geringem Risiko helfen – etwa beim Formatieren, Übersetzen, Sortieren von Informationen oder Erstellen eines ersten Entwurfs. Legen Sie fest, welche Tools zugelassen sind, welche Informationen Mitarbeitende eingeben dürfen und ob die Ausgabe vor der Verwendung geprüft werden muss. Machen Sie außerdem klar: Ein KI-Entwurf ist für sich genommen weder eine genehmigte Unternehmensentscheidung noch eine offizielle Position des Unternehmens.

Gelb: vorbereiten, aber nicht entscheiden

Bei folgenreicher Arbeit kann KI etwa dabei helfen, Belege zu ordnen, Unterlagen zusammenzufassen oder Optionen zu skizzieren. Benennen Sie eine verantwortliche prüfende Person. Sie sollte zentrale Aussagen anhand der Originalunterlagen kontrollieren, den relevanten Kontext berücksichtigen und die Arbeit freigeben, bevor sie sich auf eine Person auswirkt.

Unabhängige Prüfung heißt, zur zugrunde liegenden Quelle oder zum maßgeblichen Original zurückzugehen – nicht, ein zweites KI-System zu fragen, ob die erste KI recht hat. Der Leitfaden der Gerichte in Singapur weist die Nutzerinnen und Nutzer darauf hin, dass sie selbst dafür verantwortlich sind, vorgelegte Inhalte unabhängig zu prüfen und sicherzustellen, dass sie korrekt, wahr und angemessen sind. 3

Rot: die Entscheidung bleibt bei einem Menschen

Ein Unternehmen kann festlegen, dass Entscheidungen etwa zu Beschäftigung, Sicherheit oder dem Zugang zu grundlegenden Dienstleistungen Menschen vorbehalten sind. KI kann in solchen Fällen bei der Vorbereitung unterstützen, sollte aber weder die endgültige Entscheidung treffen noch sie automatisch auslösen. Die verantwortliche Person muss den Einzelfall beurteilen, eine Empfehlung des Systems auch verwerfen können und die Entscheidung erklären können.

Das ist eine vorgeschlagene Schutzmaßnahme für Unternehmen – nicht die Behauptung, Singapurs Gerichte schrieben diese Regel für Firmen vor. Die Justiz hat erklärt, KI könne Richterinnen und Richter beim Lesen und Erfassen von Unterlagen unterstützen. Nach dem derzeitigen Ansatz wird KI dort jedoch nicht eingesetzt, um Beweise abzuwägen, Recht auf Sachverhalte anzuwenden oder Ermessensentscheidungen zu treffen. 40

Regeln öffentlich und konkret machen

Eine veröffentlichte Richtlinie ist hilfreicher, wenn sie konkrete Aufgaben beschreibt, statt sich allgemein zu „verantwortungsvoller KI“ zu bekennen. Für jede zugelassene Nutzung sollte ein kurzer Eintrag beantworten:

• Was darf KI bei dieser Aufgabe tun – und was nicht?
• Welche Informationen dürfen Mitarbeitende in das Tool eingeben?
• Wer prüft die Ausgabe, und mit welchen Quellen wird sie abgeglichen?
• Wer trifft die endgültige Entscheidung?
• Wie können Mitarbeitende oder betroffene Personen Bedenken äußern oder einen Fehler melden?

Intern sollte das Unternehmen angemessen dokumentieren, welches Tool für welche Aufgabe genutzt wurde, welche Quellen geprüft wurden und wer die Arbeit freigegeben hat. Prüfende Personen brauchen ausreichend Zeit und Handlungsspielraum, um einer KI-Ausgabe zu widersprechen. Sonst wird die menschliche Kontrolle leicht zum bloßen Abhaken.

Einstufungen regelmäßig prüfen – und Urteilskraft erhalten

Behandeln Sie die Ampelfarbe nicht als dauerhaftes Gütesiegel. Prüfen Sie das konkrete Tool im konkreten Arbeitsablauf, untersuchen Sie Fehler und passen Sie die Kontrollen an – oder setzen Sie die Nutzung aus. Gehen Sie nicht davon aus, dass eine allgemeine Aussage über ein Modell für jede Aufgabe gilt.

Geben Sie Mitarbeitenden außerdem Gelegenheit, die Arbeit, bei der KI unterstützt, selbst zu erlernen und zu üben. Singapurs Oberster Richter hat darauf hingewiesen, dass KI routinemäßige juristische Aufgaben verändern könnte, die jungen Anwältinnen und Anwälten bislang wichtige Grundlagen vermittelt haben. 2335 Für Unternehmen gilt der Gedanke darüber hinaus: Mitarbeitende brauchen genügend eigene Erfahrung, um Fehler zu erkennen und selbstständig zu urteilen, bevor sie KI-Ergebnisse sinnvoll prüfen können.

Eine einfache Leitlinie für den Alltag

Das Ampelmodell ist dann nützlich, wenn die Farben konkrete Folgen haben: Was darf KI tun? Was muss ein Mensch überprüfen? Wer trägt die Verantwortung? Und wie lässt sich eine Entscheidung anfechten? Legen Sie diese Grenzen für einzelne Aufgaben offen, überprüfen Sie sie bei Veränderungen an Tools und Arbeitsabläufen und überlassen Sie folgenreiche Entscheidungen Menschen, die befugt und qualifiziert sind, sie zu treffen.