Wie sich künstliche Intelligenz vom Regelwerk zum KI-Agenten entwickelt hat
KI hat sich über rund sieben Jahrzehnte von festen Regeln und begrenzten Vorhersagen zur Generierung von Inhalten und zum Ausführen mehrstufiger Aktionen entwickelt. Klassische KI bleibt für klar abgegrenzte Aufgaben wie Betrugserkennung, Bonitätsprüfung, medizinische Risikoprognosen, Empfehlungen und Sprachassisten...
KI hat sich über rund sieben Jahrzehnte von festen Regeln und begrenzten Vorhersagen zur Generierung von Inhalten und zum Ausführen mehrstufiger Aktionen entwickelt.
Klassische KI bleibt für klar abgegrenzte Aufgaben wie Betrugserkennung, Bonitätsprüfung, medizinische Risikoprognosen, Empfehlungen und Sprachassistenten wichtig.
Generative KI erweitert die Fähigkeiten von Systemen, während agentische KI erweitert, was sie tun können – und dadurch neue Risiken wie Halluzinationen, Datenschutzverletzungen, unbefugte Zahlungen und Datendiebstahl...
How has artificial intelligence evolved over the past seven decades—from traditional AI systems that analyse labelled data to classify inforAn editorial visualisation of AI’s progression from prediction to generation and action.
KI-Prompt
Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades—from traditional AI systems that analyse labelled data to classify infor. Article summary: AI has evolved from systems that apply explicit rules or make narrow predictions, to models that generate new content, and now to systems that can plan and carry out multi-step work. These are overlapping capabilities ra. Topic tags: general, general web, government, education, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermark
openai.com
Künstliche Intelligenz hat sich nicht in einer einfachen Abfolge entwickelt, bei der eine Technologie die vorherige vollständig ersetzt. Vielmehr haben sich die Fähigkeiten addiert: Regelbasierte und statistisch arbeitende Systeme sind weiterhin weit verbreitet, generative Modelle erzeugen Texte, Bilder, Audio, Videos und Code, und agentische Systeme verbinden Modelle mit Werkzeugen, um Ziele über mehrere Schritte hinweg zu verfolgen.
Am verständlichsten lässt sich diese Entwicklung als Übergang vom Entscheiden über das Erzeugen zum Handeln beschreiben. Mit jeder Stufe verändern sich auch die Risiken: Vorhersagesysteme müssen auf Genauigkeit und Fairness geprüft werden, generative Systeme auf Wahrhaftigkeit, Sicherheit und Herkunft ihrer Inhalte. KI-Agenten benötigen darüber hinaus klar begrenzte Berechtigungen, Freigabeschritte und nachvollziehbare Protokolle.
Eine Entwicklung über sieben Jahrzehnte
Das moderne KI-Forschungsfeld entstand in den 1950er-Jahren – nach grundlegenden Arbeiten zu maschinellem Schlussfolgern, Spielen und neuronalen Netzen. Später folgten symbolische Systeme und Expertensysteme, maschinelles Lernen in den 1990er-Jahren und Deep Learning in den 2010er-Jahren.
Diese Phasen sind nicht als strikt getrennte Epochen zu verstehen. Ein heutiges Produkt kann beispielsweise ein Vorhersagemodell zur Klassifizierung einer Anfrage, ein generatives Modell zum Formulieren einer Antwort und klassische Softwarekontrollen zur Prüfung einer erlaubten Aktion kombinieren.
1. Klassische KI: Regeln, Klassifizierung und Vorhersagen
Zur klassischen KI gehören zwei große Ansätze:
, bei denen Menschen Logik, Fachwissen und Entscheidungsverfahren ausdrücklich programmieren.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Wie lautet die kurze Antwort auf „Wie sich künstliche Intelligenz vom Regelwerk zum KI-Agenten entwickelt hat“?
KI hat sich über rund sieben Jahrzehnte von festen Regeln und begrenzten Vorhersagen zur Generierung von Inhalten und zum Ausführen mehrstufiger Aktionen entwickelt.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
KI hat sich über rund sieben Jahrzehnte von festen Regeln und begrenzten Vorhersagen zur Generierung von Inhalten und zum Ausführen mehrstufiger Aktionen entwickelt. Klassische KI bleibt für klar abgegrenzte Aufgaben wie Betrugserkennung, Bonitätsprüfung, medizinische Risikoprognosen, Empfehlungen und Sprachassistenten wichtig.
Was soll ich als nächstes in der Praxis tun?
Generative KI erweitert die Fähigkeiten von Systemen, während agentische KI erweitert, was sie tun können – und dadurch neue Risiken wie Halluzinationen, Datenschutzverletzungen, unbefugte Zahlungen und Datendiebstahl...
Maschinelle Lernsysteme, die aus historischen Daten statistische Zusammenhänge lernen, um Eingaben zu klassifizieren oder Ergebnisse zu schätzen.
Frühe Computerspiele zeigten, dass Maschinen in einer begrenzten Umgebung mögliche Spielzüge durchsuchen konnten. Später wurden ähnliche Verfahren – ergänzt durch statistisches Lernen – auf praktische Aufgaben angewendet, etwa:
das Erkennen ungewöhnlicher oder betrugsverdächtiger Transaktionen;
die Einschätzung von Kredit- und Ausfallrisiken;
medizinische Risikoprognosen, beispielsweise für Verschlechterungen oder Wiederaufnahmen ins Krankenhaus;
die Sortierung von Produkten, Videos, Musik und Beiträgen in Empfehlungssystemen; sowie
die Kombination aus Spracherkennung, Erkennung der Nutzerabsicht und vordefinierten Abläufen in Sprachassistenten wie Siri.
Solche Systeme sind besonders leistungsfähig, wenn eine Aufgabe eng umrissen, wiederkehrend und messbar ist. Sie können große Fallzahlen schnell verarbeiten und konsistente Ergebnisse liefern. Regelbasierte Systeme sind zudem oft leichter zu überprüfen als komplexe Modelle, weil ihre Entscheidungslogik offenliegt.
Wo Vorhersagemodelle an Grenzen stoßen
Klassische KI versteht nicht automatisch, warum ein Ergebnis entsteht. Ein Modell kann einen statistischen Zusammenhang erkennen, ohne Kausalität nachzuweisen. Wird es mit verzerrten historischen Daten trainiert, kann es diese Verzerrung reproduzieren oder verstärken. Regeln können außerhalb ihres ursprünglichen Einsatzbereichs unflexibel reagieren, während komplexe Vorhersagemodelle schwer erklärbar sein können.
Die Leistung kann außerdem nachlassen, wenn sich die reale Welt verändert – ein Problem, das häufig als Daten- oder Konzeptdrift bezeichnet wird. Bei folgenreichen Anwendungen wie Kreditvergabe, Beschäftigung, Versicherungen, Strafverfolgung und Gesundheitsversorgung sind deshalb Prüfungen der Datenqualität, Bias-Tests, angemessene Erklärungen, menschliche Kontrolle, laufendes Monitoring und Widerspruchsmöglichkeiten erforderlich.
2. Generative KI: Systeme, die neue Inhalte erzeugen
Generative KI lernt Muster aus großen Sammlungen von Texten, Bildern, Audio, Videos oder Code und nutzt diese Muster, um neue Ausgaben zu erzeugen. Große Sprachmodelle erstellen Text Schritt für Schritt, während multimodale Systeme mit mehreren Formaten arbeiten können.
Das hat die Nutzung von KI grundlegend verändert. Statt aus einer begrenzten Liste von Befehlen auszuwählen oder lediglich einen Klassifizierungswert zu erhalten, können Menschen ein Ziel in Alltagssprache beschreiben und ein System bitten, Inhalte zu entwerfen, umzuwandeln oder zu erklären.
Typische Einsatzfelder
Kundenservice: Antworten entwerfen, Gespräche zusammenfassen, Inhalte übersetzen und Informationen aus Wissensdatenbanken abrufen.
Rechtsarbeit: Dokumente zusammenfassen, Klauseln extrahieren, Rechtsquellen vergleichen und erste Entwürfe erstellen. Juristinnen und Juristen müssen Primärquellen und rechtliche Aussagen weiterhin selbst prüfen.
Bildung: Konzepte erklären, Übungsfragen erstellen und Feedback geben.
Kreative Arbeit: Ideen entwickeln, Texte formulieren sowie Bilder, Musik, Videokonzepte und Softwarecode erzeugen.
Die wichtigsten Vorteile liegen in höherer Geschwindigkeit, geringeren Kosten für Entwürfe, der Interaktion in natürlicher Sprache und der Möglichkeit, viele personalisierte Varianten zu erstellen. Eine plausible Antwort ist jedoch nicht dasselbe wie verlässliches Fachurteil.
Die wichtigsten Risiken
Halluzinationen und übertriebene Sicherheit. Große Sprachmodelle können erfundene, ungenaue, voreingenommene oder stark vereinfachte Informationen in einem selbstsicheren Ton ausgeben. Forschung zu Grounding und Evaluation nennt Halluzinationen, schädliche Inhalte, Manipulation, Urheberrechtsverletzungen, Datenschutz und Sicherheit als Themen, die getestet und überwacht werden müssen.
Lernen und akademische Integrität. Ein groß angelegtes Schulexperiment zeigte, dass KI-gestütztes Tutoring die Leistung verbessern kann, solange das Werkzeug verfügbar ist. Schülerinnen und Schüler, die sich jedoch ohne geeignete Schutzmechanismen darauf stützten, schnitten schlechter ab, als der Zugang später entfiel – ein Hinweis auf einen geringeren tatsächlichen Kompetenzerwerb. Von Lehrkräften entwickelte Hinweise wirkten besser als das bloße Vorgeben von Lösungen. Generative Werkzeuge können außerdem Plagiate erleichtern oder verschleiern, ob Lernende den Stoff wirklich beherrschen.
Urheberrecht und Herkunft. Die Herkunft von Trainingsdaten, stilistische Nachahmung und Ausgaben, die geschütztes Material reproduzieren, sind weiterhin umstritten. Leitlinien für den Bildungsbereich nennen Verletzungen geistigen Eigentums neben ungenauen, voreingenommenen oder unsicheren Inhalten als wesentliches Risiko.
Schädliche und manipulative Inhalte. Generative Systeme können Desinformation, Belästigung, sexuelle oder gewaltbezogene Inhalte sowie gefährliche Anleitungen erzeugen. Sicherheitsempfehlungen setzen daher auf Tests, Schutzmechanismen, Aktivitätsprotokolle und Monitoring, statt davon auszugehen, dass ein Modell sich stets wie vorgesehen verhält.
Jugendschutz und Wohlbefinden. Forschung zu Risiken generativer KI für junge Menschen nennt unter anderem die psychische Gesundheit, die soziale und verhaltensbezogene Entwicklung, toxische Inhalte, Datenschutz sowie Missbrauch und Ausbeutung. Besonders problematisch wird es, wenn Nutzerinnen und Nutzer einen Chatbot als vertrauenswürdigen Ersatz für qualifizierte menschliche Unterstützung betrachten.
Privatsphäre und Vertraulichkeit. Eingaben können personenbezogene Daten, Geschäftsgeheimnisse, Kundendokumente oder rechtlich geschützte Informationen enthalten. Organisationen brauchen deshalb klare Regeln, welche Daten in welchen Diensten verarbeitet werden dürfen. Nicht freigegebene Systeme sollten grundsätzlich nicht für sensible Inhalte genutzt werden.
Praktische Schutzmaßnahmen für generative KI
Eine sinnvolle Grundregel lautet: Modellausgaben sind Entwürfe, keine Belege. Wichtige Tatsachenbehauptungen sollten anhand verlässlicher, maßgeblicher Quellen überprüft werden. Für medizinische, rechtliche, finanzielle, personalbezogene und sicherheitskritische Entscheidungen sollte eine menschliche Prüfung verpflichtend sein.
Hilfreiche Maßnahmen sind die Anbindung an freigegebene Quellen, Quellenangaben, Red-Team-Tests, Inhaltsfilter, altersgerechtes Design, Audit-Logs, eine klare Kennzeichnung des KI-Einsatzes sowie Richtlinien für Datenverarbeitung, akademische Nutzung, Herkunft und urheberrechtliche Freigaben. Auch staatliche Leitlinien weisen auf ungenaue oder voreingenommene Inhalte, Datenschutzverletzungen, Verstöße gegen geistiges Eigentum und Herausforderungen für die akademische Integrität hin.
3. Agentische KI: Systeme, die handeln können
Agentische KI ergänzt die Generierung um eine Handlungsebene. Ein Agent kann ein Ziel interpretieren, es in einzelne Schritte zerlegen, Werkzeuge wie Browser, Code-Repositories, Datenbanken oder Nachrichtendienste aufrufen, Zwischenergebnisse prüfen und innerhalb seiner Berechtigungen weiterarbeiten.
Dadurch unterscheidet sich ein Agent von einem Chatbot, selbst wenn beide ein großes Sprachmodell verwenden. Ein Chatbot kann eine E-Mail formulieren; ein Agent kann Informationen suchen, die Nachricht vorbereiten, sie versenden und anschließend ein anderes System aktualisieren. Ein Programmierassistent kann einen Fehler erklären; ein Agent kann eine Codebasis untersuchen, Dateien ändern, Tests ausführen und eine Änderung zur Prüfung vorbereiten.
Zu den aktuellen Beispielen zählen Softwareentwicklungs-Agenten wie Google Jules, Recruiting-Workflow-Tools wie LinkedIn Hiring Assistant und persönliche Agenten-Frameworks wie OpenClaw. OpenClaw wird von den Projektmaterialien als persönlicher Open-Source-Assistent beschrieben, der auf den Geräten der Nutzer läuft und sich mit Kanälen und Werkzeugen verbindet. Was er tatsächlich ausführen kann, hängt von den aktivierten Integrationen und Berechtigungen ab.
Warum Agenten nützlich sein können
Agentische Systeme können:
komplette Arbeitsabläufe statt nur einzelner Entwürfe erledigen;
routinemäßige Abstimmung und Verwaltungsarbeit reduzieren;
Informationen aus voneinander getrennten Geschäftssystemen verbinden; und
innerhalb definierter Grenzen kontinuierlich arbeiten.
Damit könnten auch kleinere Organisationen und einzelne Nutzerinnen und Nutzer Zugang zu komplexeren Arbeitsabläufen erhalten. Zugleich verschiebt sich die zentrale Frage: Nicht mehr nur „Ist die Antwort korrekt?“, sondern auch „Was darf das System tun, und wie lassen sich seine Aktionen kontrollieren?“
Warum Autonomie die Risikofläche vergrößert
Ein generatives Modell kann eine falsche Antwort geben. Ein Agent kann eine falsche Schlussfolgerung, eine bösartige Anweisung oder ein kompromittiertes Werkzeug in eine externe Handlung übersetzen.
Ein Agent mit Zugriff auf Finanzsysteme könnte beispielsweise eine nicht autorisierte Zahlung, einen Kauf, eine Überweisung oder eine Stornierung auslösen. Ein Agent mit Zugriff auf E-Mail, Browser oder Cloud-Dienste könnte durch eine manipulierte Webseite oder ein bösartiges Dokument dazu gebracht werden, Zugangsdaten offenzulegen oder vertrauliche Dateien zu versenden. Zu weitreichende Berechtigungen, schwache Identitätskontrollen und schlecht getrennte Zuständigkeiten können einen kleinen Modellfehler zu einem gravierenden Vorfall machen.
Auch die Verantwortungszuweisung wird schwieriger, wenn ein Ergebnis aus dem Zusammenspiel von Modell, Anweisungen, Daten, Werkzeugen und anderen Agenten entsteht. Betreiber müssen daher nicht nur das Endergebnis sehen, sondern auch die geplante Aktion, ihre Begründung, die zugrunde liegenden Belege und die verwendeten Berechtigungen.
Governance muss mit der Fähigkeit wachsen
Für alle drei Entwicklungsstufen gelten dieselben Grundprinzipien: eine verantwortliche Stelle benennen, den Einsatzzweck begrenzen, Daten schützen, vor der Einführung testen, die Leistung überwachen, auf Vorfälle vorbereitet sein und bei folgenreichen Entscheidungen eine echte menschliche Prüfung oder Übersteuerung ermöglichen.
Agentische Systeme benötigen zusätzliche Kontrollen, weil sie externe Systeme beeinflussen können. Dazu gehören insbesondere:
Berechtigungen nach dem Prinzip der geringsten Privilegien sowie zeitlich begrenzte Zugangsdaten;
getrennte Konten und eine eindeutige Identität für jeden Agenten;
klare Grenzen dafür, was ein Agent lesen, schreiben, versenden, kaufen, löschen oder bereitstellen darf;
Bestätigungsschritte für irreversible oder besonders folgenreiche Aktionen;
Listen freigegebener Werkzeuge, Sandboxes und Schutz vor Prompt-Injection-Angriffen;
Transaktionslimits und Erkennung ungewöhnlicher Aktivitäten;
Funktionstrennung und eine dem Risiko angemessene menschliche Freigabe; sowie
eine schnell auslösbare Pause- oder Abschaltfunktion.
Singapurs Model AI Governance Framework for Agentic AI, das am 22. Januar 2026 vorgestellt wurde, ist eine Orientierungshilfe für Organisationen und kein eigenständiges KI-Gesetz. Es stellt die menschliche und organisatorische Verantwortlichkeit in den Mittelpunkt und empfiehlt ein Risikomanagement mit Kontrollen, die dem Grad der Autonomie eines Agenten entsprechen.
Für Finanzdienstleister beschreibt das Papier der Monetary Authority of Singapore zu SAFR einen Ansatz für Governance zur Laufzeit. Dabei hält ein strukturierter Datensatz fest, was ein Agent tun möchte, warum er dies tun möchte und welche Belege die geplante Aktion stützen.
Das wichtigste Fazit
Die Entwicklung der KI ist kein einfacher Marsch von „alter“ zu „neuer“ KI. Regelbasierte und prädiktive Systeme bleiben für viele klar begrenzte Entscheidungen die richtige Wahl. Generative KI bringt flexible Produktion und Interaktion in natürlicher Sprache. Agentische KI erweitert diese Fähigkeiten um die Verfolgung von Zielen über Werkzeuge und externe Aktionen.
Mit der Leistungsfähigkeit wächst auch die Governance-Herausforderung: Vorhersagen erfordern Aufmerksamkeit für Genauigkeit, Verzerrungen und Drift. Bei generativer KI kommen Überprüfung, Sicherheit, Datenschutz und Herkunft der Inhalte hinzu. Sobald ein System handeln kann, braucht es darüber hinaus Berechtigungskontrollen, Freigabestufen, klare Verantwortlichkeit und Pläne für die Wiederherstellung nach Fehlern.
Die zuverlässigsten KI-Produkte werden daher nicht allein durch leistungsfähige Modelle entstehen, sondern durch die Kombination aus Modellqualität, diszipliniertem Systemdesign und echter menschlicher Aufsicht.
