Fünf Fragen, die IT-Entscheider vor dem Einsatz von KI-Agenten beantworten müssen

von

KI-Agenten sind weit mehr als kleine Copiloten, die nur einzelne Arbeitsschritte unterstützen. Sie verfolgen ein konkretes Ziel und entscheiden selbst, wie sie es erreichen, von der automatisierten Prüfung eingehender Bestellungen bis zur Einholung und dem Vergleich von Lieferantenangeboten. Darin liegt einerseits ihr großer Nutzen, andererseits benötigen sie dafür passende Rahmenbedingungen. Denn während klassische Prozesse mit festen Freigabe-Workflows arbeiten, verschiebt sich bei Agenten die Kontrolle von der Prozess- auf die Ergebnisebene. Unternehmen legen nicht mehr jeden Schritt fest, sondern definieren, welche Ergebnisse akzeptabel sind und wann ein Agent selbstständig handeln darf. Damit das funktioniert, ist ein klar definierter Governance-Rahmen erforderlich.

KI-Agenten sind weit mehr als kleine Copiloten, die nur einzelne Arbeitsschritte unterstützen. Sie verfolgen ein konkretes Ziel und entscheiden selbst, wie sie es erreichen, von der automatisierten Prüfung eingehender Bestellungen bis zur Einholung und dem Vergleich von Lieferantenangeboten. Darin liegt einerseits ihr großer Nutzen, andererseits benötigen sie dafür passende Rahmenbedingungen. Denn während klassische Prozesse mit festen Freigabe-Workflows arbeiten, verschiebt sich bei Agenten die Kontrolle von der Prozess- auf die Ergebnisebene. Unternehmen legen nicht mehr jeden Schritt fest, sondern definieren, welche Ergebnisse akzeptabel sind und wann ein Agent selbstständig handeln darf. Damit das funktioniert, ist ein klar definierter Governance-Rahmen erforderlich.

^{Bildquelle: (C) IFS, KI-generiert}

KI-Agenten treffen zunehmend eigenständige und weitreichendere Entscheidungen - von der Auftragsprüfung bis zur Lieferantenauswahl. Doch bevor ein Unternehmen ihnen Verantwortung überträgt, muss ein klarer Governance-Rahmen feststehen. Die KI-Experten von IFS haben fünf Fragen formuliert, die jeder IT-Entscheider vorab beantworten sollte.

1. Wer wählt den Agenten für die jeweilige Aufgabe aus?

Nicht jeder Agent eignet sich für jede Aufgabe, und nicht jede Aufgabe eignet sich für einen Agenten. Vor dem produktiven Einsatz muss feststehen, wer die Auswahl trifft und nach welchen Kriterien dies geschieht, etwa anhand des Risikos im Fehlerfall und der Frage, wie klar sich die Aufgabe überhaupt in nachvollziehbare Regeln fassen lässt.

2. Wer verantwortet die Einarbeitungsphase?

Autonomie wird nicht am ersten Tag gewährt, sie entsteht durch Vertrauen, das sich aufbaut - in der Praxis über zwei bis drei Monate. In dieser Zeit sind klar zugewiesene Verantwortungen und Personen notwendig, die die Ergebnisse des Agenten überprüfen, erwünschtes Verhalten verstärken und unerwünschtes durch entsprechendes Feedback eindämmen.

3. Wie wird der Fortschritt bewertet?

Ein Agent, der über Wochen unbeobachtet läuft, ist kein Fortschritt, sondern ein Kontrollverlust. Aussagekräftig sind Kennzahlen wie die Häufigkeit menschlicher Korrekturen, berechtigter Eskalationen und richtig getroffener Entscheidungen. Erst wenn diese Werte über einen längeren Zeitraum stabil bleiben, lässt sich der Entscheidungsspielraum guten Gewissens erweitern.

4. Ab wann ist eine menschliche Freigabe zwingend?

Nicht jede Entscheidung verdient gleich viel Spielraum. Eine Risikobewertung der Prozessschritte legt fest, welche Vorgänge grundsätzlich ein Mensch bestätigt, unabhängig davon, wie gut sich der Agent bislang bewährt hat, etwa ab einem bestimmten Auftragsvolumen, einer Entscheidungsreichweite oder aus rechtlichen Gründen. Human-in-the-Loop ist dabei kein Misstrauensvotum gegenüber der Technologie, sondern eine bewusste Entscheidung, wo der Mensch die Kontrolle behalten will.

5. An wen eskaliert der Agent in unklaren Fällen?

Jeder Mitarbeitende weiß, an wen er sich wendet, wenn eine Situation außerhalb seines Verantwortungsbereichs liegt. Für Agenten gilt dasselbe, nur wird oft schlicht vergessen, es festzulegen. Ohne definierten Eskalationsweg bleiben unklare Fälle liegen oder der Agent trifft eine Entscheidung, für die er nicht vorgesehen war.

„Ein Governance-Rahmen für KI-Agenten ist kein Regelwerk, das Vertrauen ersetzt. Er ist die Voraussetzung dafür, dass Vertrauen überhaupt wachsen kann“, unterstreicht Sören Michl, Vice President AI Adoption bei IFS. „Wer diese fünf Fragen vorab beantwortet, steuert die Geschwindigkeit der Autonomie bewusst und überlässt sie nicht dem Zufall. Genau das entscheidet am Ende darüber, wie viel Verantwortung ein Unternehmen seinen KI-Agenten guten Gewissens übertragen kann."

Der Autor:

Sören Michl ist Vice President AI Adoption bei IFS, einem weltweiten Anbieter von Industrial AI und Cloud-Business-Software für Unternehmen, die Güter produzieren und vertreiben, Anlagen bauen und betreiben sowie Dienstleistungen erbringen. Auf einer einzigen Plattform vereint IFS seine branchenspezifischen Industrial-AI-Lösungen, verbindet sie durch ein gemeinsames Datenmodell und integriert digitale Innovationen.

^{Bildquelle: (C) IFS}

Web: https://ifs.com