"Human in the Loop" verwandelt KI in einen steuerbaren Schlüsselfaktor

von Thomas Uber

Eine aktuelle Studie des Branchenverbands Bitkom zeigt, dass viele Nutzer dem Einsatz von KI weiterhin skeptisch gegenüberstehen. Zugleich verbindet sich mit der Technologie das Risiko sogenannter Halluzinationen und fehlerhafter Ergebnisse. Der Ansatz "Human in the Loop" minimiert diese Vorbehalte und Risiken weitgehend durch Kontrolle der Ergebnisse und Training von KI-Modellen.

Eine aktuelle Studie des Branchenverbands Bitkom zeigt, dass viele Nutzer dem Einsatz von KI weiterhin skeptisch gegenüberstehen. Zugleich verbindet sich mit der Technologie das Risiko sogenannter Halluzinationen und fehlerhafter Ergebnisse. Der Ansatz "Human in the Loop" minimiert diese Vorbehalte und Risiken weitgehend durch Kontrolle der Ergebnisse und Training von KI-Modellen.

Kurz gefasst

• Der Einsatz von KI nimmt in Unternehmen deutlich zu, gleichzeitig bestehen weiterhin Vorbehalte, insbesondere aufgrund mangelnder Nachvollziehbarkeit von Ergebnissen.
• Der Ansatz "Human in the Loop" adressiert diese Herausforderungen, indem Menschen systematisch in die Prüfung, Korrektur und das Training von KI-Modellen eingebunden werden.
• Durch kontinuierliches menschliches Feedback verbessern sich die Ergebnisse von KI-Modellen schrittweise, sodass der Bedarf an manuellen Korrekturen mit der Zeit sinkt.
• Besonders bei kritischen oder folgenreichen Entscheidungen bleibt die Überprüfung durch den Menschen ein zentraler Bestandteil, unabhängig vom Automatisierungsgrad.
• Insgesamt trägt "Human in the Loop" dazu bei, KI transparenter, zuverlässiger und akzeptierter zu machen und sie als steuerbares Instrument im Unternehmensalltag zu etablieren.

Laut der Bitkom-Studie setzt inzwischen jedes dritte Unternehmen in Deutschland KI ein. Das sind fast doppelt so viele wie noch vor einem Jahr. Dieser Trend wird anhalten, denn fast jedes zweite Unternehmen (47 %) plant oder diskutiert den Einsatz von KI. Als weiteres Ergebnis der Studie bevorzugen 93 Prozent der befragten Unternehmen einen KI-Anbieter aus Deutschland, um so die eigene digitale Souveränität über Modelle und Daten zu gewährleisten. Allerdings nennen auch 38 Prozent der Teilnehmenden die "mangelnde Nachvollziehbarkeit der Ergebnisse" als zentrale Hürde von KI. Es klafft also eine deutliche Lücke zwischen dem Potenzial von KI und dessen vollständiger Umsetzung im Unternehmensalltag. Nötig ist ein Ansatz, der von der risikobehafteten Blackbox weg- und zu einem kontrollierbaren, skalierfähigen Business-Asset hinführt.

"Human in the Loop" - mit Netz und doppeltem Boden

"Human in the Loop" ist ein solcher Ansatz. Dabei werden Menschen systematisch eingebunden, um die Ergebnisse der KI-Modelle zu prüfen und gegebenenfalls zu korrigieren. Im Rahmen der KI-gestützten Dokumentenverarbeitung (Intelligent Document Processing, IDP) beginnt dies bereits beim Trainieren der Modelle: Mitarbeitende klassifizieren die Dokumente und extrahieren relevante Daten. Diese Informationen dienen als Grundlage für das Training der KI. Je nach Dokumententyp sind erfahrungsgemäß bei etwa fünf bis 20 Prozent der KI-Ergebnisse zunächst manuelle Korrekturen erforderlich - mit sinkender Tendenz. Denn durch menschliches Feedback steigt die Lernkurve von KI-Modellen fortlaufend, sodass sich ihre Ergebnisse bei der Erkennung von Dokumenten und der Extraktion von Inhalten stetig verbessern. Werden neue Dokumententypen hinzugefügt, sollte menschliche Expertise ebenfalls in das Training einbezogen werden. Mithilfe der so gewonnenen und gespeicherten Informationen kann die KI ab einem definierten Qualitätsniveau selbstständig neue Modelle entwickeln. Deren Ergebnisse werden durch den Menschen so lange überprüft, bis eine stabile, verlässliche Klassifizierung und Extraktion gewährleistet ist. Erst dann erfolgt eine automatisierte Übertragung der Informationen ins Zielsystem ohne menschlichen Eingriff.

Unabhängig vom erreichten Automatisierungsgrad sollten Menschen KI-Ergebnisse immer dann prüfen, wenn diese mit weitreichenden Folgen verbunden sind. Im Finanzwesen etwa empfiehlt sich bei ungewöhnlich hohen Rechnungsbeträgen oder Buchungsposten, die die KI erkannt hat, eine Prüfung durch den Menschen.

Insgesamt ermöglicht der "Human-in-the-Loop"-Ansatz, Ergebnisse von KI nachzuvollziehen und zu interpretieren, fundierte Entscheidungen zu treffen sowie Verzerrungen zu identifizieren und somit Risiken systematisch zu minimieren. Insofern steigert "Human in the Loop" auch die Akzeptanz von KI-Modellen, da Mitarbeitende deren Ergebnisse überprüfen können und so Vertrauen in das System entwickeln. Auf diese Weise adressiert das Konzept direkt die in der Bitkom-Umfrage identifizierte Herausforderung der mangelnden Transparenz.

Fazit

KI ist keine Plug-and-Play-Technologie. Vielmehr erfordert sie kontinuierliche Überwachung, Anpassung und Optimierung. Derart betrieben, ergänzt sie den Menschen in idealer Weise, ohne ihn zu ersetzen. Vielmehr potenziert sie die Fähigkeiten der Mitarbeitenden, befreit sie von lästigen Routinearbeiten und steigert somit die menschliche Produktivität.

Der "Human-in-the-Loop"-Ansatz verbindet die Stärken leistungsfähiger Algorithmen mit dem Urteilsvermögen und Fachwissen von Menschen. So versetzt er Unternehmen auch in die Lage, transparent arbeitende, zuverlässige KI-Modelle selbstständig zu generieren und kontinuierlich weiterzuentwickeln.

Der Autor:

Thomas Uber ist Geschäftsführer der applord GmbH, einem erfahrenen Full-Service-IT-Dienstleister und Managed-Services-Partner mit Sitz in Aachen. Seit dem Jahr 2000 liegt der Fokus des Unternehmens auf Prozessoptimierung und -automatisierung sowie der Digitalisierung mit eigenen etablierten IT-Anwendungen, darunter die DMS-Lösung ecoDMS.

^{Bildquelle: (C) applord GmbH}

Web: www.applord.de