Studie: KI halluziniert in 58 - 88 % der Fälle

Wenn eine KI z.B. im Compliance-Kontext eine Vorschrift erfindet, drohen Audits, Strafen und Haftung. Wie oft das passiert, wurde an der Stanford University gemessen: Bei juristischen Abfragen halluzinieren KIs in 58 bis 88 Prozent der Fälle.

Das Problem: KI rät, auch mit teurem RAG-Systemen

Sprachmodelle antworten aufgrund von Wahrscheinlichkeitsberechnungen, nicht nach Kontext und Wissen. Selbst spezialisierte RAG-Systeme, in die Unternehmen derzeit investieren, lösen das Problem nicht: Eine Stanford-Folgestudie maß bei juristischen KI-Recherche-Tools Halluzinationsraten von 17 bis 33 Prozent. Selbst die neuesten Graph-RAG-Systeme zeigen Lücken. EY warnt: Ein Modell, das eine Vorschrift erfindet oder ein Rechtsprinzip falsch wiedergibt, gefährdet die Compliance. Im August 2026 erhöht der EU AI Act mit seiner nächsten Stufe den Druck zusätzlich.

Der Ansatz: Struktur statt Fließtext

Eine Landkarte zeigt eine Region auf einen Blick. Ein Fließtext über dieselbe Region schafft das nicht. Nach diesem Prinzip funktionieren KontextMaps: interaktive Wissenskarten, die Überblick und Details zugleich zeigen. Die Wirkung ist belegt: eine Metaanalyse über 142 Studien mit rund 11.800 Lernenden zeigt, dass strukturierte Wissenskarten Verständnis und Erinnern deutlich verbessern (Effektstärke g = 0,58). Der Grund liegt in der Form: Eine Karte liefert Information über zwei Kanäle gleichzeitig, sprachlich und visuell-räumlich. Zusammenhänge werden sichtbar, statt im Fließtext zu verschwinden. Dieselbe Struktur hilft auch der KI: Sie bekommt ein Gerüst, an dem sie sich orientiert, statt zu raten. Die Lücken, die vorher mit Wahrscheinlichkeiten gefüllt wurden, gibt es nicht.

Die Kontextlab GmbH zeigt auf der VivaTech in Paris (17.-20. Juni), wie Organisationen das Problem in den Griff bekommen: Eine kuratierte KontextMap wird zur sicheren Informationsquelle, einem Knowledge Vault. Darin steckt geprüftes Wissen, das stimmen muss.

Mehr Infos: www.kontextlab.com

Unsere Empfehlungen