2026/9 | Fachbeitrag | Customer Relationship Management

Transparenzlücke bei KI-Agenten gefährdet das Kundenvertrauen

KI-Agenten beantworten im Kundenservice Anfragen, greifen auf personenbezogene Daten zu und sprechen Empfehlungen aus. Für Kunden ist dabei nicht immer erkennbar, ob sie mit einem Menschen oder einer KI kommunizieren. Häufig bleibt auch offen, welche Informationen das System nutzt und wie seine Entscheidungen zustande kommen. Diese Transparenzlücken können das Vertrauen beeinträchtigen. Das zeigt die Studie How to Scale Automation Without Losing Customer Confidence von Twilio, Anbieter einer Customer-Engagement-Plattform. 81 Prozent der Unternehmen geben an, dass sich ihre KI-Agenten sofort als solche zu erkennen geben. Doch nur 22 Prozent der Kunden bestätigen dies. Damit besteht bei einer objektiv überprüfbaren Frage eine Differenz von 59 Prozentpunkten.

Diese Abweichung bedeutet nicht, dass Unternehmen oder Kunden bewusst falsche Angaben machen. Vielmehr unterscheiden sich die vorgesehene Kennzeichnung und das tatsächliche Kundenerlebnis. Ein Hinweis kann technisch vorhanden sein, ohne den Empfänger zuverlässig zu erreichen.

Die Konfiguration bildet das Kundenerlebnis nicht ab

Produktteams können meist belegen, dass ihr KI-Agent auf seine Identität hinweist. Die entsprechende Formulierung steht im System-Prompt oder im Designdokument. Auch ein Roboter-Avatar ist in der Benutzeroberfläche sichtbar.

Die Aufzeichnung eines Gesprächs kann dennoch ein anderes Bild zeigen. Vielleicht steht der Hinweis in einer kleinen Begrüßungsnachricht, über die der Kunde hinwegscrollt. Oder lediglich das Wort "Agent" im Namen deutet auf die eingesetzte Technik hin. Diese Bezeichnung ist jedoch weniger eindeutig, als viele Unternehmen annehmen. Auch zwischen den Kommunikationskanälen können Unterschiede bestehen. Der Hinweis erscheint beispielsweise im Web-Widget, fehlt jedoch in SMS. Ein Sprachagent nennt seine Identität möglicherweise nur einmal und sehr schnell, bevor sich der Kunde überhaupt auf das Gespräch eingestellt hat.

Nur 32 Prozent der Unternehmen priorisieren KI-Transparenz bereits bei der Entwicklung ihrer Agenten. In vielen Teams beruht die Kennzeichnung daher nicht auf einer bewussten Entscheidung. Sie ergibt sich eher aus der vom Anbieter bereitgestellten Lösung. Kunden können die Identität ihres Gesprächspartners selten selbst zuverlässig feststellen. 75 Prozent der Verbraucher glauben, einen textbasierten KI-Agenten erkennen zu können. In einem Test gelang dies jedoch 90 Prozent nicht. In der Praxis können Kunden ihren Gesprächspartner daher falsch einschätzen und den KI-Einsatz erst später erkennen. Eine solche verspätete Aufklärung kann das Vertrauen beeinträchtigen.

Drei Fragen entscheiden über die Transparenz

Für Kunden sind dabei diese Aspekte wichtig:

1. Mit wem spreche ich?

76 Prozent der Verbraucher erwarten, dass sich ein KI-Agent zu Beginn des Gesprächs zu erkennen gibt. Nur 22 Prozent erleben dies tatsächlich. Die ausdrückliche Bezeichnung als KI verhindert Missverständnisse.

2. Auf welche Daten kann die KI zugreifen?

49 Prozent der Verbraucher wünschen sich Transparenz darüber, auf welche konkreten Informationen ein KI-Agent zugreifen kann. Allerdings verlangen nur 19 Prozent der Unternehmen eine ausdrückliche Einwilligung, bevor die KI auf personenbezogene Daten zugreift.

Diese Diskrepanz trifft auf ein bereits angespanntes Verhältnis zum Umgang mit persönlichen Informationen. 62 Prozent der Verbraucher misstrauen dem Umgang der Unternehmen mit ihren personenbezogenen Daten. Dadurch besteht möglicherweise schon vor der Einführung eines KI-Agenten erhebliche Skepsis.

3. Wie kommt eine Entscheidung zustande?

54 Prozent der Verbraucher vertrauen KI stärker, wenn Unternehmen deren Funktionslogik verständlich erläutern. 48 Prozent der Unternehmen stellen bereits entsprechende Hinweise bereit. Dazu gehören etwa Schaltflächen, die die Gründe für eine Empfehlung erklären. Die Differenz zwischen beiden Werten ist vergleichsweise klein. Dennoch wünscht sich etwa die Hälfte der Kunden diese Möglichkeit ausdrücklich. Nachvollziehbare Entscheidungsgrundlagen stärken das Vertrauen in das eingesetzte System - eine undurchschaubare Blackbox nicht.

Transparenz in der Praxis umsetzen

Ein vorhandener Hinweis genügt nicht. Er muss so gestaltet sein, dass Kunden ihn wahrnehmen und verstehen. Dafür sind fünf Maßnahmen entscheidend:

1. Von Beginn an informieren: Der Hinweis sollte erscheinen, bevor der Kunde sein Anliegen schildert.
2. KI eindeutig benennen: Eine klare Formulierung in der ersten Nachricht lässt sich mit geringem Aufwand umsetzen. Die Bezeichnung "KI-Agent" sollte sofort gut sichtbar und leicht verständlich erscheinen. Begriffe wie "Assistent", "virtueller Agent" oder "digitaler Freund" lassen dagegen Interpretationsspielraum.
3. Hinweis in jedem Kanal wiederholen: Beim Wechsel vom Webchat zu SMS beginnt aus Kundensicht ein neues Gespräch. Deshalb ist in jedem Kanal ein eigener Hinweis erforderlich.
4. Den weiteren Weg erklären: Die Kennzeichnung sollte mit einer klaren Ausstiegsmöglichkeit verbunden sein. Eine Formulierung könnte lauten: "Ich bin ein KI-Assistent. Sagen Sie jederzeit 'Mitarbeiter', dann verbinde ich Sie mit einem Menschen."
5. Tatsächliche Gespräche kontrollieren: Unternehmen sollten Gesprächsprotokolle auswerten und prüfen, ob die vorgesehenen Hinweise erfolgt sind. Die technische Konfiguration allein liefert dafür keinen ausreichenden Nachweis.

"Die meisten Unternehmen versuchen nicht, jemanden zu täuschen. Sie vertrauen einer Konfigurationsdatei und weisen deren Inhalt als Ergebnis aus. Entscheidend ist, was Kunden nach dem Gespräch berichten", sagt Jesse Sumrak, Senior Content Marketing Manager bei Twilio.

Transparenz stärkt Vertrauen und verkürzt Supportwege

Eine eindeutige Offenlegung erfordert nur einen klaren Satz, ihre Wirkung reicht jedoch deutlich weiter. 92 Prozent der Verbraucher stimmen zu, dass Unternehmen gezielte Maßnahmen ergreifen können, damit sie sich beim Einsatz von KI wohler fühlen. Die Kennzeichnung bildet dafür den ersten Schritt und verstärkt weitere vertrauensbildende Maßnahmen. Weiß der Kunde, dass er mit einer KI spricht, kann er bewusst über die Weitergabe von Informationen entscheiden. Weiß er dies nicht, muss er während des gesamten Gesprächs herausfinden, ob er mit einem Menschen oder einem Bot spricht.

Transparenz ermöglicht eine bewusste Wahl zwischen Bot und Mitarbeiter. Kunden können einfache Anliegen sofort mit dem Bot klären und bei speziellen Fragen frühzeitig eine Weiterleitung verlangen. Das verkürzt den Weg zur geeigneten Unterstützung und spart beiden Seiten Zeit.

Wer den Erfolg von KI-Agenten allein an vermiedenen Anrufen und sinkenden Ticketzahlen misst, lässt das Kundenerlebnis außer Acht. KI sollte den Kundenservice unterstützen, ihn jedoch niemals ersetzen. Erfährt ein Kunde erst spät, dass er mit einem Bot gesprochen hat, bleibt vor allem diese verspätete Erkenntnis in Erinnerung. Unternehmen müssen deshalb erklären, mit wem Kunden kommunizieren, welche Daten der KI-Agent einsehen kann und wie der Wechsel zu einem Mitarbeiter funktioniert. Diese Anforderungen ergeben sich unmittelbar aus den Erwartungen der Kunden.

>> Mehr Infos: www.twilio.com