2022/9 | Fachbeitrag | Automatisierung

Trustworthy AI: Unternehmen wünschen sich beim Thema KI mehr Kontrolle

Wenn Unternehmen über den Einsatz Künstlicher Intelligenz nachdenken, müssen sie sich mit grundlegenden Fragen beschäftigen: Wie können die Verantwortlichen Entscheidungen, die eine KI-Anwendung trifft, transparent gestalten? Wie beherrschen sie mögliche Risiken des KI-Einsatzes? Die Antworten darauf sind wesentlich für die Akzeptanz der Technologie durch Verbraucherinnen und Verbraucher. Der IT-Dienstleister adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema "Trustworthy AI" befragt. Demnach glaubt die Mehrheit, dass KI bei Kundinnen und Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Teilnehmenden der Studie mehr Kontrollmechanismen.

Bildquelle: (C) Gerd Altmann / Pixabay

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Tausende von Anwendungsfällen quer durch alle Branchen zeigen bereits, welches geballte Potenzial in KI steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzerinnen und Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren.

adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt: Wie wichtig ist eine vertrauenswürdige KI? Wie schätzen sie die Haltung der Nutzer gegenüber KI-Anwendungen ein? Wie sehen sie den Regulierungsbedarf?

Die wichtigsten Erkenntnisse der Studie

  • Großes Vertrauen in KI.
    Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 %, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61 % sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.

  • Regulation erwünscht.
    Trotzdem finden 80 % der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 % sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 % diese Forderung. 70% aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll. Besonders populär ist die Idee eines eigenen Expertinnen- und Expertenrats im Gesundheitswesen (87 %) und in der öffentlichen Verwaltung (83 %).

  • KI am Arbeitsplatz.
    Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70 % der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 %, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

"Unsere Analyse gibt einen erstaunlich klaren Einblick, wie und wohin sich die KI-Regulierung nach Ansicht der befragten Expertinnen und Experten entwickeln soll. Zwar unterstellen die Teilnehmenden den Verbraucherinnen und Verbrauchern - ob nun berechtigt oder nicht - einen großen Vertrauensvorschuss gegenüber KI. Trotzdem sehen sie die Notwendigkeit, strenge Sicherheitsregeln umzusetzen und die Einhaltung ethischer Standards zu kontrollieren", erklärt Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso. "Das ist auch dringend notwendig. Um der Technologie zu vertrauen, müssen die Menschen genau wissen und verstehen, was KI ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben. Unternehmen, die diese Technologie einsetzen, sollten größten Wert darauflegen, dass die eingesetzte KI transparent und vertrauenswürdig arbeitet."


Der Autor:

Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso: "Um KI zu vertrauen, müssen die Menschen genau wissen und verstehen, was die Technologie ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben."

Bildquelle: (C) adesso

Web: www.adesso.de

Diese Artikel könnten Sie auch interessieren

Führungsqualität schafft Servicequalität! Nur begeisterte Mitarbeitende können Kunden begeistern

WISSENplus
Die Erwartungen in Unternehmen sind hoch: Aufgaben müssen erfüllt und Unternehmensziele erreicht werden. Ergebnis- und Mitarbeiterorientierung sind eng miteinander verbunden. Dreh- und Angelpunkt für den Erfolg sind die Führungskräfte. Sie meistern nicht nur selbst ein komplexes Aufgabengebiet, sondern sollen auch vorleben, was von Mitarbeitenden im Umgang mit Kunden verlangt wird: Begeisterung....

Weiterlesen

E-Government: Der holprige Weg zur Verwaltung 4.0

WISSENplus
"If you digitize a crap process, you have a crap digital process." Harte Worte, die Thorsten Dirks, ehemaliger CEO der Telefónica, vor einigen Jahren formulierte. Dabei beschreibt das Zitat nur das damals wie heute gültige Resultat, wenn ein per se schlechter Prozess digitalisiert wird. Im Umkehrschluss heißt das: Ohne Vorüberlegungen zum großen Ganzen im Prozessdenken und dem Wissenstr...

Weiterlesen

Mit KI gegen Cyberattacken

WISSENplus
Kaum ein Unternehmen kann noch auf Remote Work oder Cloud-Lösungen verzichten. Die neue Realität der Arbeitswelt bietet allerdings breite Angriffsflächen in der IT: Verwundbare Infrastrukturen brauchen neue Sicherheitsstrategien und Technologien, um sich vor akuten Bedrohungen abzusichern. Ein wichtiger Bestandteil ist dabei die künstliche Intelligenz....

Weiterlesen

Process Mining als Game Changer für Automatisierungsprojekte

Mit der Automatisierung von Prozessen sollte auch ihre Optimierung einhergehen. Das scheitert in der Praxis aber oft daran, dass Unternehmen die Schwächen ihrer Abläufe gar nicht genau kennen oder vermeintlich ideale Prozesse auf Basis subjektiver Einschätzungen definieren. Process Mining kann diese Probleme lösen kann....

Weiterlesen

Whistleblowing: Sensibles Wissen als Konfliktarena

WISSENplus
Obwohl es beim Whistleblowing um die Generierung spezifischer Wissensinhalte in Gestalt von Hinweisen geht, bilden Hinweisgebersysteme bestenfalls einen Randbereich des Wissensmanagements. Die gängigen Lösungen beruhen irrtümlich auf dem klassischen Leitbild des Wissensmanagements, demgemäß alle Hinweise auf Missstände die Erkenntnis- und Handlungsfähigkeit verbessern. Dabei wird übersehen, d...

Weiterlesen

Technischer Support: Den richtigen Keilriemen findet die KI

Egal, ob Kunden beim technischen Support anrufen oder einen Service-Techniker vor Ort benötigen: Sie erwarten heute eine schnelle Lösung ihres Problems. Lange Wartezeiten am Telefon oder mehrfache Nachfrage-Anrufe frustrieren sie und sorgen für Unzufriedenheit. Kommt ein Service-Techniker zur Reparatur einer Maschine vorbei, sollte sie bei seiner Abfahrt wieder einsetzbar sein. Weitere Verzögerungen od...

Weiterlesen

Business Intelligence bei HDI, WHO und Samsung

WISSENplus
Wenn es um Informationen von Unternehmen, deren Standorte, Produkte oder Services geht, sollten sie dort bereitgestellt werden, wo Menschen danach suchen. Sie müssen schnell verfügbar sein, die jeweiligen Fragen beantworten und Konsistenz aufweisen, um Verwirrung zu vermeiden. Und wo suchen die meisten Menschen heute, wenn sie etwa eine Frage zu ihrer KFZ-Versicherung oder zu COVID-19 haben? Genau! ...

Weiterlesen

Wie gelingt erfolgreiches Skillmanagement?

WISSENplus
Der Fachkräftemangel nimmt in seiner Dramatik permanent zu. Für Personaler entwickelt sich das Thema zu einem Riesenproblem: Wachstum gelingt nur mit kompetenten Mitarbeitern. Skill- und Kompetenzmanagement gelten als die Königswege bei der Lösung des Problems: Mache mehr aus deinen Mitarbeitern, lautet hier das Credo. Doch es ist nicht einfach, die eigenen Mitarbeiter zu halten und zu qualifizier...

Weiterlesen