Finanzkriminalität proaktiv begegnen und Risiken minimieren
2022/9 | Fachbeitrag | Automatisierung

Trustworthy AI: Unternehmen wünschen sich beim Thema KI mehr Kontrolle

Wenn Unternehmen über den Einsatz Künstlicher Intelligenz nachdenken, müssen sie sich mit grundlegenden Fragen beschäftigen: Wie können die Verantwortlichen Entscheidungen, die eine KI-Anwendung trifft, transparent gestalten? Wie beherrschen sie mögliche Risiken des KI-Einsatzes? Die Antworten darauf sind wesentlich für die Akzeptanz der Technologie durch Verbraucherinnen und Verbraucher. Der IT-Dienstleister adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema "Trustworthy AI" befragt. Demnach glaubt die Mehrheit, dass KI bei Kundinnen und Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Teilnehmenden der Studie mehr Kontrollmechanismen.

Bildquelle: (C) Gerd Altmann / Pixabay

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Tausende von Anwendungsfällen quer durch alle Branchen zeigen bereits, welches geballte Potenzial in KI steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzerinnen und Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren.

adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt: Wie wichtig ist eine vertrauenswürdige KI? Wie schätzen sie die Haltung der Nutzer gegenüber KI-Anwendungen ein? Wie sehen sie den Regulierungsbedarf?

Die wichtigsten Erkenntnisse der Studie

  • Großes Vertrauen in KI.
    Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 %, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61 % sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.

  • Regulation erwünscht.
    Trotzdem finden 80 % der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 % sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 % diese Forderung. 70% aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll. Besonders populär ist die Idee eines eigenen Expertinnen- und Expertenrats im Gesundheitswesen (87 %) und in der öffentlichen Verwaltung (83 %).

  • KI am Arbeitsplatz.
    Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70 % der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 %, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

"Unsere Analyse gibt einen erstaunlich klaren Einblick, wie und wohin sich die KI-Regulierung nach Ansicht der befragten Expertinnen und Experten entwickeln soll. Zwar unterstellen die Teilnehmenden den Verbraucherinnen und Verbrauchern - ob nun berechtigt oder nicht - einen großen Vertrauensvorschuss gegenüber KI. Trotzdem sehen sie die Notwendigkeit, strenge Sicherheitsregeln umzusetzen und die Einhaltung ethischer Standards zu kontrollieren", erklärt Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso. "Das ist auch dringend notwendig. Um der Technologie zu vertrauen, müssen die Menschen genau wissen und verstehen, was KI ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben. Unternehmen, die diese Technologie einsetzen, sollten größten Wert darauflegen, dass die eingesetzte KI transparent und vertrauenswürdig arbeitet."


Der Autor:

Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso: "Um KI zu vertrauen, müssen die Menschen genau wissen und verstehen, was die Technologie ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben."

Bildquelle: (C) adesso

Web: www.adesso.de

Diese Artikel könnten Sie auch interessieren

Smarter arbeiten, nicht härter! Wie digitale Tools Ihre HR-Arbeit vereinfachen und beschleunigen

WISSENplus
Analoge Personalprozesse kosten Zeit und binden wertvolle Kapazitäten, die Personalabteilungen heutzutage nur selten haben. Angesichts des anhaltenden Fachkräftemangels stehen sie vor der Herausforderung, effiziente Wege zu finden, um ihre Aufgaben zu bewältigen. Gleichzeitig spielt die HR-Abteilung eine entscheidende Rolle als wichtige Instanz in Betrieben. Sie ist für die Verwaltung und Gestaltu...

Weiterlesen

So gelingt Blended Learning!

WISSENplus
Die meisten Arbeitsprozesse laufen inzwischen in den Betrieben computerge- oder -unterstützt ab. Zudem sind die meisten Mitarbeitenden Digital Natives. Unter anderem deshalb nutzen immer mehr Unternehmen die Digitaltechnik auch für ihre Personalentwicklung. Sie greifen auf Aus- und Weiterbildungskonzepte zurück, die das die das Lernen in Präsenzveranstaltungen mit einem computergestützten Lernen ...

Weiterlesen

KI-basiertes Lernen: Behavioral Intelligence bereitet Mitarbeiter auf künftige Herausforderungen vor

WISSENplus
Wir leben in einer Welt, in der Wandel die einzige Konstante ist. Um mit dem Tempo des technologischen Fortschritts mitzuhalten und resilienter gegen Krisen zu werden, investieren Unternehmen auf der ganzen Welt massiv in das Upskilling ihrer Belegschaft. Doch Know-how allein reicht nicht aus. Um dauerhaft krisenfest zu werden, brauchen Unternehmen Mitarbeiter, die sich schnell an neue Gegebenheiten a...

Weiterlesen

Checkliste | Internes (Management-)Wissen schützen: Virtuelle Datenräume für eine sichere und effiziente Kommunikation in Gremien, Vorständen & Co

WISSENplus
Egal ob Hauptversammlung, Vorstandstreffen oder Aufsichtsratssitzung: Die Digitalisierung macht auch vor der Gremienarbeit nicht Halt. Spätestens seit Beginn der Corona-Pandemie verlegen selbst Management-Boards ihre Konferenzen in den virtuellen Raum. Doch gerade die Informationen, mit denen die oberste Führungsriege im Unternehmen hantiert, sind häufig streng vertraulich. Dass gängige Kommunika...

Weiterlesen

Die wichtigsten KPIs für ein ERP-System

Die Einführung einer neuen ERP-Software stellt eine große Herausforderung dar und erfordert eine sorgfältige Planung. Ist die Entscheidung erst einmal gefallen, sind die Erwartungen an die Funktionalität des Systems meist sehr hoch. Es wird erwartet, dass sich die täglichen Arbeitsabläufe und Leistungskennzahlen deutlich verbessern. Die Bewertung der Leistungsfähigkeit und des Nutzens des eing...

Weiterlesen

Agile Projekte: Wie aussagekräftig sind Controlling-Charts?

WISSENplus
Agilität hat deutlich an Popularität zugenommen und viele Unternehmen entdecken Vorgehensweisen wie Scrum für sich. Ein agiles Projektcontrolling kann dabei für ein Mehr an Sicherheit sorgen. Je früher Daten erhoben und genutzt werden, desto umfangreicher sind die Vorteile. Jedoch bieten Charts erhebliche Spielräume für Fehlinterpretationen. Deshalb ist es unerlässlich, die Sachverhalte genau zu hi...

Weiterlesen

KI-Einsatz: Die größten Hürden – und wie Sie sie meistern!

WISSENplus
Von der Vision bis zur Wirklichkeit ist es aller Erfahrung nach ein weiter Weg. So auch beim Einsatz von Künstlicher Intelligenz (KI): Alle sprechen davon, aber trotzdem sind konkrete, praktische Einsatzszenarien noch immer rar gesät. Dies belegt unter anderem eine aktuelle Studie des Bitkom zum Einsatz von KI in deutschen Unternehmen.[1] Die große Mehrheit der über 600 befragten Unternehmen sieht Kün...

Weiterlesen