2022/9 | Fachbeitrag | Automatisierung

Trustworthy AI: Unternehmen wünschen sich beim Thema KI mehr Kontrolle

Wenn Unternehmen über den Einsatz Künstlicher Intelligenz nachdenken, müssen sie sich mit grundlegenden Fragen beschäftigen: Wie können die Verantwortlichen Entscheidungen, die eine KI-Anwendung trifft, transparent gestalten? Wie beherrschen sie mögliche Risiken des KI-Einsatzes? Die Antworten darauf sind wesentlich für die Akzeptanz der Technologie durch Verbraucherinnen und Verbraucher. Der IT-Dienstleister adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema "Trustworthy AI" befragt. Demnach glaubt die Mehrheit, dass KI bei Kundinnen und Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Teilnehmenden der Studie mehr Kontrollmechanismen.

Bildquelle: (C) Gerd Altmann / Pixabay

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Tausende von Anwendungsfällen quer durch alle Branchen zeigen bereits, welches geballte Potenzial in KI steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzerinnen und Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren.

adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt: Wie wichtig ist eine vertrauenswürdige KI? Wie schätzen sie die Haltung der Nutzer gegenüber KI-Anwendungen ein? Wie sehen sie den Regulierungsbedarf?

Die wichtigsten Erkenntnisse der Studie

  • Großes Vertrauen in KI.
    Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 %, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61 % sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.

  • Regulation erwünscht.
    Trotzdem finden 80 % der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 % sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 % diese Forderung. 70% aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll. Besonders populär ist die Idee eines eigenen Expertinnen- und Expertenrats im Gesundheitswesen (87 %) und in der öffentlichen Verwaltung (83 %).

  • KI am Arbeitsplatz.
    Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70 % der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 %, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

"Unsere Analyse gibt einen erstaunlich klaren Einblick, wie und wohin sich die KI-Regulierung nach Ansicht der befragten Expertinnen und Experten entwickeln soll. Zwar unterstellen die Teilnehmenden den Verbraucherinnen und Verbrauchern - ob nun berechtigt oder nicht - einen großen Vertrauensvorschuss gegenüber KI. Trotzdem sehen sie die Notwendigkeit, strenge Sicherheitsregeln umzusetzen und die Einhaltung ethischer Standards zu kontrollieren", erklärt Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso. "Das ist auch dringend notwendig. Um der Technologie zu vertrauen, müssen die Menschen genau wissen und verstehen, was KI ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben. Unternehmen, die diese Technologie einsetzen, sollten größten Wert darauflegen, dass die eingesetzte KI transparent und vertrauenswürdig arbeitet."


Der Autor:

Benedikt Bonnmann, Leiter des Geschäftsbereichs Data & Analytics bei adesso: "Um KI zu vertrauen, müssen die Menschen genau wissen und verstehen, was die Technologie ist, was sie tut und welche Auswirkungen die gefällten Entscheidungen haben."

Bildquelle: (C) adesso

Web: www.adesso.de

Diese Artikel könnten Sie auch interessieren

Automatisierung als Gamechanger für die TK-Branche

WISSENplus
Corona hat Deutschland schwer genug getroffen. Nicht auszudenken, wie es uns ohne schnelles Internet via LTE und 5G ergangen wäre: Das Web war nicht nur Kontakt zur Außenwelt und Alleinunterhalter für viele Menschen - ohne die Möglichkeit, im Homeoffice zu arbeiten, wäre vermutlich entweder die Wirtschaft oder unser Gesundheitssystem kollabiert. Die Pandemie ist gegangen, doch die Nachfrage nach ...

Weiterlesen

Wie die moderne Arbeitswelt Unternehmen umkrempelt

Hybrid Work, New Work, New Normal - es kursieren viele Begriffe für moderne Arbeitsmodelle. Fakt ist: Die hybride Arbeitswelt ist in unserer Gesellschaft angekommen. Selbst erklärte Homeoffice-Gegner haben ihre Meinung geändert, um drohende Kündigungen ihrer Mitarbeitenden zu vermeiden. Eine neue Arbeitswelt entsteht aber nicht dadurch, dass man den Beschäftigten erlaubt, von zu Hause aus zu arbeiten. ...

Weiterlesen

Wissenstransfer – jetzt!

Was haben der "Friends"-Star Courteney Cox, das Model Elle Macpherson, die Schauspieler Sandra Bullock, Nicolas Cage, Russel Crow und Keanu Reaves sowie Sänger Lenny Kravitz und die frühere First Lady Michelle Obama gemeinsam? Sie sind allesamt prominente Vertreter der Generation der Babyboomer. Und noch mehr: Sie sind alle im Jahr 1964 geboren - ein Jahr, das hierzulande geradezu als historisch gilt. Es ...

Weiterlesen

Generative KI: Von der gehypten Technologie zum Alltagstool

Kommt Generative AI 2024 in der Praxis an? Diese Frage hat der IT-Dienstleister adesso aktuell 400 Führungskräften der deutschen Wirtschaft gestellt. Das Ergebnis ist eindeutig: Unternehmen bereiten sich jetzt auf eine Welt vor, in der die Nutzung Künstlicher Intelligenz (KI) so alltäglich sein wird wie heute E-Mails, Instant Messaging oder Collaboration-Tools....

Weiterlesen

Ohne KI bleibt Automatisierung Stückwerk

Künstliche Intelligenz und Automatisierung werden oft als Schreckgespenst wahrgenommen. Nüchtern betrachtet sind sie jedoch die modernsten Werkzeuge und Methoden zur Sicherung und Steigerung der Wettbewerbsfähigkeit von Unternehmen. Doch welche Voraussetzungen müssen dafür geschaffen werden und wo liegen die konkreten Vorteile?...

Weiterlesen

Was kann generative KI in Bürgerämtern & Co. leisten?

WISSENplus
7.000 unbesetzte Stellen, bis zu acht Wochen Wartezeit, null Erreichbarkeit: Wer in Berlin einen Reisepass beantragen möchte, braucht vor allem eines - Geduld. Echtzeit-Lösungen und Self-Service? Fehlanzeige. Höchste Zeit, die Bürgerorientierung in der Verwaltung neu zu denken. Künstliche Intelligenz (KI) wird bereits als Heilsbringer gelobt. Der Berliner Senator Stefan Evers spricht sogar von ko...

Weiterlesen

Cloud-Projekte: Nach der Migration ist vor der Migration

Eine Cloud-Migration ist letztlich nie abgeschlossen. Unternehmen sollten deshalb nicht in Cloud-Projekten denken, sondern eine Lifecycle-Denkweise einnehmen. Nur so kann der Enttäuschung von nicht endenden Cloud-Projekten vorgebeugt werden. Damit kommen auf mittlere Sicht auch die Vorteile von Cloud-Plattformen und -Services wie hohe Innovationskraft, Effizienz, Agilität und Skalierbarkeit vollstä...

Weiterlesen

Posteingang: Schneller arbeiten mit Machine Learning

WISSENplus
Viele Unternehmen müssen aufs Tempo drücken, wenn es um die Bearbeitung ihrer Eingangspost geht. Denn Kunden und Geschäftspartner erwarten in der Regel nicht nur eine schnelle Reaktion auf ihre Anliegen, sondern möchten bei Nachfragen auch zuverlässig über den aktuellen Stand informiert werden. Um bei der Posteingangsverarbeitung Fahrt aufzunehmen, sind digitale, automatisierte Abläufe eine wes...

Weiterlesen