2024/5 | Fachbeitrag | Künstliche Intelligenz / Robotic

Was bedeutet das neue EU KI-Gesetz für die Zukunft von Chatbots?

Mit der Zunahme von KI-gesteuerten Chat-Dienste werden automatisierte Kundengespräche immer mehr zu einem Wettbewerbsvorteil. Aufgrund ihrer leistungsstarken Fähigkeiten und ihrer weiten Verbreitung ist die generative KI mittlerweile auch in das Blickfeld der Politik gerückt. Die Gesetzgeber der EU haben deshalb neue Vorschriften in das KI-Gesetz aufgenommen, die sich direkt mit dem Aufkommen von hochentwickelten Chatbots und LLMs befassen sollen.

- Ein Kommentar von Gabriel Frasconi, VP & General Manager South Europe & DACH bei Freshworks -


Bildquelle: (C) Gerd Altmann / Pixabay

Das europäische KI-Gesetz ist die erste umfassende Verordnung über Künstliche Intelligenz (KI), die durch den Gesetzgeber erlassen wurde. Das Gesetz legt klare Anforderungen und Verpflichtungen für KI-Entwickler und -Anwender bezüglich bestimmter Anwendungen von KI fest und entlastet gleichzeitig die administrativen und finanziellen Belastungen für kleine und mittlere Unternehmen.

Während die meisten KI-Systeme nur eine geringe oder gar keine Gefahr darstellen und zur Lösung vieler gesellschaftlicher Herausforderungen beitragen können, bergen bestimmte KI-Systeme Risiken, die angegangen werden müssen, um unerwünschte Ergebnisse zu vermeiden. Das Gesetz teilt KI-Anwendungen in verschiedene Kategorien ein und formuliert Verpflichtungen für KI auf der Basis ihrer potenziellen Risiken und Auswirkungen:

  • KI-Systeme mit inakzeptablem Risiko gelten als Gefahr für die Bevölkerung und werden verboten. Darunter zählen Anwendungen, die durch Gesichtserkennung Menschen in der Öffentlichkeit identifizieren können.
  • KI-Systeme mit hohem Risiko wie Anwendungen in Bildung und Gesundheitswesen, unterliegen besonderen Verpflichtungen und werden vor und nach ihrem Markteintritt gründlich kontrolliert.
  • KI-Systeme mit geringem Risiko müssen sorgfältig geprüft und schwerwiegende Vorfälle an die Europäische Kommission gemeldet werden. Darunter fallen generative KI und alle anderen Anwendungen.

Auswirkungen auf Chatbots

LLM-Chatbots sind fortschrittliche KI-Systeme mit der Fähigkeit, den Kontext zu erfassen, die Bedeutung abzuleiten und kohärente und kontextbezogene Antworten zu generieren. Solche Dienste, die Gespräche mit menschlichen Nutzern mit Hilfe von KI simulieren können, werden im EU-KI-Gesetz besonders hervorgehoben.

Eines der zentralen Punkte des KI-Gesetzes ist die Schaffung von Transparenz im Umgang mit generativen KI-Systemen. Der KI-Aspekt einer Anwendung muss von Anfang an klar dargelegt werden, damit die Nutzer eine informierte Entscheidung über ihr Engagement treffen können. Mit KI generierte oder veränderte Inhalte - Bilder, Audio- oder Videodateien (z. B. Deepfakes) - müssen klar als KI-generiert gekennzeichnet werden, damit die Nutzer erkennen, wenn sie auf solche Inhalte stoßen.

Ein weiteres wichtiges Kriterium ist die menschliche Verantwortung. Unternehmen müssen sicherstellen, dass die über Chat-Dienste gesammelten personenbezogenen Daten sicher und ethisch behandelt werden. Anbieter und Entwickler sind aufgefordert, schwerwiegende Vorfälle und Fehlfunktionen zu melden, während Nutzer die Möglichkeit haben müssen, Interaktionen mit einem Chatbot abzubrechen. Mit diesem Schutz soll die Kontrolle über die Interaktion zwischen den Nutzern gewährleistet werden.

Das europäische KI-Gesetz ist eine Initiative, um das Vertrauen der Nutzer in diese Technologie zu stärken und gleichzeitig die potenziellen Risiken zu begrenzen. Die Vorschrift schafft klare Regeln und Standards, damit die Nutzung von generativer KI und Chatbots transparent und ethisch angemessen ist.



Der Autor:

Gabriel Frasconi ist VP & General Manager South Europe & DACH bei Freshworks. Das Unternehmen entwickelt KI-unterstützte Business-Software, die mühelos zu verwenden ist.Zu den mehr als 66.000 Kunden zählen unter anderem American Express, Blue Nile, Bridgestone, Databricks, Fila und OfficeMax.

>> Mehr Infos: www.freshworks.com

Diese Artikel könnten Sie auch interessieren

5 strategische Schritte für den sicheren KI-Einsatz

Der Hype um ChatGPT veranlasst viele Unternehmen, KI-Anwendungen zu implementieren, um möglichst schnell das umfassende Potenzial von KI zu nutzen. Sie zielen zum Beispiel auf eine Effizienzsteigerung, eine Entlastung der Mitarbeiterinnen und Mitarbeiter oder eine Verbesserung des Kundenservices ab. Weitere Anwendungsszenarien betreffen neuartige Datenanalysen oder ein optimiertes Risikomanagement. Projek...

Weiterlesen

KI in der Praxis: Welche Rolle spielt der „Faktor Mensch“?

WISSENplus
Generative KI ist im Job-Alltag angekommen: Umfragen zufolge verwendet beinahe jeder Zweite beispielsweise ChatGPT bereits im beruflichen Kontext. Doch viele Unternehmen sind noch nicht durchgreifend auf das KI-Zeitalter vorbereitet. Es braucht es zum einen Leitlinien für die Anwendung, außerdem eine hohe Lernbereitschaft der Nutzer. Gefragt ist daher eine Kultur, die KI-Implementierung und -Einsatz über...

Weiterlesen

Mehr Produktivität, weniger Arbeitszeit: KI-Automatisierung bei Trivago, Jägermeister & Co.

WISSENplus
Das klassische Bild der Mitarbeitenden, die ihren Dienst von Montag bis Freitag zwischen 9 und 17 Uhr erledigen, bröckelt. Die neue Arbeitswelt ködert auf der einen Seite mit agilen, asynchronen Arbeitszeitmodellen, ist auf der Schattenseite allerdings geprägt von enormer Volatilität, Leistungsdruck und einem akuten Fachkräftemangel. Kein Wunder also, dass sich Erschöpfung breitmacht. Laut einer...

Weiterlesen

Ungepflegte Adressdaten - der blinde Fleck in UCC-Konzepten

In vielen Unternehmen und Branchen ist mobiles Arbeiten nicht mehr wegzudenken. Gerade bei Frontline Workern ­- sei es im Außendienst, an Kraftwerken und Anlagen, im Einzelhandel oder auf der Baustelle - gehören mobile Endgeräte daher mittlerweile zur Standardausstattung. Dass hier Konzepte wie Unified Communication and Collaboration (UCC) erforderlich sind, um eine reibungslose standortunabhängi...

Weiterlesen

Was KI leisten kann – und wie dieser Change gelingt

WISSENplus
Die künstliche Intelligenz wird künftig der stärkste Changetreiber in unserer Gesellschaft sein. Davon ist Innovations- und KI-Experte Dr. Jens-Uwe Meyer überzeugt. Aber vor allem viele Mittelständler haben die Bedeutung von KI noch nicht vollumfänglich erkannt - bzw. zögern noch, auf den KI-Zug aufzuspringen. Warum Abwarten keine Option ist und wie man sich dem Thema KI am besten nähert, erkl...

Weiterlesen

Digitalisierung im Mittelstand - der Status quo

Im Alltag haben wir es überwiegend mit Bildschirmen und Maschinen zu tun. Der persönliche Kontakt oder die Interaktion mit Menschen sinkt Schritt für Schritt. Sei es beim Self-Checkout an der Kasse, bei der Gepäckaufgabe am Flughafen oder der Bezahlung des Taxis. Doch was für viele im privaten Umfeld selbstverständlich geworden ist, gilt nicht zwingend im Business-Kontext. Vor allem nicht bei kleinen...

Weiterlesen

Chatten mit dem Unternehmenswissen

WISSENplus
In den vergangenen Jahren wurde bereits viel über den Einsatz von künstlicher Intelligenz (KI) für die Verbesserung einer organisationsinternen Suche berichtet. Die Anwendungsfälle solcher Lösungen reichen von der Website-Suche über die Unterstützung des Kundenservice bis hin zum Wissensmanagement. Diese Anwendungen basieren meist auf der Auswertung mehrerer Informationsquellen, müssen Zugrif...

Weiterlesen

KI – die Zukunft des Unternehmenswissens?

WISSENplus
Künstliche Intelligenz sorgt für Bewegung und gleichzeitig für Unruhe. Letztlich hinterlässt das Hantieren mit Daten auch Fragen, manchmal Befürchtungen und gelegentlich Vorbehalte. Die KI hat währenddessen alle Bereiche des unternehmerischen Handelns und betriebswirtschaftlichen Denkens befallen. Das Unternehmenswissen mit KI in Zusammenhang zu bringen, scheint dagegen als Thema noch etwas sper...

Weiterlesen