2024/11 | Fachbeitrag | Künstliche Intelligenz / Robotic

7 Best Practices gegen GenAI-Wildwuchs im Unternehmen

Generative KI nimmt Mitarbeitern viele zeitraubende Tätigkeiten ab und macht sie effizienter. Kein Wunder, dass sie die praktischen Helfer im Arbeitsalltag nutzen wollen und oft loslegen, ohne auf offiziell vom Unternehmen eingeführte Tools zu warten. Dadurch entstehen allerdings erhebliche Risiken: Es drohen nicht nur Datenschutzverletzungen und der Abfluss sensibler Firmendaten, sondern auch unfaire oder falsche Entscheidungen, wenn Mitarbeiter den KI-Ergebnissen zu sehr vertrauen und Bias oder Fehler übersehen. Hinzu kommen Haftungsfragen, sollte es zu Diskriminierung, Fehlentscheidungen oder Urheberrechtsverletzungen durch den KI-Einsatz kommen. Unternehmen benötigen daher dringend einen Plan, wie sie mit GenAI umgehen und neue Tools sicher einführen können.

Bildquelle: (C) Print On Demand / Pixabay

Nach Erfahrung des Sicherheitsspezialisten Forcepoint hat sich das folgende Vorgehen bewährt:

1. Standardprozess aufsetzen

Unternehmen benötigen einen immer gleich ablaufenden Prozess für die Beantragung, Bewertung und Genehmigung neuer KI-Tools sowie deren anschließende Einführung und Absicherung. Der standardisierte Prozess sorgt dafür, dass die Tools alle internen Anforderungen - etwa hinsichtlich Nutzen, Kosten und Datenschutz - erfüllen und stets nach den gleichen Maßstäben ausgewählt werden. Zudem verhindert er, dass Tools auf Umwegen ins Unternehmen gelangen und ohne Schulung der Mitarbeiter oder ausreichende Sicherheitsmaßnahmen eingesetzt werden.

2. KI-Council einrichten

Da KI viele Unternehmensbereiche betrifft, nicht nur die jeweilige Fachabteilung, die ein neues Tool einführen möchte, ist die Gründung eines KI-Councils sinnvoll. Dabei handelt es sich um ein Gremium, das Experten unter anderem aus der IT, dem Security-Team und der Rechtsabteilung vereint und eng mit den Fachabteilungen zusammenarbeitet. Es bewertet nicht nur alle Anwendungsfälle und KI-Tools individuell, sondern stellt auch sicher, dass keine überflüssigen Tools eingeführt werden. Zudem steht es den Fachabteilungen beratend zur Seite und kommuniziert die Vorteile und Erfolge von GenAI-Projekten im Unternehmen, um deren Akzeptanz zu steigern.

3. Prioritäten setzen

Die Einführung neuer Technologien und Anwendungen geht immer mit Herausforderungen und Veränderungen einher. Daher sollten Unternehmen, gerade in der Anfangsphase ihrer GenAI-Reise, nicht zu viele KI-Tools parallel einführen, um sich nicht in mehreren Projekten zu verlieren. Besser ist es, Prioritäten zu setzen und sich zunächst auf ein, zwei Anwendungsfälle und Tools zu konzentrieren, die einen sehr großen Nutzen bringen oder für mehrere Abteilungen attraktiv sind. Die bei der Einführung gesammelten Erfahrungen helfen dann, weitere Tools schneller und reibungsloser im Unternehmen zu etablieren.

4. Mitarbeiter schulen

Nach der Auswahl und Einführung neuer KI-Tools sollten Unternehmen ihre Mitarbeiter nicht mit ihnen allein lassen. Die künftigen Anwender benötigen Richtlinien zum Umgang mit den Tools - sie müssen wissen, was erlaubt ist und was nicht und welche Risiken bestehen. Notwendig sind Schulungen, in denen über die Richtlinien aufgeklärt wird und in denen Mitarbeiter die Arbeit mit den Tools ausprobieren können. Und in denen sie lernen, der KI nicht blind zu vertrauen, sondern Ergebnisse zu hinterfragen und zu überprüfen.

5. Nicht alles der KI überlassen

Automatisieren Unternehmen ihre Abläufe mithilfe von KI, sollten sie genau prüfen, welche Entscheidungen sie den Algorithmen überlassen und wo menschliche Kontrollen oder Entscheidungen notwendig sind. Hier geht es einerseits darum, diskriminierende und falsche Entscheidungen zu verhindern, andererseits darum, dem EU AI Act gerecht zu werden. Dieser sieht für KI-Systeme mit hohem Risiko, zu denen etwa solche in kritischen Infrastrukturen, im Personalbereich oder für Kreditprüfungen zählen, eine menschliche Aufsicht vor.

6. Zugang zu KI-Tools reglementieren

Damit Mitarbeiter tatsächlich nur geprüfte und genehmigte KI-Tools einsetzen, sollten Unternehmen den Zugang mit Sicherheitslösungen schützen, die Tools wie Cloud Access Security Broker (CASB), Zero Trust Network Access (ZTNA) und Secure Web Gateway (SWG) vereinen. Gute Lösungen erlauben es, den Zugriff auf Basis von Benutzern, Gruppen und anderen Kriterien zu reglementieren und die Richtlinien auch auf nicht verwalteten Geräten durchzusetzen. Beim Aufruf unautorisierter KI-Tools ist es möglich, Mitarbeiter zu einer bereits eingeführten Alternative weiterzuleiten.

7. Datenabflüsse verhindern

Richtlinien und Schulungen allein reichen nicht aus, um Datenschutzverletzungen oder Datenabflüsse wirksam zu verhindern. Schließlich kann es immer vorkommen, dass Mitarbeiter absichtlich oder versehentlich personenbezogene oder vertrauliche Daten bei KI-Tools eingeben oder hochladen. Lösungen für Datensicherheit verhindern das. Idealerweise erkennen und klassifizieren sie sensible Daten über alle Speicherorte des Unternehmens hinweg und unterbinden die Übertragung. Bei weniger kritischen Daten reicht oft schon ein Warnhinweis an den Mitarbeiter, bei hochkritischen Daten sollte der Transfer direkt blockiert werden.

Fazit

"GenAI ist ein Produktivitätsbooster, auf den Unternehmen nicht verzichten sollten. Allerdings brauchen sie geeignete Prozesse und Lösungen, um die am besten geeigneten Tools auszuwählen, einzuführen und unautorisierte Nutzung sowie Datenabflüsse zu verhindern", betont Fabian Glöser, Team Leader Sales Engineering bei Forcepoint in München. "Dabei sollten sie auch darauf achten, nicht zu viele Einzellösungen einzuführen. Besser sind Plattformen, in denen alle Lösungen optimal zusammenspielen und die einen zentralen Richtliniensatz nutzen, um Sicherheitsrichtlinien konsistent nicht nur auf GenAI, sondern auch E-Mail, Cloud-Services, das Web und alle anderen Kanäle anzuwenden, über die Daten abfließen können."



Der Autor:

Fabian Glöser, Team Leader Sales Engineering bei Forcepoint in München.

Bildquelle: (C) Forcepoint

Web: www.forcepoint.com/de

Diese Artikel könnten Sie auch interessieren

Digital Twins: Was sie leisten können – und welche Rolle KI dabei spielt

WISSENplus
Digitale Zwillinge ermöglichen die virtuelle Simulation von Systemen, Maschinen oder sogar realen Fabriken, ohne dass die Produktionsanlagen gestoppt werden müssen. Mit dem Einsatz digitaler Zwillinge können selbst große Systeme als Ganzes getestet werden. Für Unternehmen bedeuten sie mehr Sicherheit und Zuverlässigkeit: Denn durch die Anwendung eines digitalen Zwillings können Produktionsproze...

Weiterlesen

Herkules-Aufgabe Datenbankmanagement: 5 Aspekte, die Führungskräfte über Datenbanken wissen

Bis Mitte der 2010er-Jahre wählten die meisten Unternehmen in der Regel eine der vier großen relationalen Datenbankplattformen entsprechend ihren Bedürfnissen aus. So fiel die Entscheidung entweder auf Oracle, MySQL, SQL Server oder PostgreSQL. Dass dabei oft Kompromisse eingegangen werden mussten, versteht sich von selbst – und dass sehr viel Legacy aufgebaut wurde, die sich bis heute hartnäckig häl...

Weiterlesen

6 Fragen, die sich Unternehmen zum GenAI-Einsatz stellen sollten

Die meisten Unternehmen haben den Mehrwert von generativer KI inzwischen erkannt und wollen entsprechende Dienste einführen, um ihre Mitarbeiter zu entlasten und Abläufe effizienter zu gestalten. Oft nutzen die Mitarbeiter sogar schon einige Tools - was ebenso wie eine überhastete Einführung mit Risiken insbesondere für Datenschutz und Datensicherheit verbunden ist. Um diese Risiken zu vermeiden, ...

Weiterlesen

KI muss als Teaminitiative gesehen werden

Der Einsatz von künstlicher Intelligenz (KI) und Machine Learning (ML) in Unternehmen nimmt kontinuierlich zu. Er ist aber mit zahlreichen Herausforderungen verbunden, die von der Entwicklung über die Bereitstellung bis zur Verwaltung von KI- und ML-Modellen reichen. Folglich muss ein Unternehmen eine KI-Initiative immer als abteilungsübergreifende Teamaufgabe betrachten. Eine offene Hybrid-Cloud-Plattfo...

Weiterlesen

How-to-Anleitung: Chatbots im Personalbereich einsetzen

WISSENplus
KI treibt in einer zunehmenden Vielfalt von Unternehmensbereichen erstaunliche Qualitäts- und Effizienzsteigerungen voran. Gerade auch Chatbots erweisen sich dabei oft als eine immer stärker infrage kommende Option in der Optimierung und Automatisierung von Prozessen. Der Einsatz dieser digitalen Assistenten bietet auch im HR-Bereich zahlreiche Vorteile: Als "Ansprechpartner", die 24/7 die...

Weiterlesen

Wie kann der Einsatz von KI ganzheitlich gelingen?

WISSENplus
Unternehmen werden mit den verheißungsvollen Versprechen von neuen Technologien und KI-basierten Lösungen überhäuft. Damit diese Investitionen tatsächlich Früchte tragen, sind ein solides Fundament, die optimale Nutzung der Tools sowie die Automatisierung entscheidende Voraussetzungen, die viele Unternehmen auf ihrer Digitalisierungsreise nicht beachten. Damit verschenken sie das riesige Potenzi...

Weiterlesen