2024/11 | Fachbeitrag | Künstliche Intelligenz / Robotic

7 Best Practices gegen GenAI-Wildwuchs im Unternehmen

Generative KI nimmt Mitarbeitern viele zeitraubende Tätigkeiten ab und macht sie effizienter. Kein Wunder, dass sie die praktischen Helfer im Arbeitsalltag nutzen wollen und oft loslegen, ohne auf offiziell vom Unternehmen eingeführte Tools zu warten. Dadurch entstehen allerdings erhebliche Risiken: Es drohen nicht nur Datenschutzverletzungen und der Abfluss sensibler Firmendaten, sondern auch unfaire oder falsche Entscheidungen, wenn Mitarbeiter den KI-Ergebnissen zu sehr vertrauen und Bias oder Fehler übersehen. Hinzu kommen Haftungsfragen, sollte es zu Diskriminierung, Fehlentscheidungen oder Urheberrechtsverletzungen durch den KI-Einsatz kommen. Unternehmen benötigen daher dringend einen Plan, wie sie mit GenAI umgehen und neue Tools sicher einführen können.

Bildquelle: (C) Print On Demand / Pixabay

Nach Erfahrung des Sicherheitsspezialisten Forcepoint hat sich das folgende Vorgehen bewährt:

1. Standardprozess aufsetzen

Unternehmen benötigen einen immer gleich ablaufenden Prozess für die Beantragung, Bewertung und Genehmigung neuer KI-Tools sowie deren anschließende Einführung und Absicherung. Der standardisierte Prozess sorgt dafür, dass die Tools alle internen Anforderungen - etwa hinsichtlich Nutzen, Kosten und Datenschutz - erfüllen und stets nach den gleichen Maßstäben ausgewählt werden. Zudem verhindert er, dass Tools auf Umwegen ins Unternehmen gelangen und ohne Schulung der Mitarbeiter oder ausreichende Sicherheitsmaßnahmen eingesetzt werden.

2. KI-Council einrichten

Da KI viele Unternehmensbereiche betrifft, nicht nur die jeweilige Fachabteilung, die ein neues Tool einführen möchte, ist die Gründung eines KI-Councils sinnvoll. Dabei handelt es sich um ein Gremium, das Experten unter anderem aus der IT, dem Security-Team und der Rechtsabteilung vereint und eng mit den Fachabteilungen zusammenarbeitet. Es bewertet nicht nur alle Anwendungsfälle und KI-Tools individuell, sondern stellt auch sicher, dass keine überflüssigen Tools eingeführt werden. Zudem steht es den Fachabteilungen beratend zur Seite und kommuniziert die Vorteile und Erfolge von GenAI-Projekten im Unternehmen, um deren Akzeptanz zu steigern.

3. Prioritäten setzen

Die Einführung neuer Technologien und Anwendungen geht immer mit Herausforderungen und Veränderungen einher. Daher sollten Unternehmen, gerade in der Anfangsphase ihrer GenAI-Reise, nicht zu viele KI-Tools parallel einführen, um sich nicht in mehreren Projekten zu verlieren. Besser ist es, Prioritäten zu setzen und sich zunächst auf ein, zwei Anwendungsfälle und Tools zu konzentrieren, die einen sehr großen Nutzen bringen oder für mehrere Abteilungen attraktiv sind. Die bei der Einführung gesammelten Erfahrungen helfen dann, weitere Tools schneller und reibungsloser im Unternehmen zu etablieren.

4. Mitarbeiter schulen

Nach der Auswahl und Einführung neuer KI-Tools sollten Unternehmen ihre Mitarbeiter nicht mit ihnen allein lassen. Die künftigen Anwender benötigen Richtlinien zum Umgang mit den Tools - sie müssen wissen, was erlaubt ist und was nicht und welche Risiken bestehen. Notwendig sind Schulungen, in denen über die Richtlinien aufgeklärt wird und in denen Mitarbeiter die Arbeit mit den Tools ausprobieren können. Und in denen sie lernen, der KI nicht blind zu vertrauen, sondern Ergebnisse zu hinterfragen und zu überprüfen.

5. Nicht alles der KI überlassen

Automatisieren Unternehmen ihre Abläufe mithilfe von KI, sollten sie genau prüfen, welche Entscheidungen sie den Algorithmen überlassen und wo menschliche Kontrollen oder Entscheidungen notwendig sind. Hier geht es einerseits darum, diskriminierende und falsche Entscheidungen zu verhindern, andererseits darum, dem EU AI Act gerecht zu werden. Dieser sieht für KI-Systeme mit hohem Risiko, zu denen etwa solche in kritischen Infrastrukturen, im Personalbereich oder für Kreditprüfungen zählen, eine menschliche Aufsicht vor.

6. Zugang zu KI-Tools reglementieren

Damit Mitarbeiter tatsächlich nur geprüfte und genehmigte KI-Tools einsetzen, sollten Unternehmen den Zugang mit Sicherheitslösungen schützen, die Tools wie Cloud Access Security Broker (CASB), Zero Trust Network Access (ZTNA) und Secure Web Gateway (SWG) vereinen. Gute Lösungen erlauben es, den Zugriff auf Basis von Benutzern, Gruppen und anderen Kriterien zu reglementieren und die Richtlinien auch auf nicht verwalteten Geräten durchzusetzen. Beim Aufruf unautorisierter KI-Tools ist es möglich, Mitarbeiter zu einer bereits eingeführten Alternative weiterzuleiten.

7. Datenabflüsse verhindern

Richtlinien und Schulungen allein reichen nicht aus, um Datenschutzverletzungen oder Datenabflüsse wirksam zu verhindern. Schließlich kann es immer vorkommen, dass Mitarbeiter absichtlich oder versehentlich personenbezogene oder vertrauliche Daten bei KI-Tools eingeben oder hochladen. Lösungen für Datensicherheit verhindern das. Idealerweise erkennen und klassifizieren sie sensible Daten über alle Speicherorte des Unternehmens hinweg und unterbinden die Übertragung. Bei weniger kritischen Daten reicht oft schon ein Warnhinweis an den Mitarbeiter, bei hochkritischen Daten sollte der Transfer direkt blockiert werden.

Fazit

"GenAI ist ein Produktivitätsbooster, auf den Unternehmen nicht verzichten sollten. Allerdings brauchen sie geeignete Prozesse und Lösungen, um die am besten geeigneten Tools auszuwählen, einzuführen und unautorisierte Nutzung sowie Datenabflüsse zu verhindern", betont Fabian Glöser, Team Leader Sales Engineering bei Forcepoint in München. "Dabei sollten sie auch darauf achten, nicht zu viele Einzellösungen einzuführen. Besser sind Plattformen, in denen alle Lösungen optimal zusammenspielen und die einen zentralen Richtliniensatz nutzen, um Sicherheitsrichtlinien konsistent nicht nur auf GenAI, sondern auch E-Mail, Cloud-Services, das Web und alle anderen Kanäle anzuwenden, über die Daten abfließen können."



Der Autor:

Fabian Glöser, Team Leader Sales Engineering bei Forcepoint in München.

Bildquelle: (C) Forcepoint

Web: www.forcepoint.com/de

Diese Artikel könnten Sie auch interessieren

Einführung von M365 bei Demeter e.V.

WISSENplus
Die Reise von Demeter zur Einführung eines Intranets begann 2019, vor der Corona-Pandemie. Ursprünglich wollte der Verband nur den Abteilungswechsel einer Kollegin kommunikativ begleiten und eventuellen Wissensverlusten vorbeugen. Doch aus dieser individuellen Herausforderung wurde im Handumdrehen ein unternehmensweites Projekt. ...

Weiterlesen

So wirkt Generative KI in der Fertigung!

Neben den vielen Anwendungsbereichen von GenAI untersuchte die Studie "Von der Fertigungshalle ins KI-Zeitalter: Haben Sie einen Masterplan oder Nachholbedarf?" auch die Herausforderungen, denen sich das produzierende Gewerbe gegenübersieht. Im Fokus standen in erster Linie Hürden im Bereich Personal, Infrastruktur und ethischer Rahmenbedingungen. ...

Weiterlesen

Insider Threats: Willkommen im Zeitalter der kriminellen KI!

WISSENplus
Künstliche Intelligenz (KI), ursprünglich als Treiber von Innovation und Effizienz gefeiert, wird zunehmend zur Waffe in den Händen von Cyberkriminellen. In einer digital vernetzten Welt nutzen Täter KI, um ihre Methoden zu perfektionieren, Angriffe zu automatisieren und neue Schwachstellen auszunutzen. Die Folge: Eine neue Dimension der Cyberkriminalität, die Privatpersonen, Unternehmen und Regie...

Weiterlesen

Wissen vernetzen, Räume gestalten: Digitale Bauplanung mit BIM als Wettbewerbsvorteil für Unternehmen

WISSENplus
Die Anforderungen an moderne Arbeitsumgebungen wandeln sich rasant: Flexibilität, Kosteneffizienz und Nachhaltigkeit sind für Unternehmen essenziell, um langfristig wettbewerbsfähig zu bleiben. Gleichzeitig wünschen sich Mitarbeitende inspirierende, funktionale und gesundheitsfördernde Arbeitsräume. Doch wie lassen sich diese Faktoren in Bauprojekten am besten vereinen? Die Antwort liegt unter an...

Weiterlesen

KI zwischen Innovation und Regulierung

WISSENplus
In der Diskussion um die Nutzung von generativer KI wird immer wieder ein Zielkonflikt zwischen Innovation und Regulierung thematisiert, die sich angeblich gegenseitig behindern. Aber ist das tatsächlich so? Auf den ersten Blick mag das stimmen, aber letztlich ist die rechtskonforme Entwicklung von KI vor allem eine Frage des richtigen Managements. Compliance-Bedenken dürfen daher keine Ausrede dafÃ...

Weiterlesen

Informationssicherheit in der Luftfahrt

WISSENplus
Eine renommierte, deutsche Fluglinie stand vor einer spannenden Aufgabe: Es galt, ein Informationssicherheits-Managementsystem (ISMS) einzuführen, das sowohl den Vorgaben des übergeordneten Konzerns als auch den gesetzlichen Anforderungen der EU für die Luftfahrtbranche entspricht. Ziel war es dabei insbesondere, das Risikomanagement der Informationssicherheit mit dem der Flugsicherheit zu verknüpf...

Weiterlesen

Agent oder Agentic: KI-Agenten etablieren sich

Der Hype rund um Agentic AI ist riesig – und berechtigt. Denn wir haben es mit nicht weniger als einer neuen Qualität Künstlicher Intelligenz zu tun. Mit Agentic AI verliert KI zunehmend ihren Werkzeugcharakter und entwickelt sich vielmehr zu einem eigenständig agierenden System. Wie weit Agentic AI bereits praktisch gediehen ist, zeigen ihre verschiedenen Ausprägungen und Varianten. Eines der wichti...

Weiterlesen