2021/11 | Fachbeitrag | Künstliche Intelligenz

Managed AI – damit KI-Services zuverlässig funktionieren

KI-basierte Applikationen bieten viele Vorteile. Sie entlasten von repetitiven Aufgaben, beschleunigen Prozesse und erhöhen deren Effizienz. Was dabei viele vergessen: KI-Projekte verlaufen phasenweise. Zunächst ist zu analysieren, ob sich vorhandene Daten, Systeme und Prozesse für die Umsetzung des favorisierten Use Case eignen. Dann gilt es, die Anforderungen an den Prototyp zu definieren, ein Konzept zu erstellen, den besten Lösungsansatz zu entwickeln und den Prototyp in ein Minimum Viable Product (MVP) zu überführen. Dank kontinuierlicher Funktions-, Last- und Integrationstests sind KI-Services in die Betriebsumgebung stabil integrierbar, und der beliebig skalierbare KI-Service lässt sich in Applikationen, Prozesse und Systeme einbinden. In der letzten Phase, dem Produktivbetrieb, scheitern viele KI-Projekte. Darum sind KI-Lösungen über ihren kompletten Lebenszyklus hinweg zu überwachen und bedarfsgerecht anzupassen. Das gelingt am besten mihilfe von Managed AI Services.

Bildquelle: (C) mohamed Hassan / Pixabay

1. Tipp: Stellen Sie eine professionelle Betreuung des KI-Services sicher.

Beantworten Sie zunächst eine grundlegende Frage: Wo wollen Sie den KI-Service betreiben? Im eigenen Rechenzentrum, On-Premises bei einem Dienstleister oder in der Cloud? Entscheidend ist, den KI-Service dabei kontinuierlich zu überwachen und das Modell im Live-Betrieb immer wieder anzupassen. Ein Beispiel: Ein Anlagenbauer nutzt eine KI-Applikation, die verschlissene Bauteile erkennt. Für einen funktionierenden KI-Service sind das Videomaterial der Anlagenüberwachung zu sichten, ein Modell zu erstellen und die KI mit realen Daten so zu trainieren, dass sie Verschleißerscheinungen und Leckagen identifiziert. Kommt eine neue Anlage hinzu, sind das Modell anzupassen und die KI von Neuem zu trainieren. Hierzu braucht es großes Know-how und viele Ressourcen. Sofern das Unternehmen die Managed AI Services eines spezialisierten Dienstleisters in Anspruch nimmt, kann es sich auf sein Tagesgeschäft konzentrieren. Um Re-Training und Produktivstellung kümmern sich die externen Data- und KI-Experten.

2. Tipp: Setzen Sie auf ein interdisziplinäres Team.

Achten Sie darauf, dass der Dienstleister ein interdisziplinäres Team für Sie zusammenstellt, bestehend aus einem Data Scientist oder Machine Learning Engineer, Data Engineer oder Data Architect, Cloud Architect und DevOps Engineer. Der Data Scientist überführt die Aufgabenstellung in automatisierte Verfahren, der Data Engineer erfasst und konsolidiert die benötigten Daten, der Cloud Architect richtet eine sichere, hochverfügbare IT-Infrastruktur ein, und der DevOps Engineer vermittelt zwischen Entwicklung und Betrieb.

3. Tipp: Lassen Sie den KI-Service bedarfsgerecht anpassen.

Um einen KI-Service in den Produktivbetrieb zu überführen, muss das Team reibungslos zusammenarbeiten. Der Data Scientist experimentiert mit Testdaten und entwickelt ein KI-Modell. Der Data Engineer verbindet das trainierte KI-Modell mit realen Betriebsdaten, und der DevOps Engineer begleitet die Produktivstellung. Damit der KI-Service in Echtzeit zuverlässig funktioniert, ist er fortlaufend zu betreuen und zu verbessern. Im Produktivbetrieb erzeugt ein KI-Service eine Vielzahl an Daten. Darum ist zu prüfen, ob das Modell mit den generierten Daten weiterhin plausibel ist. Andernfalls ist es samt seiner Prozesse anzupassen. Hierfür muss der Data Scientist auf vorhandene Betriebsmodelle und -daten zugreifen. Um das angepasste Modell unter der Aufsicht des DevOps Engineers erneut in die Produktivumgebung einzubinden, ist die KI abermals zu trainieren und zu testen. Weil sich äußere Umstände und Anforderungen schlagartig ändern können, müssen Sie in der Lage sein, flexibel zu reagieren. Doch weil im Live-Betrieb Anpassungen im Trial-and-Error-Verfahren tabu sind, eignen sich dafür agile Methoden wie Continuous Integration, Continuous Delivery und Continuous Deployment.

4. Tipp: Vergessen Sie das Monitoring nicht.

Um Anpassungsbedarf zu erkennen, ist der KI-Service End-to-End zu monitoren - bis hin zum 24/7-Monitoring. Wichtig ist, dass der Dienstleister individuelle Kennzahlen, Mess- und Schwellenwerte definiert und diese im Rahmen des IT-Servicemanagements in Standardprozesse gemäß ITIL einbindet. Dabei stellt das Monitoring der Infrastruktur eine optimale Verfügbarkeit, Erreichbarkeit, Performance und Auslastung durch Event- und Incident-Management-Prozesse sicher. Das Monitoring der Applikationen erfolgt mittels Überwachung der Schnittstellen und regelmäßiger Abfragen. Monitoring ist sehr wichtig, um Anpassungen im Zweifel wieder zurücksetzen zu können. Trotz Voranalysen kann es passieren, dass sich ein KI-Service in Ihrer realen Betriebsumgebung anders verhält als angenommen. Dann ist es entscheidend, schnell wieder auf die Vorgänger-Version umzustellen.

5. Tipp: Stellen Sie ein Maximum an Flexibilität sicher.

Zudem ist es wichtig, einen Vendor Lock zu vermeiden. Darum sollte der Dienstleister das Modell so anlegen, dass sich ein KI-Service auf eine andere Infrastruktur übertragen lässt: eine andere Cloud, eine On-Premises-Lösung in einem Rechenzentrum oder den Betrieb auf eigenen Servern. Idealerweise stellt der Dienstleister das fertige Modell über eine API bereit, betreibt und überwacht den KI-Service und bietet begleitenden Support.

Fazit: Nicht ohne den passenden Partner

Die Herausforderung, KI-Services zu entwickeln, zu betreiben und zu aktualisieren, können viele Unternehmen nicht allein bewältigen. Wer mit einem professionellen Dienstleister zusammenarbeitet, sollte darauf achten, dass er Managed AI Services aus einer Hand bietet, großes Fachwissen hat und den Übergang von der Entwicklung in den Betrieb nahtlos gestaltet. So können Sie sich auf den jeweiligen Use Case konzentrieren, relevante Prozesse spürbar beschleunigen und Ihr Business wirkungsvoll vorantreiben.


Die Autoren:

Niels Pothmann ist Head of AI von Arvato Systems.

Andree Kupka ist Machine Learning Engineer bei Arvato Systems.

Web: www.arvato-systems.de

Diese Artikel könnten Sie auch interessieren

Wenn KPIs in verschiedene Richtungen weisen: Wie Unternehmen Zielkonflikte richtig einordnen

In Steuerungsrunden liegen häufig mehrere Kennzahlen auf dem Tisch, die für sich genommen alle korrekt erhoben sind und dennoch, wenn man sie nebeneinander betrachtet, zu gegensätzlichen Schlüssen führen können. Der Vertrieb verweist auf steigende Umsätze, das Controlling warnt vor schrumpfenden Margen, das Marketing feiert wachsende Lead-Zahlen, und die Produktion meldet Auslastungsprobleme. Jede Ab...

Weiterlesen

Wenn Potenzial auf Arbeitsalltag trifft: KI im Realitätscheck

Erstmals nutzt laut Bitkom mit 57 Prozent die Mehrheit der deutschen Unternehmen Künstliche Intelligenz. Noch vor einem Jahr waren es gerade einmal 36 Prozent. Die Entwicklung ist rasant - und gleichzeitig von großer Unsicherheit begleitet. So befürchten nach Angaben einer aktuellen GoTo-Studie 83 Prozent der Beschäftigten, dass Fehler beim KI-Einsatz für sie persönlich Konsequenzen haben könnten - b...

Weiterlesen

Vom Suchen zum Fragen: Wie KI den Zugang zu Unternehmenswissen verändert

WISSENplus
In vielen Organisationen ist Wissen längst dokumentiert und abgelegt. Dennoch ist es im Arbeitsalltag häufig schwer zugänglich. Künstliche Intelligenz verändert genau diesen Punkt. Sie schafft neue Wege, um vorhandene Informationen zugänglich und nutzbar zu machen und damit den Zugang zu Wissen grundlegend zu vereinfachen....

Weiterlesen

Das Co-Brain - Ihr digitaler Doppelgänger

WISSENplus
Zuckerberg (CEO Meta) tut es. Siemiatkowski (CEO Klarna) tut es. Und auch Khosrowshahi (CEO Uber) tut es. Sie alle lassen mithilfe künstlicher Intelligenz digitale Doppelgänger von sich erstellen. Mitarbeitende oder auch Kunden sollen künftig mit den Doppelgängern von Mark, Sebastian und Dara chatten können. Damit stellen diese CEOs einen neuen, interaktiven Kommunikationskanal zur Verfügung. Doch die...

Weiterlesen

Transparenzlücke bei KI-Agenten gefährdet das Kundenvertrauen

KI-Agenten beantworten im Kundenservice Anfragen, greifen auf personenbezogene Daten zu und sprechen Empfehlungen aus. Für Kunden ist dabei nicht immer erkennbar, ob sie mit einem Menschen oder einer KI kommunizieren. Häufig bleibt auch offen, welche Informationen das System nutzt und wie seine Entscheidungen zustande kommen. Diese Transparenzlücken können das Vertrauen beeinträchtigen. Das zeigt ...

Weiterlesen

Online-Lernplattformen: 64 Prozent der Lernenden in Deutschland erleben Cybervorfälle

Fast zwei Drittel (64 Prozent) der Online-Lernenden in Deutschland waren in den letzten 12 Monaten von mindestens einem Cybervorfall betroffen. Besonders häufig wurden sie mit Malware in Lernmaterialien, Apps oder Software (25 Prozent), mit verdächtigen Nachrichten und Links, gefälschten Bildungsangeboten oder dem Missbrauch persönlicher Daten (jeweils 23 Prozent) konfrontiert. Für 94 Prozent der Betro...

Weiterlesen

Je intelligenter die KI, desto wichtiger die menschliche Erfahrung

WISSENplus
Ein Unternehmen, das im vergangenen Jahr Copilot, Claude oder ein internes ChatGPT ausgerollt hat, hat zunächst ein Zugangsproblem gelöst. Das Wissensproblem dagegen nicht – es hat es lediglich sichtbarer gemacht. Denn KI verändert den Wissensstand einer Organisation nicht. Sie zeigt nur schneller, wie er tatsächlich aussieht. Die eigentliche Veränderung reicht aber viel weiter: KI verändert nicht n...

Weiterlesen

Crisis of Hope: Orientierungssuche in hybriden Welten

WISSENplus
Hybrides Arbeiten ist vom Krisenmodus zum Standard geworden. Für viele Wissensarbeitende gehört die durch Homeoffice gewonnene Flexibilität inzwischen zu den beliebtesten Benefits und gilt heute vielerorts als nicht mehr verhandelbar. Gleichzeitig zeigt sich in der Praxis jedoch eine strukturelle Herausforderung: Besonders für junge Talente droht die Freiheit hybrider Arbeit in Isolation umzuschlag...

Weiterlesen