2021/11 | Fachbeitrag | Digitalisierung

Managed AI – damit KI-Services zuverlässig funktionieren

KI-basierte Applikationen bieten viele Vorteile. Sie entlasten von repetitiven Aufgaben, beschleunigen Prozesse und erhöhen deren Effizienz. Was dabei viele vergessen: KI-Projekte verlaufen phasenweise. Zunächst ist zu analysieren, ob sich vorhandene Daten, Systeme und Prozesse für die Umsetzung des favorisierten Use Case eignen. Dann gilt es, die Anforderungen an den Prototyp zu definieren, ein Konzept zu erstellen, den besten Lösungsansatz zu entwickeln und den Prototyp in ein Minimum Viable Product (MVP) zu überführen. Dank kontinuierlicher Funktions-, Last- und Integrationstests sind KI-Services in die Betriebsumgebung stabil integrierbar, und der beliebig skalierbare KI-Service lässt sich in Applikationen, Prozesse und Systeme einbinden. In der letzten Phase, dem Produktivbetrieb, scheitern viele KI-Projekte. Darum sind KI-Lösungen über ihren kompletten Lebenszyklus hinweg zu überwachen und bedarfsgerecht anzupassen. Das gelingt am besten mihilfe von Managed AI Services.

Bildquelle: (C) mohamed Hassan / Pixabay

1. Tipp: Stellen Sie eine professionelle Betreuung des KI-Services sicher.

Beantworten Sie zunächst eine grundlegende Frage: Wo wollen Sie den KI-Service betreiben? Im eigenen Rechenzentrum, On-Premises bei einem Dienstleister oder in der Cloud? Entscheidend ist, den KI-Service dabei kontinuierlich zu überwachen und das Modell im Live-Betrieb immer wieder anzupassen. Ein Beispiel: Ein Anlagenbauer nutzt eine KI-Applikation, die verschlissene Bauteile erkennt. Für einen funktionierenden KI-Service sind das Videomaterial der Anlagenüberwachung zu sichten, ein Modell zu erstellen und die KI mit realen Daten so zu trainieren, dass sie Verschleißerscheinungen und Leckagen identifiziert. Kommt eine neue Anlage hinzu, sind das Modell anzupassen und die KI von Neuem zu trainieren. Hierzu braucht es großes Know-how und viele Ressourcen. Sofern das Unternehmen die Managed AI Services eines spezialisierten Dienstleisters in Anspruch nimmt, kann es sich auf sein Tagesgeschäft konzentrieren. Um Re-Training und Produktivstellung kümmern sich die externen Data- und KI-Experten.

2. Tipp: Setzen Sie auf ein interdisziplinäres Team.

Achten Sie darauf, dass der Dienstleister ein interdisziplinäres Team für Sie zusammenstellt, bestehend aus einem Data Scientist oder Machine Learning Engineer, Data Engineer oder Data Architect, Cloud Architect und DevOps Engineer. Der Data Scientist überführt die Aufgabenstellung in automatisierte Verfahren, der Data Engineer erfasst und konsolidiert die benötigten Daten, der Cloud Architect richtet eine sichere, hochverfügbare IT-Infrastruktur ein, und der DevOps Engineer vermittelt zwischen Entwicklung und Betrieb.

3. Tipp: Lassen Sie den KI-Service bedarfsgerecht anpassen.

Um einen KI-Service in den Produktivbetrieb zu überführen, muss das Team reibungslos zusammenarbeiten. Der Data Scientist experimentiert mit Testdaten und entwickelt ein KI-Modell. Der Data Engineer verbindet das trainierte KI-Modell mit realen Betriebsdaten, und der DevOps Engineer begleitet die Produktivstellung. Damit der KI-Service in Echtzeit zuverlässig funktioniert, ist er fortlaufend zu betreuen und zu verbessern. Im Produktivbetrieb erzeugt ein KI-Service eine Vielzahl an Daten. Darum ist zu prüfen, ob das Modell mit den generierten Daten weiterhin plausibel ist. Andernfalls ist es samt seiner Prozesse anzupassen. Hierfür muss der Data Scientist auf vorhandene Betriebsmodelle und -daten zugreifen. Um das angepasste Modell unter der Aufsicht des DevOps Engineers erneut in die Produktivumgebung einzubinden, ist die KI abermals zu trainieren und zu testen. Weil sich äußere Umstände und Anforderungen schlagartig ändern können, müssen Sie in der Lage sein, flexibel zu reagieren. Doch weil im Live-Betrieb Anpassungen im Trial-and-Error-Verfahren tabu sind, eignen sich dafür agile Methoden wie Continuous Integration, Continuous Delivery und Continuous Deployment.

4. Tipp: Vergessen Sie das Monitoring nicht.

Um Anpassungsbedarf zu erkennen, ist der KI-Service End-to-End zu monitoren - bis hin zum 24/7-Monitoring. Wichtig ist, dass der Dienstleister individuelle Kennzahlen, Mess- und Schwellenwerte definiert und diese im Rahmen des IT-Servicemanagements in Standardprozesse gemäß ITIL einbindet. Dabei stellt das Monitoring der Infrastruktur eine optimale Verfügbarkeit, Erreichbarkeit, Performance und Auslastung durch Event- und Incident-Management-Prozesse sicher. Das Monitoring der Applikationen erfolgt mittels Überwachung der Schnittstellen und regelmäßiger Abfragen. Monitoring ist sehr wichtig, um Anpassungen im Zweifel wieder zurücksetzen zu können. Trotz Voranalysen kann es passieren, dass sich ein KI-Service in Ihrer realen Betriebsumgebung anders verhält als angenommen. Dann ist es entscheidend, schnell wieder auf die Vorgänger-Version umzustellen.

5. Tipp: Stellen Sie ein Maximum an Flexibilität sicher.

Zudem ist es wichtig, einen Vendor Lock zu vermeiden. Darum sollte der Dienstleister das Modell so anlegen, dass sich ein KI-Service auf eine andere Infrastruktur übertragen lässt: eine andere Cloud, eine On-Premises-Lösung in einem Rechenzentrum oder den Betrieb auf eigenen Servern. Idealerweise stellt der Dienstleister das fertige Modell über eine API bereit, betreibt und überwacht den KI-Service und bietet begleitenden Support.

Fazit: Nicht ohne den passenden Partner

Die Herausforderung, KI-Services zu entwickeln, zu betreiben und zu aktualisieren, können viele Unternehmen nicht allein bewältigen. Wer mit einem professionellen Dienstleister zusammenarbeitet, sollte darauf achten, dass er Managed AI Services aus einer Hand bietet, großes Fachwissen hat und den Übergang von der Entwicklung in den Betrieb nahtlos gestaltet. So können Sie sich auf den jeweiligen Use Case konzentrieren, relevante Prozesse spürbar beschleunigen und Ihr Business wirkungsvoll vorantreiben.


Die Autoren:

Niels Pothmann ist Head of AI von Arvato Systems.

Andree Kupka ist Machine Learning Engineer bei Arvato Systems.

Web: www.arvato-systems.de

Diese Artikel könnten Sie auch interessieren

Insider Threats: Willkommen im Zeitalter der kriminellen KI!

WISSENplus
Künstliche Intelligenz (KI), ursprünglich als Treiber von Innovation und Effizienz gefeiert, wird zunehmend zur Waffe in den Händen von Cyberkriminellen. In einer digital vernetzten Welt nutzen Täter KI, um ihre Methoden zu perfektionieren, Angriffe zu automatisieren und neue Schwachstellen auszunutzen. Die Folge: Eine neue Dimension der Cyberkriminalität, die Privatpersonen, Unternehmen und Regie...

Weiterlesen

Wissen vernetzen, Räume gestalten: Digitale Bauplanung mit BIM als Wettbewerbsvorteil für Unternehmen

WISSENplus
Die Anforderungen an moderne Arbeitsumgebungen wandeln sich rasant: Flexibilität, Kosteneffizienz und Nachhaltigkeit sind für Unternehmen essenziell, um langfristig wettbewerbsfähig zu bleiben. Gleichzeitig wünschen sich Mitarbeitende inspirierende, funktionale und gesundheitsfördernde Arbeitsräume. Doch wie lassen sich diese Faktoren in Bauprojekten am besten vereinen? Die Antwort liegt unter an...

Weiterlesen

Smart Factory: Prozesse optimieren, Know-how bewahren

WISSENplus
Es gibt endlich eine Lösung für den Fachkräftemangel -und sie heißt KI. Dabei geht es nicht darum, neue KI Modelle zu entwickeln, sondern diese passgenau einzusetzen. Moderne GenAI-Modelle erlauben es, wertvolles Mitarbeiter-Wissen auf einfache Art zu konservieren, und das ohne wirklichen Mehraufwand für die Mitarbeitenden. Allerdings hindern Missverständnisse über die Möglichkeiten und die Int...

Weiterlesen

Wissenstransfer in der öffentlichen Verwaltung

WISSENplus
Weiterhin steigt in vielen Behörden die Zahl der Beschäftigten, die in Ruhestand gehen. Viele nehmen wichtiges Erfahrungswissen zu Spezialgebieten mit. Zusätzlich nimmt aber auch der Anteil derer zu, die lange vor dem Ruhestand den Job wechseln, in Elternzeit gehen etc. Immer häufiger müssen daher neue Beschäftigte eingearbeitet und auch Quereinsteigern erstmal Grundlagen vermittelt werden. Ein strukt...

Weiterlesen

Sechs Bausteine zur KI-Readiness: Künstliche Intelligenz lebt von hochwertigen Daten und intelligenter Planung

Künstliche Intelligenz hat sich in den letzten Jahren zu einem der einflussreichsten Werkzeuge der Digitalisierung entwickelt. Sie ermöglicht es Unternehmen, Erkenntnisse aus riesigen Datenmengen zu gewinnen, Prozesse zu automatisieren und fundierte Entscheidungen in Echtzeit zu treffen. Doch bei allem Potenzial hängt der Erfolg von KI-Systemen von mehreren entscheidenden Faktoren ab, allen voran von der...

Weiterlesen

KI zwischen Innovation und Regulierung

WISSENplus
In der Diskussion um die Nutzung von generativer KI wird immer wieder ein Zielkonflikt zwischen Innovation und Regulierung thematisiert, die sich angeblich gegenseitig behindern. Aber ist das tatsächlich so? Auf den ersten Blick mag das stimmen, aber letztlich ist die rechtskonforme Entwicklung von KI vor allem eine Frage des richtigen Managements. Compliance-Bedenken dürfen daher keine Ausrede dafÃ...

Weiterlesen