Künstliche Intelligenz, allen voran Agentic AI, verändert den Unternehmensalltag nachhaltig – doch der Weg zum messbaren Geschäftserfolg ist oft steinig. KI-Lösungen versprechen zwar mehr Effizienz, geringere Kosten und damit Wettbewerbsvorteile. Ihre Realisierung ist aber auch mit einigen Herausforderungen verbunden. Diese betreffen in erster Linie die IT, gefolgt von organisatorischen und kulturellen Aspekten.

Die digitale Welt verlangt nach immer schnelleren und effizienteren IT-Lösungen. Generative KI, kurz GenAI, bietet die technologische Basis, auf der solche Lösungen gebaut werden können. Dies trifft vor allem auch auf KI-basierte Agenten-Systeme, sogenannte Agentic AI, zu: Die autonomen KI-Systeme können nahezu eigenständig die unterschiedlichsten Aufgaben abarbeiten. Unternehmen, die entsprechende Projekte planen, müssen sich jedoch die Frage stellen, wie sich die bestehende IT-Infrastruktur transformieren lässt, um dem Ressourcenhunger der Technologie gerecht zu werden. Eine Studie von NTT DATA zu diesem Thema zeigt, dass 96 Prozent der CIOs und CTOs Cloud-basierte Lösungen für die praktikabelste und wirtschaftlichste Möglichkeit halten, um KI-Anwendungen zu unterstützen. Gleichzeitig geben jedoch mehr als 80 Prozent der IT-Entscheider an, dass die Kosten für den Aufbau und die Wartung einer leistungsfähigen Infrastruktur ein erhebliches Hindernis darstellen. Diese Diskrepanz zwischen Innovationspotenzial und Finanzierbarkeit erfordert einen strategischen Ansatz, der sowohl technische als auch wirtschaftliche Aspekte berücksichtigt.

Die Cloud als Fundament moderner KI-Lösungen

Fakt ist: Moderne Cloud-Architekturen, die auf Microservices, Containerlösungen wie Docker oder Kubernetes und Infrastructure as Code (IaC) basieren, haben längst bewiesen, dass sie Flexibilität, Skalierbarkeit und Effizienz in die IT-Landschaft bringen. Insbesondere im KI-Kontext eröffnen sie neue Möglichkeiten, komplexe Anwendungen dynamisch und bedarfsgerecht zu betreiben. Unternehmen profitieren von der elastischen Zuweisung von Ressourcen, da sie nur die Kapazitäten nutzen, die sie tatsächlich benötigen. Der Ansatz ermöglicht aber auch eine einfache Integration neuer Services, den flexiblen Austausch einzelner Systemkomponenten und die unkomplizierte Einbindung externer KI-Modelle. So entsteht ein lebendiges Ökosystem, in dem Funktionalitäten schnell getestet, validiert und nahtlos in den Produktivbetrieb überführt werden können.

Ein reiner Public-Cloud-Ansatz, wie er noch vor wenigen Jahren als das Nonplusultra propagiert wurde, ist jedoch nicht mehr zeitgemäß. Hybride Architekturen ermöglichen es Unternehmen, das Beste aus beiden Welten zu kombinieren: Während hochskalierbare und elastische Workloads in der Public Cloud betrieben werden, verbleiben kritische Anwendungen und sensible Informationen in einer privaten Umgebung unter einem höheren Maß der Kontrolle des Datenmanagements. Dieser Ansatz ermöglicht es, Risiken zu minimieren, den gefürchteten Vendor Lock-in zu vermeiden – insbesondere in Multi-Cloud-Szenarien – und gleichzeitig von den Vorteilen der Cloud zu profitieren. Die Notwendigkeit einer On-Premise-Lösung zeigt sich sehr deutlich im Bereich der Edge-KI. In latenzkritischen Branchen wie der Fertigung, dem Einzelhandel oder der Logistik führt die Datenverarbeitung am „Netzwerkrand“ zu einer deutlichen Verbesserung der Reaktionszeiten. KI-Anwendungen können so vor Ort auf Echtzeitdaten zugreifen und Entscheidungen schneller treffen. Die zentrale Datenverarbeitung und das Training der Modelle erfolgen oftmals weiterhin in der Cloud. Wenn die Projekte weiter skalieren und Anwendungsfälle tiefer in kritische, proprietäre Unternehmensprozesse eingebunden werden, ist eine rein private KI-Lösung oft sogar die präferierte Wahl.

Haben Legacy-Systeme noch eine Daseinsberechtigung?

Unternehmen kommen nicht umhin, ihre bestehende IT zu modernisieren. Die wenigsten werden allerdings über ein Budget verfügen, das es ihnen erlaubt, ihre KI-Projekte auf der grünen Wiese zu realisieren. Deshalb müssen in der Regel auch die Legacy-Systeme – oft über Jahrzehnte gewachsene und stark individualisierte IT-Lösungen – fit für die Technologie gemacht werden. Eine große Herausforderung ist dabei die Kompatibilität: Ältere Hardware unterstützt häufig nicht die neuesten Schnittstellen (APIs) oder die neueste Middleware, die als wesentliche Bindeglieder zwischen unterschiedlichen Anwendungen und Geräten fungieren. Nur mit diesen Vermittlern ist eine reibungslose Kommunikation gewährleistet. Ein weiteres Problem ist die Datenmigration: In vielen Unternehmen befinden sich die Daten in isolierten Silos, die von Legacy-Systemen verwaltet werden. Dies führt zu Hürden bei der Datenaggregation und -aufbereitung, die aber für das Training von KI-Modellen essentiell sind. Auch die Echtzeitverfügbarkeit und Konsistenz der Daten kann beeinträchtigt werden, wenn Legacy-Systeme als Drehscheibe fungieren.

Um einen reibungslosen Übergang zu gewährleisten, ist eine fundierte Datenstrategie unabdingbar. Je nach Ausgangslage kann zunächst eine umfangreiche Migration notwendig sein, für deren Umsetzung es verschiedene Alternativen gibt. Ein Ansatz, der von der klassischen Aufbereitung abweicht, ist beispielsweise die Datenvirtualisierung. Sie ermöglicht den Zugriff auf Informationen in Echtzeit – direkt dort, wo sie entstehen. Die Daten werden zum Zeitpunkt der Abfrage ohne Duplizierung aus den verschiedenen Quellen bereitgestellt. Sinnvoll ist auch die Einführung eines unternehmensweiten Datenmanagements mit automatisierter Aggregation und Bereinigung. Ebenso wichtig ist die Implementierung robuster Sicherheitsmaßnahmen, da sensible Daten in einer zunehmend vernetzten Umgebung besonders schutzbedürftig sind. Eine enge Abstimmung mit Rechtsexperten und die Implementierung standardisierter Compliance-Frameworks sind hier unerlässlich, um Risiken zu minimieren. Durch eine schrittweise Modernisierung können Unternehmen zudem sicherstellen, dass kritische Geschäftsprozesse während der Umstellung stabil bleiben und gleichzeitig neue Technologien ohne große Brüche implementiert werden.

Den ROI nicht aus den Augen verlieren

Was viele Unternehmen angesichts der zahlreichen technischen Aspekte rund um eine KI-Implementierung gerne vergessen – es bringt wenig, den zweiten Schritt vor dem ersten zu machen. Angesichts der erhofften Automatisierungsvorteile nehmen sich die Verantwortlichen gerne von Anfang an hochkomplexe Anwendungsfälle vor. Was passiert? Die Projektlaufzeit zieht sich in die Länge und die Kosten schießen in die Höhe. Erfolgversprechender ist es, mit kleinen Pilotprojekten zu starten, Erfahrungen zu sammeln und erst dann zu größeren, unternehmensweiten Initiativen überzugehen. Dies verspricht einen schnelleren Mehrwert und eine steilere Lernkurve. Doch Technologie allein garantiert noch keinen Erfolg. Entscheidend ist auch, wie Unternehmen den Wandel organisatorisch begleiten. Ein strukturiertes Change-Management, das alle relevanten Stakeholder – von der IT-Abteilung bis zur Geschäftsführung – in den Transformationsprozess einbindet, ist unerlässlich. Zudem sollte die Einführung neuer Technologien immer mit gezielten Schulungsprogrammen und einem umfassenden Kompetenzaufbau einhergehen.

Die finanziellen Rahmenbedingungen stellen für viele Unternehmen eine erhebliche Einstiegshürde dar. Hohe Investitionskosten in Hardware, spezialisierte Software und die notwendige Infrastruktur können den Umstieg auf eine KI-Lösung hemmen. Innovative Ansätze wie Platform as a Service (PaaS) oder Model as a Service (MaaS) bieten hier eine Lösung. Diese Modelle reduzieren den Finanzierungsdruck und sichern gleichzeitig den kontinuierlichen Zugang zu modernster Technologie. Managed Services, bei denen externe Dienstleister die Verantwortung für den kompletten Betrieb der Infrastruktur übernehmen, ermöglichen selbst Firmen ohne eigene Ressourcen und Expertise eine schnelle Implementierung. Auch bei der Frage, welches KI-Modell das richtige ist, hilft der Partner. Denn neben den Großen der Branche wie OpenAI, Google oder AWS bieten inzwischen zahlreiche Start-ups und kleinere Anbieter interessante Lösungen an.

Ohne Struktur funktioniert die KI-Reise nicht

KI wird oft als ein Werkzeug gesehen, das Probleme quasi von selbst löst. In der Realität ist der Einsatz jedoch wesentlich komplexer. Unternehmen müssen zunächst umfangreiche Vorarbeiten leisten, um den Erfolg eines Projekts nicht zu gefährden. Durch eine maßgeschneiderte Datenstrategie, flexible Finanzierungsmodelle und den Aufbau von Fachkompetenz können Unternehmen die Hürden überwinden und die Potenziale von GenAI und Agentic AI optimal nutzen.

Ein Beitrag von Dr. William Cobbah.