Red Hat OpenShift AI bietet eine konsistente, skalierbare Grundlage basierend auf Open-Source-Technologien für den IT-Betrieb und stellt gleichzeitig ein spezialisiertes Partner-Ökosystem für Data Scientists und Entwickler bereit, um Innovationen im Bereich KI nutzen zu können. Zu diesem Zweck unterstützt Red Hat OpenShift AI die generativen KI-Services von IBM watsonx.ai. Die Plattform für Künstliche Intelligenz von IBM zielt darauf ab, intelligente Anwendungen und Services in allen Bereichen eines Unternehmens zu skalieren und die nächste Generation von Basismodellen auf den Weg zu bringen.
Da Large Language Models (LLMs) wie GPT-4 und LLaMA Verbreitung finden, suchen Forscher und Anwendungsentwickler in allen Bereichen und Branchen nach Möglichkeiten, von diesen und anderen grundlegenden Modellen zu profitieren. Unternehmen können mit kommerziellen oder Open-Source-Modellen und domänenspezifischen Daten eine Feinabstimmung vornehmen, um die Modelle exakter auf ihre spezifischen Anwendungsfälle anzupassen.
Das initiale Training von KI-Modellen ist sehr infrastrukturintensiv und erfordert spezialisierte Plattformen und Tools, noch bevor das Serving, Tuning und Modell-Management adressiert werden. Ohne eine Plattform, die diesen Anforderungen gerecht wird, können Unternehmen KI/ML oft nur eingeschränkt nutzen. OpenShift AI greift diese Herausforderungen auf, indem es eine konsistente Infrastruktur für das Training, die Bereitstellung und die Inferenz bietet, um das Potenzial von KI auszuschöpfen.
KI für die offene Hybrid Cloud
Mit OpenShift AI können viele Hindernisse überwunden werden, da es eine standardisierte Grundlage für die Erstellung von KI/ML-Modellen in der Produktion sowie für die Ausführung der daraus resultierenden Anwendungen bereitstellt. OpenShift AI bietet die Konsistenz, Benutzerfreundlichkeit und Cloud-to-Edge-Bereitstellungsoptionen von OpenShift. Plattform-Ingenieure können skalierbare Konfigurationen erstellen, die speziell auf die Anforderungen ihrer Data Scientists und Entwickler zugeschnitten sind. Auch zur Feinabstimmung bestehender Modelle kann OpenShift AI verwendet werden, wodurch die Kosten für das anfängliche Modelltraining gesenkt und die Zeit bis zur Wertschöpfung reduziert werden sowie die KI-Nutzung über spezialisierte Data Scientists hinaus erweitert wird.
OpenShift AI umfasst mehrere optionale Angebote von Technologiepartnern wie Anaconda, IBM Watson Studio, Intel OpenVINO und AI Analytics Toolkit, NVIDIA AI Enterprise und Starburst. Außerdem bietet es Zugang zu 30 weiteren zertifizierten KI/ML-Partnern als Teil des OpenShift-Ökosystems.
Unternehmen mit spezifischen regulatorischen und Compliance-Anforderungen, einschließlich isolierter und getrennter Umgebungen, können mit OpenShift AI Daten vorbereiten und Modelle on-premises entwickeln, trainieren und bereitstellen. Sie können auch Modelle in der Public Cloud entwickeln und diese on-premises oder an der Edge mit denselben konsistenten Werkzeugen und Schnittstellen bereitstellen. So entsteht eine einheitliche hybride MLOps-Umgebung, die die Zusammenarbeit zwischen IT-Betrieb, Data Scientists und Anwendungsentwicklern unterstützt. (rhh)
