Generative KI eignet sich besonders gut für die Informationsrecherche. Wenn Unternehmen die Technologie auf eigene Daten und Prozesse ansetzen, können KI-Assistenten mit Spezialwissen zu Optimierung und Automatisierung beitragen. Was für die Strategie wichtig ist, erklärt Hans-Peter Gasser, Customer Strategy Manager beim Digitalisierungspartner Cosmo Consult.

Warum sollten sich Unternehmen grundsätzlich mit neuen Technologien rund um Generative AI und Large Language Models (LLM) auseinandersetzen?

Die Ergebnisse und Optimierungsvorschläge von KI-Assistenten, die auf Large-Language-Modellen wie ChatGPT basieren, können viele Prozesse im Unternehmen verändern. Das ermöglicht mehr Produktivität und eine höhere Geschwindigkeit. Die KI-Studie 2024 von Deloitte unter 2000 Führungskräften zeigt, dass mit 91 Prozent eine breite Mehrheit der deutschen Unternehmen eine Produktivitätssteigerung durch den Einsatz von Gen AI erwartet. Allerdings geht der Umfrage zufolge derzeit nur etwa ein Viertel der Befragten davon aus, dass ihr Unternehmen strategisch gut auf die Gen-AI-Nutzung vorbereitet ist. Beim Thema Strategie sehen wir in der Beratungspraxis ebenfalls einen hohen Bedarf.

Viele Unternehmen haben ja bereits etwas mit Generative AI in Form von ChatGPT herumexperimentiert. Was sind denn typische Einsatzszenarien?

Bisher werden LLM vor allem genutzt, um Texte zusammenzufassen oder Vorschläge für die Texterstellung zu machen. Zum Beispiel helfen integrierte KI-Assistenten wie Microsoft Copilot dabei, aus vorhandenen Datenblättern Produktbeschreibungen für den Webshop zu erstellen oder Angebote zu schreiben. Auch beim Vergleichen von Requirements im Engineering oder der Optimierung von Trainings kann Gen AI einen wichtigen Beitrag leisten. Das ist aber nur ein kleiner Ausschnitt der Möglichkeiten von LLM. Im nächsten Schritt geht es darum, über den Tellerrand zu schauen. Unternehmen können insbesondere von der Innovationskraft profitieren, die Gen AI auf der Grundlage von großen Sprachmodellen mit sich bringt.

An welche Art von Innovation  denken Sie denn dabei?

Die Technologie kann viele kreative Denkanstöße geben, auf die Menschen, die vor dem Hintergrund vorhandener Prozesse und Systeme denken, so schlicht nicht gekommen wären. Werden LLM zum Beispiel darauf angesetzt, wie sich der Deckungsbeitrag erhöhen lässt, kommen oft überraschende Ideen heraus. Sie sind zwar nicht immer gleich nachvollziehbar, doch meist lohnt sich ein zweiter Blick darauf. Ein besonderes Potenzial entsteht, wenn LLM auf die eigenen Daten und Prozesse im Unternehmen angesetzt werden. Mit individuellen, hochspezialisierten Wissenssystemen kann beispielsweise die Produktentwicklung optimiert werden oder die zunehmende Dynamik in den Lieferketten in die Beschaffung einbezogen werden. Dafür analysiert die KI, was sich etwa hinsichtlich Wetterereignissen, politischer Veränderungen oder Streiks entlang der Supply Chain tut.

Wie verlässlich ist die Gen AI denn bereits? Es gibt ja auch immer wieder Meldungen, die auf Probleme verweisen, etwa die ChatGPT-Störung im Juni.

Es ist immer noch eine relativ junge Technologie. Wir sehen beim Experimentieren mit LLM für Praxisprojekte immer wieder Lücken. Im Schnitt sind rund 25 Prozent der Antworten nicht nutzbar. Oft liegt das daran, dass Parameter verglichen werden, die auf den zweiten Blick nicht zueinander passen. Manchmal werden auch unwichtigere Details zu stark in den Fokus genommen. Es ist also noch Aufwand nötig, um die richtigen Parameter zu priorisieren. Ein anderes Problem nennt sich „lost in the middle“: Beim Konsumieren von PDF-Dateien wird der Mittelteil nicht mehr richtig verstanden. Dieses Problem ist bereits erkannt worden und die Anbieter unternehmen Anstrengungen, Lösungsansätze zu finden.

Was bedeutet das für den Praxiseinsatz der Technologie?

In vielen Bereichen, in denen es auf exakte Information ankommt, zum Beispiel in Qualitätsmanagementprozessen oder wenn in der Produktentwicklung die gesetzlichen Vorgaben abgeglichen werden sollen, ist durchaus noch Vorsicht angesagt. Zugleich bieten eigene Wissenssysteme auf Basis von LLM gerade dort, wo bisher noch viel menschlicher Recherche- und Abgleichsaufwand notwendig ist, ein hohes Potenzial. Dass nicht einfach auf die Technologie vertraut werden kann, ist für viele Unternehmen derzeit noch eine große Herausforderung. Einerseits gilt es, von der Innovation zu profitieren, andererseits ist noch manuelles Nachprüfen nötig.

Es ist ja auch zu erkennen, dass es eine große Dynamik bei den Anbietern gibt. Wie schätzen Sie denn die Entwicklung ein?

Es gibt tatsächlich praktisch wöchentlich neue Features und Verbesserungen in der Technologie. Das heißt, dass Anwendungsszenarien, die vielleicht auf den ersten Blick nicht ohne weiteres umsetzbar waren, es kurze Zeit später bereits sein könnten. Es ist also sehr wichtig, die hohe Dynamik bei Gen AI in die Strategie mit einzubeziehen. Erfahrene Beratungspartner können helfen, Potenziale für das jeweilige Business, passende Lösungen und eine sinnvolle Strategie zu identifizieren. Wer Gen AI früh und kontinuierlich für sich erprobt, kann schnell von Verbesserungen profitieren und sich einen Vorsprung am Markt erarbeiten. Indem Unternehmen immer mehr eigene „GPTs“ (Generative Pre-trained Transformer) erschaffen und mit den Daten für einen spezifischen Wissensbereich füttern, desto mehr Nutzen können sie daraus ziehen. Damit lassen sich beispielsweise  ein paar Prozent mehr zum Deckungsbeitrag generieren, die im Wettbewerb den Unterschied machen.

Welche Prozesse werden sich denn aus Ihrer Sicht besonders stark durch Large Language Models verändern? Wo wird das einen Unterschied im Wettbewerb bedeuten?

Derzeit  verändert sich beispielsweise insbesondere, wie Einkäufer*innen Produkte vergleichen. Bei Recherchen, Preis- und Funktionsvergleichen setzen sie zunehmend  auf Gen AI auf die Beschaffungsprozesse an. Gerade für Unternehmen, die sich in einem besonders harten Wettbewerb befinden, wird es deshalb erfolgsentscheidend sein, wie sich ihre Produkte von außen bewerten lassen. In Zukunft geht es nicht mehr nur darum, wie Menschen schnell Informationen aus Produktbeschreibungen und Datenblättern aufnehmen. Es ist ganz ähnlich wie bei der Umstellung auf die SEO-Optimierung von Websites, die auf eine bessere Auffindbarkeit für Suchmaschinen abzielt. Genauso müssen jetzt Produktenspezifikationen, Konditionen, Lieferzeiten oder Nachhaltigkeitsaspekte besser maschinenlesbar werden.

Wie können sich Unternehmen darauf einstellen?

Hier gilt es, zum Beispiel damit zu experimentieren, wie die Fragen (Prompts) von Einkaufsorganisationen aussehen und wie die eigenen Inhalte so granular optimiert werden können, dass sie für die KI-Modelle passende Informationen bereitstellen. Natürlich sollte diese Vorgehensweise auch im eigenen Einkauf genutzt werden, um das beste Angebot zu finden.

Welche Rolle könnte Gen AI künftig für Themen wie Training und Weiterbildung spielen?

Vor allem dort, wo Gen AI zusammen mit anderen Technologien gedacht wird, ergibt sich ein besonders großer Hebel.  Das gilt etwa für die Verbindung mit Augmented und Mixed Reality. Wenn KI-Assistenten per AR-Brille durch einen Prozess führen, können auch Beschäftigte mit weniger Erfahrung Teile montieren, die richtige Entscheidung im Logistikprozess treffen oder einen Fehler an einer Anlage beheben. Ein wesentlicher Vorteil liegt darin, dass sich die Anleitung an die Sprache der jeweiligen Person anpassen lässt. Insofern wird auch das Training von Arbeitskräften mit wenig Sprachkenntnis und die Einarbeitung neuer Arbeitskräfte generell mit Gen AI vereinfacht.

Die Technologie birgt ja durchaus Risiken. Wie lässt sich in der Organisation sicherstellen, dass Datenschutz und Datensicherheit gewahrt werden?

Für den professionellen Einsatz von LLM in Unternehmen braucht es ein durchgängiges Datenschutz- und Datensicherheitskonzept mit verbindlichen Guidelines. Bei den meisten frei verfügbaren LLMs fließt das Wissen, das in einem Prompt an den Chatbot weitergegeben wird, in dessen allgemeines Trainingsmaterial ein. Auf diesem Weg könnten sensible Kundendaten oder intellektuelles Eigentum zum Beispiel zu Herstellungsprozessen unbeabsichtigt zum Allgemeingut werden. Geeignet sind deshalb nur lokale KI-Modelle, die am eigenen Server betrieben werden. Viele Anbieter haben jedoch bereits  die Herausforderung für Unternehmen hinsichtlich Datenschutz und Datensicherheit erkannt.

Hier finden Sie weitere Informationen über Cosmo Consult.

Hans-Peter Gasser, Customer Strategy Manager bei Cosmo Consult Quelle: Cosmo Consult

Hans-Peter Gasser, Customer Strategy Manager bei Cosmo Consult