ERGO GPT – eine interne, sichere Alternative zu ChatGPT

Ein sicher zu nutzendes KI-Sprachmodell für die gesamte Belegschaft? Bei ERGO nun Wirklichkeit! Mehr als 35.000 Kolleginnen und Kollegen einschließlich der selbstständigen Vertriebspartner haben hierzulande bereits Zugriff auf „ERGO GPT“. Und: Der Rollout in andere Märkte ist in Arbeit. Mehr zu den Hintergründen und typischen Einsatzszenarien dieses „Large Language Modells“ (LLM) verrät die ERGO KI-Expertin Antonia Schiller.

Hallo Antonia, Glückwunsch zum erfolgreichen Rollout von ERGO GPT! Mit diesem LLM habt Ihr den ERGO Kolleginnen und Kollegen in Deutschland eine sichere, interne Alternative zu ChatGPT von Open AI zur Verfügung gestellt …

Vielen Dank, das gebe ich gern weiter, denn die Einführung von ERGO GPT war natürlich Teamarbeit! Als Ende 2022 der Hype um ChatGPT von OpenAI losbrach, haben wir bei ERGO rasch reagiert und ein Projekt aufgesetzt, um die Chancen von LLMs für unsere – extrem datengetriebene – Branche zu untersuchen und zu nutzen. Genannt haben wir dieses Projekt übrigens „GOLLM“, gesprochen: „Golem“ – und es war toll zu sehen, wie viele Kolleginnen und Kollegen sich aus allen möglichen Fachbereichen daran beteiligen wollten! Nun, knapp anderthalb Jahre und eine sehr intensive Testphase später, ist es soweit: Unser ganz eigenes LLM, ERGO GPT, läuft stabil und wird schon rege genutzt …

Spannend, wozu denn beispielsweise? Was sind typische Einsatzmöglichkeiten eines firmeneigenen LLMs im Arbeitsalltag eines Versicherers? Anders gefragt – und mit Blick auf unseren Markenkern: Was macht ERGO GPT alles „einfacher“ für unsere Mitarbeiter?

Nun, in erster Linie eignet sich ERGO GPT für Texte und andere Office-Anwendungen: Beispielsweise erschaffen viele Kolleginnen und Kollegen damit jetzt schon ihre Intranet-Artikel, Social-Media-Posts, Stellenausschreibungen, E-Mails oder Excelformeln. Sehr beliebt sind auch Optimierungen oder allgemein Änderungen von bestehenden Dokumenten – etwa, wenn es einen Text noch präziser zuzuspitzen gilt oder wir Briefe von „Sie“ auf „Du“ umformuliert haben möchten. Praktisch ist auch, dass sich lange Texte auf Knopfdruck prägnant zusammenfassen lassen oder wir uns Fragen zum Inhalt beantworten lassen. Und: Wenn jemand einen intellektuellen Gegenspieler benötigt, schlüpft ERGO GPT auch in die Rolle eines Kritikers oder der Vorgesetzten und diskutiert und hinterfragt die gepitchten Ideen.

Typische Vereinfachungsmöglichkeiten haben wir für auch für die einzelnen Stellenprofile bei ERGO identifiziert: Denken wir beispielsweise an einen Sachbearbeiter, der einen Kundenbrief erhält und hierauf ein Antwortschreiben erstellen möchte, welches sich „freundlich, aber bestimmt“ lesen soll. Oder denken wir an eine Entwicklerin, die Teile ihres Codes von ERGO GPT überprüfen und ggfs reparieren lässt. Oder an einen Kommunikator, der seinen Artikel zielgruppengerecht und unter Schlagwort- und SEO-Gesichtspunkten optimieren lassen will. Ihr seht: Im Grunde kann schon jede Kollegin und jeder Kollege bei ERGO von dem neuen Angebot profitieren. Wie bei allen Technologien gilt auch hierbei: Je mehr wir ausprobieren und testen und dazulernen und das Programm ausreizen, desto mehr können wir aus ERGO GPT herauskitzeln – und desto höher wird am Ende das Nutzungs- und Vereinfachungspotenzial für unseren Arbeitsalltag!

Apropos lernen: Welche Schulungsangebote habt Ihr denn im Angebot oder sind geplant, um die Anwenderinnen und Anwender im Umgang mit dieser faszinierenden Lösung vertraut zu machen? Um die bestmöglichen Prompts zu nutzen etc.?

Um möglichst viele der Kolleginnen und Kollegen vom neuen Angebot zu begeistern, haben wir schon lange vor dem Rollout die bevorstehende Einführung breit über sämtliche interne Kommunikationskanäle beworben. Und – als es dann soweit war – die Lösung jedem und jeder einzelnen in einer Begrüßungsmail vorgestellt. Inklusive dem Link zu einem Einführungsvideo, das wir auf unseren Lernplattformen mit Hilfe von Avataren bereitstellen. Zusätzlich haben wir, um den Erfahrungsaustausch zu fördern, um Fragen zu beantworten und auf dem neusten Stand zu bleiben, einen ERGO-GPT-Kanal bei Teams aufgesetzt. Darüber hinaus bieten wir mit unserer „ERGO GPT Lounge“ interne Webinare an, in denen sich die Leute informieren und Fragen stellen können. Mehrere Fachbereiche sind auch schon aktiv auf uns zugekommen und haben darum gebeten, dass wir bei ihnen Vorträge, Workshops oder Hackathons durchführen. Es freut uns sehr, dass wir hier einen aktiven Pull von den Kolleginnen und Kollegen aus allen möglichen Teilen von ERGO in Deutschland erleben und sind immer gerne bereit, unser Wissen weiterzugeben!

Prima, das klingt umfassend! Könntest Du an dieser Stelle denn auch ein paar Tipps zur Nutzung geben? Das dürfte unsere //next-Leserinnen und Leser für ihren Umgang mit allgemein zugänglichen LLMs gewiss auch interessieren …

Gern, die folgenden Regeln haben sich bei uns bewährt und funktionieren natürlich auch mit anderen LLMs:

1. Klare Instruktionen: klare Anweisungen nutzen, um passende Ergebnisse zu kreieren.
2. Chats leeren: Ein LLM merkt sich vorherige Eingaben, solange das Browserfenster geöffnet ist. Bei einer neuen Anfrage sollte der bisherige Chat deshalb gelöscht werden.
3. Rollen zuweisen: Wie schon erwähnt, kann das LLM verschiedene Rollen einnehmen und zusätzlich die Antworten auf bestimmte Zielgruppen ausrichten
4. Konkrete Beispiele: sie helfen, um Lösungswege oder bestimmte Formate vorzugeben
5. Prompts: Durch die Kombination von Rollen, Instruktionen und Beispielen lassen sich mächtige Prompts, also: Instruktionen an das LLM, schreiben. Diese am besten dann separat als Vorlage für zukünftige Eingaben ablegen!
6. Reihenfolge: Ein LLM schätzt Eingaben ganz am Anfang oder ganz am Ende als besonders wichtig ein. Bei langen Prompts macht es also Sinn, wichtige Anweisungen am Anfang und am Ende zu geben.

Apropos „andere LLMs“: Auf welchem technologischen Gerüst basiert denn ERGO GPT? Und was unterscheidet es von dem öffentlich zugänglichen bzw. abonnierbaren (Bezahl-)Angebot?

Als technologisches Grundgerüst haben wir in der Tat „ChatGPT 3.5 Turbo“ genommen. Der Umstieg auf noch fortschrittlichere Versionen ist in Planung – parallel arbeiten wir übrigens auch am Rollout in andere Kernmärkte von ERGO. Gleichzeitig haben wir sichergestellt, dass sich bei ERGO GPT die Eingaben unserer Kolleginnen und Kollegen nicht vom Anbieter zu Trainingszwecken speichern und verarbeiten lassen. Das ermöglicht es uns, sogar interne und vertrauliche Daten zu verarbeiten. Ihr seht also: Mit ERGO GPT haben wir eine ERGO-interne Lösung geschaffen, die es ermöglicht, Large Language Modelle (LLMs) sicher im Versicherungskontext zu nutzen!

Interview: Ingo Schenk