Der Cassini-GPT-Hub: KI für den Cassini-Alltag nutzbar machen

Ein großes Optimierungspotenzial liegt in der Nutzung für auf Cassini-Use-Cases zugeschnittene Prompts, sodass nicht immer wieder ChatGPT neu erklärt werden muss, was man vorhat und welches Ergebnis man erwartet. 

Ebenfalls erfordert die Arbeit mit ChatGPT eine gewisse Vorarbeit. Diese umfasst oft das Zusammensuchen relevanter Inhalte, z. B. von verschiedenen Quellen (lokale Office-Dateien, Datenbanken etc.), das Anonymisieren und die Übertragung dieser Daten in den Chat, bis die eigentliche Arbeit erfolgen kann. Wünschenswert wäre ein direkter Zugriff auf relevante Daten und ebenfalls mit passenden Prompts, sodass direkt losgelegt werden kann. 

Da wir für dieses Vorhaben realitätsnahe Daten nutzen wollten, war es uns auch wichtig, für Datenschutzkonformität zu sorgen. Eine Alternative wären sicherlich lokale KI-Modelle gewesen. Aufgrund der begrenzten Zeit ergaben sich jedoch keine Möglichkeiten, solche zu trainieren, weshalb wir uns für schnelle und hoch qualitative Ergebnisse für ChatGPT entschieden haben. Mit dieser Entscheidung war es erforderlich, die Bestimmungen für Datenschutz zu erfüllen. 

Unsere vorbereiteten Prompts für Cassini-Use-Cases spiegeln Mikroanwendungen wider, welche wir an einem Ort, dem Cassini-KI-Hub, für Cassinis zugreifbar gemacht haben. Diese Mikroanwendungen können allgemeine ChatGPT-basierte Lösungen für verbesserte Informationsbeschaffung und Entscheidungsfindung sein, aber ebenso für Cassini abgestimmte Tools wie CINDER (Matching von Beraterprofilen mit Projektausschreibungen) darstellen. Auch das Erstellen von solchen Anwendungen könnte im Sinne einer Low-Code-/ No-Code-Plattform ohne tiefgehende Programmierkenntnisse ermöglicht werden.

Der Cassini-KI-Hub setzt sich aus einer Webanwendung und einem Backend zusammen. Das Backend enthält die bereits erwähnten Mikroanwendungen und ist an ChatGPT angebunden. Diese Anbindung besteht zudem aus einer Verschlüsselungskomponente, um sensible Inhalte unkenntlich zu machen.

Im Mittelpunkt stehen die verschiedenen Anwendungen, die jeweils aus vordefinierten Prompts bestehen, die den Rahmen für den Anwendungsfall setzen und ebenfalls an verschiedene Datenquellen angebunden sein können.

Ein kritischer Aspekt des Cassini-Hubs ist der Schutz sensibler Daten. Wir entwickelten eine Komponente, die sensible Daten, wie z. B. Namen der Beratenden, Kundennamen und Projektnamen unkenntlich macht, bevor diese an ChatGPT übermittelt werden.

In der Abbildung wird gezeigt, dass die Informationen aus Schritt 1 mit einem zur Laufzeit erzeugten Schlüssel in Schritt 2 unkenntlich gemacht werden und schließlich in den vordefinierten Prompt in Schritt 3 eingefügt werden, welcher dann an OpenAI übermittelt wird.

Die Entwicklung einer solchen Plattform ist ein kontinuierlicher Prozess, der auf Zusammenarbeit und Feedback aus der Beratungspraxis aufbaut, was abseits des Scopes eines GreenLabs liegt. Zukünftige Entwicklungen in diese Richtung sollten also durch die enge Einbindung von Cassinis aufbauen. Dies ermöglicht es, neue Anwendungsfälle für KI in der Beratungswelt zu erschließen.

Dank des Budgets und die Freistellung vom Projekt seitens Cassini, waren wir in der Lage unseren Fokus - weit abseits vom Projektalltag - zu 100% auf das GreenLab-Thema zu legen und es voranzutreiben. Wir hatten lange und intensive Arbeitssessions aber auch sehr schöne Pausen zwischendurch, in denen wir gemeinsam etwas unternommen haben und die Gegend in Zadar (Kroatien) erkundet haben.  

Durch die intensive Zeit zusammen konnten wir die Stärken aller Teammitglieder zum Vorteil des GreenLabs einsetzen und zu einem wertvollen Ergebnis zusammenführen. 

Durch die Verschmelzung von KI-Technologie und beraterischem Know-how kann eine zukunftsorientierte Plattform entstehen, die nicht nur die Art und Weise, wie Beratungsleistungen erbracht werden, neu definiert, sondern auch einen echten Mehrwert für Kunden und Mitarbeitende gleichermaßen schafft. Die Vision für die Zukunft ist klar: den Cassini-KI-Hub als Herzstück einer dynamischen, technologiegetriebenen Beratungskultur zu etablieren, die bereit ist, die Herausforderungen von morgen anzunehmen.