"Der KI-Agent muss getestet werden. Es braucht Trainingsaufgaben und eine kontinuierliche Prüfung der Ausgabequalität."
"Ein KI-Agent ist ein Werkstudent mit hoher Toleranzschwelle."
"Organisationen müssen klare Regeln zur KI-Nutzung und zum Umgang mit den Ergebnissen vorgeben."
"Es ist schon ein bisschen Arbeit, einen guten KI-Agenten zu bauen. Der initiale Aufwand ist größer, als viele denken."
"KI-Agenten sind kein vorübergehender Hype, sie werden bleiben."
KI-Agenten treffen Entscheidungen und führen selbstständig Aufgaben aus. So werden sie zu digitalen Mitarbeitenden. Doch damit eine effektive Zusammenarbeit zwischen KI und Menschen möglich wird, müssen Unternehmen erst die richtigen Voraussetzungen schaffen. Stephan Dufhues, KI-Experte bei Cassini, unterstützt sie dabei. Im Interview erklärt er, worauf es bei der Entwicklung von KI-Agenten ankommt, welche Rolle KI-Governance spielt und warum der „Human in the Loop“ entscheidend ist, damit Unternehmen von KI-Agenten wirklich profitieren können.
KI-Agenten als Mitarbeitende: Im Gegensatz zu klassischen KI-Assistenten handeln KI-Agenten eigenständig, greifen auf Datenquellen zu und übernehmen komplette Aufgabenprozesse. Sie fungieren als Mitarbeitende, die ihre menschlichen Kolleg:innen bei wiederkehrenden Aufgaben entlasten.
Erfolg hängt von Struktur, Testing und Prompting ab: Ein klar definiertes Prompting-Framework, saubere Zieldefinitionen und kontinuierliches Testing sind die Basis für effektive KI-Agenten und zuverlässige Ergebnisse.
Governance und „Human in the Loop“ sind unverzichtbar: Ohne klare Regeln, Verantwortlichkeiten und menschliche Kontrolle entstehen Risiken bei Qualität, Ethik und Vertrauen. Unternehmen müssen KI-Governance etablieren und Mitarbeitende befähigen, Ergebnisse kritisch zu prüfen.
Stephan Dufhues: Ein KI-Agent unterstützt bei wiederkehrenden Aufgaben im Arbeitsalltag. Jedoch nicht wie ein KI-Assistent, der auf Fragen antwortet oder Texte schreibt. Ein KI-Agent ist deutlich aktiver und autonomer. Ich kann ihn quasi programmieren, indem ich ihm Anweisungen hinterlege und ihm so einen Handlungsrahmen vorgebe. Dann weiß er beispielsweise, ob er Rückfragen stellen oder sich an bestimmte Regeln halten soll. Ich kann bestimmte Dateien oder Drittsysteme als Informationsquellen anbinden. Dieses ganze Wissen hat er dann immer parat. Das macht den KI-Agenten deutlich wertvoller als einen KI-Assistenten.
Stephan Dufhues: Nehmen wir an, ich möchte sichergehen, dass in meiner Organisation Texte formuliert werden, die einer Guideline folgen. Dann erstelle ich ein Glossar an Wörtern, die ich gerne nach außen kommunizieren möchte, definiere die Tonalität und so weiter. Dieses Wissen hinterlege ich in einem KI-Agenten. Wenn ein Mitarbeitender nun einen Text geschrieben hat, kann er diesen an den Agenten geben. Der prüft den Text, ersetzt einzelne Wörter durch Begriffe aus dem Unternehmensglossar und passt die Tonalität an. So erhalte ich automatisiert einheitliche Texte von hoher Qualität. Ein weiteres Beispiel: Ich möchte in jedem Quartal einen Report mit bestimmten Kennzahlen erstellen. Dann schließe ich einen KI-Agenten an mein ERP-System an, das er als Informationsquelle nutzt. Jetzt kann ich mir eine visuelle Zusammenfassung der relevanten Daten aus den letzten drei Monaten erstellen lassen. Ich kann dem Agenten aber auch anweisen, die Daten zu interpretieren und eine erste Prognose vorzunehmen. Zuletzt haben wir mit einem unserer Kunden einen KI-Agenten zur automatisierten Rechnungsprüfung entwickelt. Die Möglichkeiten sind riesig.
Stephan Dufhues: Damit sind wir beim Thema Prompting. Zunächst sollte man immer mit einem Prompting-Framework arbeiten. Das bedeutet konkret, dass ich dem KI-Agenten ein Ziel vorgebe, ihm eine Rolle zuweise und ihm den Kontext liefere, in dem er sich bewegen soll. Ich sage ihm, was er machen und was er unbedingt vermeiden soll. Ein Beispiel: Suche nur nach Fakten, die mit Quellen belegbar sind, und denk dir nicht selbst etwas hinzu. Das Framework ist die Basis für gute Ergebnisse. Und dann folgt der wenig populäre, aber umso wichtigere Teil: Der KI-Agent muss getestet werden. Es braucht Trainingsaufgaben und eine kontinuierliche Prüfung der Ausgabequalität.
Stephan Dufhues: Auch hier hilft die KI. Wenn ich sie nach einem Framework zum Prompten von KI-Agenten frage, erhalte ich wahrscheinlich eine lange Liste. Aber um etwas konkreter zu werden: Das Framework RACE bietet eine sehr gute Grundlage. Auch weil es leicht zu merken ist. Es steht für Role, Action, Context und Execute/Expectation. Wenn ich diese vier Komponenten klar definiere, habe ich gute Chancen, ein brauchbares Ergebnis zu erhalten. Im Entwicklungsprozess würde ich die KI aber immer wieder einbeziehen und Feedback einholen. Also gerne eine Entwicklungsschleife mehr einplanen, damit ein guter KI-Agent entsteht, der wirklich weiterhilft.
Stephan Dufhues: Wiederkehrende Aufgaben machen wenig Spaß. Sie werden erledigt, aber nicht immer mit der größten Motivation. Darunter kann die Qualität leiden. Jedoch nicht mit einem KI-Agenten. Ein Kunde hat in einem unserer KI-Workshops einen treffenden Vergleich angestellt: Ein KI-Agent ist ein Werkstudent mit hoher Toleranzschwelle. Er bekommt eine Rechercheaufgabe oder soll bestimmte Informationen zusammenfassen. Das ist ein bisschen lästig, aber der KI-Agent fühlt sich dabei nicht schlecht und erledigt seine Aufgaben immer zuverlässig. Aber ganz wichtig: Du kannst ihn auch nicht komplett ohne Kontrolle arbeiten lassen. Da kommen wir zu den Risiken.
Stephan Dufhues: Es muss immer mindestens einen Menschen geben, der die KI-Agenten in gewissen Zyklen testet, Ergebnisse kritisch prüft und Verbesserungen einpflegt. Nur so können fachliche und ethische Standards sichergestellt werden. Menschliche Kontrolle erhöht das Vertrauen in die Entscheidungen und deren Nachvollziehbarkeit. Das ist das Wesentliche hinter „Human-in-the-Loop“. Klingt einfach, wird aber nicht immer beachtet und muss deshalb unbedingt fest in den Prozessen und Verantwortlichkeiten verankert sein.
Stephan Dufhues: Richtig, der KI-Agent ist im Grunde ein weiterer Mitarbeiter, in dem Fall ein digitaler. Oder noch besser: Drei oder vier KI-Agenten erledigen jeweils spezifische Aufgaben, während ich mich anderen Herausforderungen widmen kann, für die im Arbeitsalltag sonst keine Zeit bleibt. Und wenn die KI-Agenten fertig sind, gehe ich in die Kontrollschleifen.
Stephan Dufhues: Das ist eine Herausforderung. Mittlerweile nutzen immer mehr Mitarbeitende ChatGPT auch privat. Wenn sie nach einer Restaurantempfehlung suchen und spätestens vor Ort feststellen, dass es das Restaurant nicht mehr gibt, wird das falsche KI-Ergebnis offensichtlich. Im Unternehmenskontext ist das je nach Aufgabe erstmal gar nicht sichtbar. Deswegen müssen Organisationen klare Regeln zur KI-Nutzung und zum Umgang mit den Ergebnissen vorgeben: Auf welchen Quellen basiert die Antwort? Sind sie aktuell und vertrauenswürdig? Wie lassen sich die Ergebnisse gegenprüfen? Außerdem müssen klare Verantwortlichkeiten definiert und Rollen zugewiesen werden.
Stephan Dufhues: Ja, KI-Goverance ist ein Regelwerk, in dem Rechte, Rollen und Kontrollmechanismen verankert sind, damit die Regeln auch eingehalten werden. Der Einsatz von KI hängt sehr eng mit dem Datenmanagement zusammen. Welche Unternehmensdaten sollen für KI-Agenten zugänglich gemacht werden und welche nicht? Darf der Mitarbeitende die Unternehmensdaten sehen, die der Agent zu einer bestimmten Anfrage liefert? Im Grunde ist die KI-Governance lediglich eine logische Konsequenz dessen, was im Unternehmenskontext in den Bereichen IT und Data ohnehin bereits umgesetzt werden sollte: ein Regelwerk als Voraussetzung für einen verantwortungsvollen und sicheren Umgang mit Künstlicher Intelligenz.
Stephan Dufhues: Ein gewisses Grundverständnis dafür, wie die Technologie funktioniert, ist erforderlich. Nicht in der technischen Tiefe, aber KI darf keine Blackbox sein. Umso wichtiger ist es, die Mitarbeitenden mit den verschiedenen KI-Lösungen, die im Unternehmen verfügbar sind, nicht allein zu lassen. Das kann sehr schnell zu Frustration führen. Das gilt vor allem für Mitarbeitende, die eine hohe Erwartungshaltung haben, aber im Grunde noch keine Berührungspunkte mit KI hatten. Worauf ich hinaus will: Es ist schon ein bisschen Arbeit, einen guten KI-Agenten zu bauen. Der initiale Aufwand ist größer, als viele denken. Deswegen braucht es ein Stück Guidance, Raum und Zeit zum Ausprobieren. Es lohnt sich, denn dann stellen sich schnell erste messbare Erfolge ein – Lösungen, die unmittelbar im Arbeitsalltag helfen. Das motiviert, sich noch intensiver mit dem Thema auseinanderzusetzen.
Aktuelle Zahlen: Unternehmen setzen auf KI-Agenten
(Quelle: Salesforce KI-Index Mittelstand, März 2026)
Stephan Dufhues: Zunächst sollte man sich zusammensetzen und überlegen, in welchen Bereichen KI-Agenten unterstützen könnten. Wir bieten dazu beispielsweise KI-Workshops an, in denen erst einmal einzelne Use Cases identifiziert werden, die im Alltag relevant sind. Außerdem muss die Datenverfügbarkeit geprüft werden. Hinzu kommt das angesprochene Thema KI-Governance: Es müssen Prozesse verankert und Verantwortlichkeiten geklärt werden. Danach kann es mit dem ersten kleinen Pilotprojekt losgehen. Dabei ist es wichtig, nach einiger Zeit den Nutzen zu messen und dann zu überlegen, ob eine schrittweise Skalierung Sinn macht und wie sie realisiert werden kann.
Stephan Dufhues: Ich bin überzeugt, dass künftig immer mehr Teilaufgaben von Agenten oder auch von Multi-Agenten-Systemen übernommen werden. Für Mitarbeitende ist das positiv, da sie mehr Zeit für kreativere Aufgaben bekommen. Dieser geistige Freiraum fehlt oft, weil die wiederholenden Tätigkeiten im operativen Geschäft kontinuierlich erledigt werden müssen. Entscheidend wird, sich proaktiv und fortlaufend mit dem Thema KI-Agenten auseinanderzusetzen. Dann sehe ich die Entwicklung als große Chance. Eines ist klar: KI-Agenten sind kein vorübergehender Hype, sie werden bleiben.
Senior Management Consultant
Stephan Dufhues begleitet seit neun Jahren als Technologieberater Kundenprojekte bei Cassini. In den vergangenen zwei Jahren hat insbesondere das Thema Künstliche Intelligenz deutlich an Bedeutung gewonnen und wird von vielen Organisationen als zentraler Treiber der digitalen Transformation verstanden. Stephan Dufhues unterstützt Unternehmen bei der strukturierten, sicheren und wirtschaftlich sinnvollen Einführung von KI.
