
Unternehmen integrieren KI-Funktionen zunehmend in Werkzeuge, Plattformen und Geschäftsprozesse. Damit erweitern sie ihre Möglichkeiten, vergrößern aber auch ihre Angriffsflächen. Im Fokus stehen Identitäten, Berechtigungen, Datenzugriffe, Konnektoren sowie die Wirkung, die KI-Agenten durch automatisierte Aktionen entfalten können.
Fachbereiche fordern immer leistungsfähigere KI-Funktionen, während Sicherheits- und Steuerungsmechanismen häufig nicht im gleichen Tempo mitwachsen. Deshalb braucht es eine Antwort auf die Frage: Wie lassen sich KI-Agenten produktiv und zugleich sicher einsetzen?
Ein Fachbereich fordert ein neues KI-Tool, ein Team entwickelt einen eigenen Agenten, ein Audit verlangt Nachweise zu KI-Risiken. Die Ausgangslage unterscheidet sich, die zugrunde liegende Lücke ist vergleichbar: Risikomanagement, Sicherheitsarchitektur und Governance können mit der Geschwindigkeit der technischen Einführung und Nutzung von KI nicht Schritt halten. Das hat schwerwiegende Konsequenzen: Früh entstandene Rechte-, Daten- und Integrationsstrukturen lassen sich später nur mit hohem Aufwand korrigieren. Verbote verhindern die Nutzung nicht zuverlässig, sondern verlagern sie in schwer kontrollierbare Bereiche wie private Accounts oder browserbasierte Konnektoren.
Die KI-Nutzung bleibt für IT und Informationssicherheit teilweise unsichtbar, da Daten über Cloud-Dienste und Konnektoren am klassischen Unternehmensnetz vorbeifließen. Eine vollständige Übersicht der verwendeten KI-Dienste fehlt in vielen Organisationen.
Die vermeidbare Konsequenz: unkontrollierter Datenabfluss und Shadow AI, die sich erst im Schadensfall zeigen
Neue KI-Systeme und Agenten erhalten weitreichende Datenzugriffe und Handlungsmöglichkeiten, während Prinzipien wie Least Privilege zugunsten einer schneller Nutzung aufgeweicht werden. Agenten handeln teilweise unter fremden Identitäten, statt nachvollziehbare Delegationsmodelle zu nutzen.
Die vermeidbare Konsequenz: Missbrauch überprivilegierter Zugänge und erleichterte Kompromittierung durch Angreifer
Übergeordnete KI-Prinzipien sind in vielen Unternehmen vorhanden, Freigaben erfolgen jedoch im Einzelfall ohne wiederverwendbare Standards und Referenzmuster. Die Verbindung zwischen organisatorischen Regeln und technischen Leitplanken fehlt.
Die vermeidbare Konsequenz: verzögerte oder inkonsistente Freigabeentscheidungen, die Innovation ausbremsen statt absichern
Bestehende Risikoanalysen und das ISMS berücksichtigen KI-spezifische Risiken häufig nur unzureichend, während EU AI Act, NIS-2, KRITIS-Anforderungen und ISO 42001 den Bedarf an belastbaren Nachweisen erhöhen.
Die vermeidbare Konsequenz: fehlende Auditfähigkeit gegenüber Aufsicht, Geschäftsführung und Kunden
Bleiben diese Lücken unadressiert, entstehen Betriebsunterbrechungen durch fehlerhafte automatisierte Aktionen, Vertrauensverlust gegenüber Kunden und Aufsicht sowie steigende Kosten durch die spätere Korrektur gewachsener Zugriffsstrukturen. Gleichzeitig verzögert sich die KI-Einführung selbst, weil belastbare Entscheidungsgrundlagen fehlen und Fachbereiche auf unkontrollierte Lösungen ausweichen.
Für uns ist entscheidend, die tatsächliche KI-Nutzung zu betrachten – nicht nur die vorgesehene. Klassische Risikoanalysen greifen zu kurz, wenn browserbasierte Konnektoren, Cloud-zu-Cloud-Datenflüsse und Shadow AI unberücksichtigt bleiben. Verbreitete Annahmen erweisen sich dabei regelmäßig als falsch: Ein Verbot verhindert die Nutzung nicht, Mitarbeitende halten bremsende Regeln nicht dauerhaft ein, und bestehende Sicherheitskontrollen erfassen KI-spezifische Risiken nicht automatisch. Auch eine Richtlinie allein stellt noch keine wirksame Governance dar. Hinzu kommt: KI-Agenten unterscheiden sich von klassischen Softwarewerkzeugen durch ihre Handlungsfähigkeit und die damit verbundenen Datenzugriffe, nutzbaren Werkzeuge und möglichen Wirkungen – drei Dimensionen, die wir getrennt bewerten und angehen.
Daraus ergibt sich für Organisationen ein konkreter Handlungsrahmen: Risiken und bislang unbekannte Nutzung werden sichtbar, Freigabeentscheidungen werden schneller, vergleich- und nachvollziehbarer und Fachbereiche erhalten nutzbare Leitplanken statt pauschaler Verbote. Sicherheits-, Compliance- und Innovationsziele lassen sich dadurch gemeinsam steuern, statt gegeneinander ausgespielt zu werden.
Eine konkrete Tool-Anfrage, ein geplanter Rollout oder ein offener Punkt aus einem Audit sind typische Anlässe, die Sicherheit der eigenen KI-Nutzung strukturiert einzuordnen. Ein erstes Gespräch hilft, die Ausgangssituation, relevante Risiken und die jetzt notwendigen nächsten Schritte zu bestimmen.

Management Consultant, Domain Lead Cybersecurity
Jens Neureither ist Management Consultant bei Cassini Consulting und dort als Domain Lead Cybersecurity für das Themenfeld Cybersecurity verantwortlich. Er berät Kunden im Bereich der technischen IT-Security und Information Security, unter anderem zu NIS-2 Roadmaps und der pragmatischen Umsetzung von Sicherheitskonzepten sowie zu Penetrationstests und deren Nachbereitung. Seine Expertise umfasst zudem Themen wie IoT-Security und Cloud-Sicherheitsarchitekturen. Jens Neureither hat unter anderem an einer Publikation des Bundesamts für Sicherheit in der Informationstechnik (BSI) mitgewirkt, gestaltet als Speaker auf Konferenzen und Messen den öffentlichen Diskurs mit und bringt sein Fachwissen regelmäßig in Interviews und Fachartikeln bei Cassini ein.
*Pflichtangaben
Cassini Consulting steht für moderne Beratung an der Schnittstelle von Business, IT und Transformation. Wir begleiten Organisationen dabei, Zukunft aktiv zu gestalten. Strategisch, technologisch und kulturell. Unser Anspruch: Exzellente Beratung mit Wirkung. Unabhängig, mehrfach ausgezeichnet und immer auf Augenhöhe mit unseren Kunden.







