Prüfungsanforderungen an die Interne Revision nach DORA, BaFin-Orientierungshilfe und Bitkom-Leitlinie
Kreditinstitute
Beschreibung
Der Einsatz von KI-Agenten gewinnt auch in der Finanzindustrie eine zunehmende Verbreitung. Das Seminar stellt die aktuellen Herausforderungen im IKT-Risikomanagement und der Prüfung durch die Interne Revision aus Sicht des „Bitcom-Leitfadens „Security of AI Agents, DORA und der BaFin-KI-Orientierungshilfe dar. Zentrale Sicherheitsthemen und „risikoorientierte“ Prüfungsfragen zu dem Themengebiet werden dargestellt und für den praktischen Prüfungseinsatz aufgezeigt.
Während traditionelle KI-Systeme reaktiv auf Eingaben reagieren oder statische Inhalte generieren, handeln Agentic AI-Systeme autonom, proaktiv und zielgerichtet. Agentic AI Systeme manifestieren sich in Form autonomer KI, bestehend aus KI-Agenten – maschinellen Lernmodellen – also Systemen, die eigenständig Informationen verarbeiten, Entscheidungen treffen und Handlungen ausführen. Multi Agenten-Systeme erweitern diese Fähigkeiten erheblich, indem sie mehrere spezialisierte Agenten koordinieren, die kollaborativ komplexe Aufgaben bearbeiten.1
Die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) behandelt den Einsatz von KI-Agenten und KI-Systemen nicht als rechtlichen Sonderfall, sondern integriert sie vollständig in das etablierte IKT-Risikomanagement. Kern der Aufsicht ist die im Dezember 2025 veröffentlichte Orientierungshilfe zu IKT-Risiken beim Einsatz von KI, welche den Einsatz von KI im Rahmen von DORA (Digital Operational Resilience Act) und Solvency II reguliert. Die Behörde fordert dabei vor allem Transparenz, Risikokontrolle und klare Verantwortlichkeiten der Geschäftsleitung.2
Besondere Risiken enthalten nach Bitcom gerade die KI- Agenten mit 16 expliziten Risikoarten3 (vgl. Bitcom Security of AI Agents, S. 14) – die BaFin erfasst im MVP-Portal aktuell lediglich 5 Arten (Phishing, Hacking/Malware, Ransomware, DDoS und Sonstige) – wir erhalten durch KI-Agenten ein Vielfaches an Risiken – wie gehen wir damit um, haben wir die Risiken – trotz DORA – überhaupt noch im Griff?
Angriffe vom KI-Agenten selbst, d.h. von innen, sind auch im Bitcom-Leitfaden nicht aufgeführt, können aber in der Praxis auch vorkommen.
Der effektive Datenschutz wird zum konkreten Haftungsrisiko für viele Finanzinstitute. Ein programmtechnischer, tansparenter sowie revisorischer Nachvollzug der Funktionsweise des KI-Agenten ist beim Zusammenspiel einer Vielzahl von KI-Systemen beim KI-Agenteneinsatz in der Praxis schwierig darstellbar und eine der größten Herausforderungen.
KI-Agenten greifen teils auf eine Vielzahl von KI-Systemen zurück – auch eine lückenlose Offenlegung der Funktionsweisen und Quellcodes erscheint vor dem Hintergrund des Datenschutzes unrealistisch.
Entsprechende risikobegrenzende Sicherheitssoftwarelösungen – Anthropic etc. – sind aktuell in der EU für uns nicht zugänglich und müssen in den nächsten Jahren selbst entwickelt werden. Um den datenschutzrechtlichen Rückstand auszugleichen, setzen europäische Unternehmen auf Partnerschaften z.B. Cloud-Anbieter.
Im Rahmen des Seminars werden Prüfungsfragen/ -handlungen und Praxisbeispiele dargestellt und beschrieben.
Programm
- Einleitung / Entwicklungen
- Zentrale Prinzipien und Vorgaben der BaFin
- Lebenszyklus-Ansatz: KI-Systeme müssen von der Datenbeschaffung bis zur Stilllegung überwacht werden
- Risikomanagement: KI wird wie jedes andere IT-Asset behandelt und muss in bestehende IKT-Risikomanagement-Frameworks eingebettet sein
- Vorstandshaftung: Die Geschäftsleitung muss die Funktionsweise und Risiken der eingesetzten KI verstehen und tragen
- Cyber-Resilienz: Finanzunternehmen müssen sich vor KI-spezifischen Bedrohungen wie Modellmanipulation und Datendiebstahl schützen
- Transparenz: Algorithmen und KI-Entscheidungen dürfen nicht intransparent („Black Box“) bleiben und müssen nachvollziehbar sein
- Regulatorische Anforderungen zum IKT-Risikomanagement
- IKT-Risiken aus der Nutzung von KI
- Governance und Organisation
- IKT-Risikomanagementrahmen nach DORA
- Besonderheiten für die IKT-Risikoanalyse (DORA)
- Technisch/ organisatorisch
- Indikationen für die IKT-Risikoanalyse
- Potenzielle Angriffsvektoren
- Risiken
- Mögliche Schutzmaßnahmen
- Technisch / organisatorisch
- Strukturell / organisatorisch
- Schlussbetrachtung und Ausblick
Seminarziel
Das Seminar stellt die aktuellen Herausforderungen im IKT-Risikomanagement und der Prüfung durch die Interne Revision aus Sicht des „Bitcom-Leitfadens „Security of AI Agents, DORA und der BaFin-KI-Orientierungshilfe dar. Zentrale Sicherheitsthemen und „risikoorientierte“ Prüfungsfragen zu dem Themengebiet werden dargestellt und für den praktischen Prüfungseinsatz aufgezeigt.
Teilnehmerkreis
Vorstände/ Geschäftsführer von Finanzinstituten, Führungskräfte/ Mitarbeiter der Internen Revision, KI-Einheiten, Informationssicherheitsbeauftragte, Datenschutzbeauftragte, IKT-Risk Management, IT-Compliance, IT-Bereich, externe Revision, Aufsicht, Mitarbeiter von IKT/ KI-Beratungsunternehmen.
Voraussetzungen
Basiswissen im Bereich der IT und IT-Regulatorik sind für die Teilnahme von Vorteil.