Gesellschaft:
- Öffentlich-/ rechtliche Bank überprüft organisatorische und regulatorische Grundlagen für den KI-Einsatz
| Mögliche Projekt-/ Revisionsunterstützung | Erläuterung |
|---|---|
| Erstellung der KI-Strategie (ggf. Ergänzung/ Modifizierung der DOR-Strategie) | Berücksichtigung gesetzlicher und regulatorischer Vorgaben Unternehmensspezifischer KI-Einsatzbereich (strategische Vorgaben, Nutzungsfelder, Entwicklungen) KI-Aufbau- und Ablauforganisatorischer Rahmen Unterstützung bei der Erstellung von KI-KPI´s KI-Einbindung in den IKT-Risikomanagementrahmen Berücksichtigung der KI-Risiken bei der Risikotoleranzschwelle Berücksichtigung der KI bei der Gewährleistung der Informationssicherheit und des Datenschutzes KI und meldepflichtige IKT-Vorfälle (Use-Cases zur Verhinderung von IKT-Vorfällen) Berücksichtigung der KI bei Tests der digitalen operationellen Resilienz IKT-Geschäftsfortführungsmanagement (KI-Auslöser / KI-Use-Cases incl. IKT-Kommunikation |
| Risikoorientierter Prüfungsansatz der Internen Revision | Unterstützung bei der Ergänzung/ Modifizierung des risikoorientierten Prüfungsansatzes der Internen Revision KI-Prüffelder – Erstellung/ Modifizierung der Prüffeldmemoranden Vorfallfreier Einsatz in der Internen Revision (meldepflichtiger IKT-Vorfall) |
| Regulatorische-, Compliance- Vorgaben bzgl. KI | MaRisk (AT 4 Risikomanagement, AT 8 Anpassungsprozesse) DS-GVO VERORDNUNG (EU) 2024/1689 DES EUROPÄISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU), 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU),2020/1828 (Verordnung über künstliche Intelligenz) etc. |
| KI-Aufbau- und Ablauforganisation | Die KI-Richtlinie sollte insbesondere Regelungen zu folgenden Punkten enthalten (vgl. Bitcom Praxisleitfaden „KI & Datenschutz“): Anwendungsbereich, Definitionen KI-Prinzipien oder Leitbild des Unternehmens bzgl. der Entwicklung und Nutzung von KI Grundsätze der Nutzung Dokumentations- und Transparenzanforderungen Zuständigkeiten, Genehmigungserfordernisse, Aufklärungs- und Sanktionsmechanismen bei Missachtung der Richtlinien Bezüge zu anderen internen Richtlinien und zu externen regulatorischen Vorgaben Verweis auf weitere Regelungen Die weiteren Regelungen (z. B. „Standards“) können beliebige weitere Felder abdecken. Beispiele sind: Details der Dokumentation von KI-Systemen und Modellen Verfahren zur Sicherstellung von Fairness, Transparenz und Interpretierbarkeit, Zuverlässigkeit, Vermeidung von Voreingenommenheit („bias“) Compliance und Regulierung: Sicherstellung der Einhaltung geltender Gesetze wie der KI-Verordnung und weiterer Regulierungen, Terms of Use und branchenspezifischer Standards im Kontext der Entwicklung/Nutzung von KI-Systemen und Modellen Vorgaben für die Beschaffung/den Einkauf von Anwendungen mit KI-Komponenten Handlungsanforderungen/-empfehlungen für die Angestellten Einzelheiten des Risikomanagementsystems und des Qualitätsmanagementsystems IP Recht (u. a. urheberrechtliche Aspekte bei Nutzung von Daten zu Training/Entwicklung/Adaptierung von KI-Modellen und Systemen) Überwachung von Modellen im Einsatz, die mit hohem Risiko behaftet sind Nutzung von personenbezogenen und nicht personenbezogenen Daten für die Entwicklung, das Testen und den Einsatz von Modellen Sicherheit und Informationssicherheit von KI-Anwendungen Regelungen für einzelne Anwendungsfelder („Use Cases“) – etwa KI-Einsatz im Bewerbungsverfahren, in der Personaladministration Verhältnis zu benachbarten Themenfeldern, z. B. Datenschutz evtl. ergänzende oder abweichende Regeln für unterschiedliche Länder |
| KI-GAP-Analysen | Nutzung spezifischer Checklisten und GAP-Methoden |
Seminare zum Umsetzungsgebiet
KI – künstliche Intelligenz– regulatorische Vorgaben und die Bedeutung für die Interne Revision
Zertifizierung
KI-/ AI-Compliance Manager VÖB-Service