Source: Bundesanstalt für Finanzdienstleistungsaufsicht
Finanzunternehmen setzen Künstliche Intelligenz (KI) bereits entlang der gesamten Wertschöpfungskette ein. Die Implementierung und der Betrieb von KI-Systemen können jedoch erhebliche Risiken bergen. Aus regulatorischer Sicht sind vor allem die Risiken der Informations- und Kommunikationstechnologie (IKT) relevant.
Die Orientierungshilfe ist eine unverbindliche Hilfestellung. Sie soll Finanzunternehmen unterstützen, regulatorische Anforderungen aus dem Digital Operational Resilience Act (DORA) beim Einsatz von KI umzusetzen und damit ihre IKT-Risiken effektiv zu managen. Die Orientierungshilfe richtet sich insbesondere an Institute, für die die Capital Requirements Regulation gilt, und für Versicherer, die nach Solvency II beaufsichtigt werden.
Besonderes Augenmerk gilt dabei dem IKT-Risikomanagement und dem IKT-Drittparteienrisikomanagement. Die Orientierungshilfe betrachtet die IKT-Risiken entlang des KI-Lebenszyklus. Dieser umfasst die Beschaffung von Daten, die Entwicklung von Modellen und deren Bereitstellung sowie den laufendenden Betrieb und die Stilllegung. Die Sicherheit und Resilienz eines KI–Systems müssen in jeder Phase gewährleistet sein. Neben spezifischen Schutzmaßnahmen für die IKT–Assets ist entscheidend, dass KI-Systeme auch innerhalb des bestehenden IKT-Risikomanagementrahmens berücksichtigt werden.
Die Orientierungshilfe berücksichtigt auch Erfahrungen der Industrie mit dem Einsatz von KI-Systemen.