Kontinuierliche Auditierung von KI-Systemen gemäß EU AI Act

Mit der technischen Spezifikation zum »Continuous Auditing Based Conformity Assessment for AI-enabled systems (CABCA)« (ETSI TS 104008) steht erstmals eine Spezifikation zur Verfügung, mit der regulatorische Anforderungen an KI-Systeme dauerhaft und automatisiert nachverfolgt werden können. Fraunhofer FOKUS hat im Konsortium maßgeblich an der Spezifikation mitgearbeitet und seine Kompetenzen im Bereich von Künstlicher Intelligenz (KI) in die Entwicklung eingebracht.

Female Lawyer Using AI Technology In Digital Legal Sector Meeting
© istock / AndreyPopov

CABCA übersetzt komplexe Vorgaben aus europäischen Normen und Gesetzen – insbesondere dem EU AI Act – in einen Prüfprozess mit messbaren Kriterien, die über den gesamten Lebenszyklus von KI-Systemen kontinuierlich überwacht werden. Mit der Spezifikation wird ein Vorgehen beschrieben, mit dem die Konformität und Transparenz sowie das Vertrauen von Regulatoren und Kunden in KI-Systeme langfristig sichergestellt werden kann. Dafür werden zentrale Abschnitte einer automatisierbaren Prüfung definiert: Scoping, Operationalisierung, kontinuierliche Beurteilungsprozesse sowie verschiedene Prüfpfade wie Self-Assesssment, Third-Party-Assessment und Zertifizierung dargestellt. 

Die Spezifikation verknüpft Konformitätsspezifikation, Operationalisierung, die Identifikation von Messwerten und Belegen zu einem nachvollziehbaren Audit-Vorgehen. Wichtige Normen und Standards, wie z. B. ISO/IEC 42001, ISO 19011 oder ISO 9001 und EU-Verordnungen wie der AI Act, werden beachtet. Mit CABCA steht eine strukturierte Vorgehensweise zur Verfügung, um abstrakte rechtliche Anforderungen in messbare, automatisiert erhobene Belege zu überführen – und damit einen belastbaren Compliance-Lebenszyklus für KI-Systeme zu etablieren.

Letzte Änderung: