SPATIAL

Security and Privacy Accountable Technology Innovations, Algorithms, and Machine Learning

01. Sept. 2021 bis 31. Aug. 2024

Künstliche Intelligenz (KI) wird als zentrale Technologie gehandelt, die Autos intelligent und autonom fahren lassen kann, Lieferketten besser planbar macht, Produktionsprozesse effizienter und damit auch Nachhaltigkeitsziele erreichbar machen soll. Beim Einsatz von KI spielen jedoch auch rechtlich-ethische Themen, Datenschutz und Resilienz eine Rolle. Im jetzt gestarteten SPATIAL (Security and Privacy Accountable Technology Innovations, Algorithms, and Machine Learning)-Projekt sollen nun Fragen rund um vertrauenswürdige KI beantwortet werden.

Das SPATIAL-Projekt wird im Rahmen des Horizon 2020 Programms der Europäischen Kommission gefördert. Ziel der Projektpartner ist es, die Entwicklung von vertrauenswürdiger Künstlicher Intelligenz zu unterstützen. Insbesondere in sicherheitskritischen Bereichen muss KI auch gegen böswillige Angriffe (Cybersicherheit) geschützt sein. SPATIAL will hierzu identifizierte Lücken bei Daten- und Black-Box-KI schließen. Dafür werden belastbare Metriken, datenschutzkonforme Methoden, Verifikationstools und Systemlösungen entwickelt. Darüber hinaus haben sich die Projektpartner zum Ziel gesetzt, entsprechende Fähigkeiten durch Weiterbildungsangebote zu vermitteln.

Im Rahmen des Projektes werden sich die Wissenschaftlerinnen und Wissenschaftler von FOKUS damit beschäftigen, spezielle Werkzeugketten für die Erfassung von potentiellen Schwachstellen und möglichen Angriffen auf KI/ML-Algorithmen für Cyber-Security zu entwickeln und effektive Gegenmaßnahmen zu definieren sowie deren Erprobung in kontrollierten Testbeds und Netzwerksimulationen durchzuführen. Darüber hinaus wird ein starker Fokus auf die Erklärbarkeit von KI/ML-Algorithmen gesetzt – dabei werden spezielle Metriken erforscht und definiert, die auf eine effiziente Art und Weise die Bewertung von ML-basierten Systemen ermöglichen und als Grundlage für die Zertifizierung von KI-basierten Algorithmen dienen können. Als erste Anwendungsfälle für diese Metriken und für die anvisierten Erklärbarkeitskonzepte sollen dabei verschiedene Use Cases aus den Bereichen Intrusion Detection Systems und Firewalls, 112 Notfallkommunikation, 5G und IoT dienen.