Auch in der Bahntechnik werden zukünftig Systeme, die auf Künstlicher Intelligenz (KI) und Maschinellem Lernen (ML) basieren, eine immer stärkere Rolle spielen. Beispiele für den Einsatz solcher Technologien sind z. B. Assistenz- und Sicherungssysteme, mit denen sich Hindernisse auf der Strecke erkennen lassen oder die Positionsbestimmung von Zügen verbessert werden kann. Die für diese Anwendungen eingesetzten Sensoren, Komponenten und Fahrzeugsysteme setzen Algorithmen ein, die auf Basis ausgewählter Trainingsdaten ihre Funktionalität erlernen und so Fähigkeiten aufweisen, die sich aktuell mittels klassischer Softwarekonstruktion nicht erreichen lassen. Für die Qualitätssicherung solcher Systeme stellen sich ganz neue Herausforderungen: Einerseits müssen die Qualitäts- und Sicherheitsansprüche im Bahnverkehr beachtet und sich andererseits mit der Kritikalität, Komplexität und Dynamik bei der Realisierung von KI-basierten Systemen auseinandergesetzt werden. Insbesondere die Unterschiede zwischen der klassischen Softwarekonstruktion und den datenintensiven Optimierungsprozessen beim Maschinellen Lernen führen dazu, dass sich in der klassischen Softwareentwicklung etablierte Absicherungsverfahren nicht eins zu eins übertragen lassen.

Im KI-LOK-Projekt sollen daher neue Testverfahren und Methoden zur Absicherung und Zertifizierung von KI-gestützten Technologien für sicherheitskritische Anwendungen in der Bahntechnik entwickelt werden.

Die Wissenschaftlerinnen und Wissenschaftler von Fraunhofer FOKUS entwickeln dafür im Projekt ein Vorgehen zur risikobasierten Absicherung kritischer Systemzustände von ML-basierten Anwendungen durch systematisches Testen. Hierzu werden zunächst kritische Anwendungen auf Systemebene identifiziert, klassifiziert und bewertet. Im Anschluss werden bekannte Fehlerklassen bzw. Schwachstellen beim Maschinellen Lernen mit den identifizierten kritischen Systemszenarien verknüpft. Anschließend werden Testdaten auf Basis spezifischer Testmuster generiert.

Dieses Vorgehen basiert auf Methoden und Techniken, die im KI-LOK-Projekt entwickelt werden sollen. Dazu gehören z. B. Testverfahren und Testmuster zur systematischen Generierung von Tests, Techniken zur Diversifizierung und systematischen Mutation vorhandener Szenarien und Datensätze oder Abdeckungsmetriken und -kriterien für die risikoorientierte Generierung von Tests.

Neben Fraunhofer FOKUS sind die ITPower Solutions GmbH, neurocat GmbH, Thales Deutschland GmbH und die Heinrich-Heine-Universität Düsseldorf am Projekt beteiligt.

Das Projekt KI-LOK wird durch das Bundesministerium für Wirtschaft und Energie (BMWi) im Förderprogramm »Neue Fahrzeug- und Systemtechnologien« gefördert.