Der Innovationstreiber KI hat in der industriellen Produktion das Potenzial, Fertigungsprozesse schneller, preisgünstiger und weniger fehleranfällig zu gestalten: So lassen sich Störungen in der Produktion durch eine vorausschauende Maschinenwartung minimieren oder die Fertigung anhand exakter Nachfrageprognosen optimieren. Grundlage dafür bilden Daten, denn schließlich prognostiziert und entscheidet ein KI-System basierend auf zuvor eingespeisten Datensätzen. Künstliche Intelligenz kann die produzierende Industrie so dazu befähigen, ihre immensen Datenmengen gewinnbringend zu nutzen.

Aktuell aber sind selbstlernende Systeme nicht ausreichend transparent: Der Weg für die Entscheidungsfindung einer KI wird in einem Trainingsprozess mit großen Datenmengen geebnet – ist aber anschließend für den äußeren Betrachter kaum mehr nachvollziehbar. So bleiben die Gründe für die Entscheidung einer KI im oft Verborgenen. Fehlendes Vertrauen in KI-Systeme ist die Folge.

Alpha-Version der KI-Plattform XMANAI soll Transparenz schaffen und Vertrauen bilden

Ansätze und Lösungen für mehr Transparenz sowie eine bessere Zugänglichkeit von KI in der industriellen Produktion entstehen im Forschungsprojekt XMANAI: Eine Plattform mit einfach zu bedienender Benutzeroberfläche wird Services für den Umgang mit Daten ebenso wie für die Erstellung, Evaluation und Ausführung von KI-Modellen bereitstellen. Nun ist die erste Testversion – die sogenannte »Alphaversion« – für alle Projektpartner online verfügbar.

Konkret ermöglicht die Plattform ihren Nutzerinnen und Nutzer, KI-Modelle zur Lösung von Herausforderungen in der industriellen Fertigung auf Basis von Unternehmensdaten zu trainieren und zu testen. Nachvollziehbare und interaktive Visualisierungen, z.B. in Form von Wissensgraphen und Datendiagrammen, sowie Erläuterungen in natürlicher Sprache zeigen auf, welche Daten und Algorithmen die Entscheidungen des KI-Systems beeinflussen. Zugleich stellt die Plattform Werkzeuge für das Datenmanagement bereit – von Import über die Speicherung von Daten bis hin zur (halb-)automatisierten Aufbereitung und Exploration dieser Daten. Schließlich müssen die Daten über den kompletten Prozess hinweg genau, aktuell und vollständig sein, damit KI-Systeme erfolgreich und gleichzeitig nachvollziehbar sind.

»Explainable AI« mit 14 Projektpartnern gemeinsam weiterentwickeln

Im Horizon-2020-Projekt XMANAI arbeitet Fraunhofer FOKUS gemeinsam mit 14 weiteren Partnern aus ganz Europa seit mehr als zwei Jahren daran, Künstliche Intelligenz zugänglicher und nachvollziehbarer zu gestalten – und so Vertrauen in die Technologie zu schaffen. Geleitet durch das menschenzentrierte Konzept der »Explainable AI« sollen Akteure aus der industriellen Fertigung dazu befähigt werden, genau zu verstehen wie Entscheidungen eines KI-Systems zustande kommen. Dazu entwickeln die Projektpartner nachvollziehbare Algorithmen für unterschiedliche Herausforderungen bei Produktionsprozessen sowie die KI-Plattform, die nun umfassend getestet werden kann.

Der Geschäftsbereich Digital Public Services (DPS) bei Fraunhofer FOKUS beteiligt sich als Wissenschaftspartner für das Datenmanagement in Echtzeit. XMANAI wird bis April 2024 fortgeführt und im Laufe des kommenden Jahres kontinuierlich weiterentwickelt.