AI-DAPT: Forschung für künstliche Intelligenz in realen Umgebungen

01. Jan. 2024 bis 30. Juni 2027

Problem/ Herausforderung:

Immer mehr KI-Technologien werden von der Forschung in die konkrete Anwendung gebracht – sei es im privaten oder im öffentlichen Sektor. Bei diesem Übergang hin zur echten Nutzung von Künstlicher Intelligenz liegt eine der größten Herausforderungen bei den zugrundeliegenden Daten. Nur wenn wirklich geeignete Daten für die Entwicklung und Bewertung von KI-Modellen verwendet werden, sind diese Modelle auch zuverlässig und leistungsfähig. Ist dies nicht der Fall, scheitern die immer zahlreicher werdenden KI-Initiativen von Unternehmen und öffentlichen Einrichtungen aufgrund unerwarteter Kosten, verpasster Fristen oder regulatorischer Risiken.

Die datenbezogenen Herausforderungen beim realen Einsatz von KI sind vielfältig: Sie reichen von dürftiger Datenplanung über unzureichende Datenbeschreibungen bis hin zur mehrfachen Entwicklung von datenbezogenen Lösungen für das gleiche Problem. Eine weitere Schwierigkeit liegt im Umgang mit synthetischen (künstlich hergestellten) Daten. Mangelhafte synthetische Datensätze bergen beispielsweise das Problem, dass sie verzerrte Ergebnisse abbilden  oder ungenau sein können. Die Ursachen dafür aufzuspüren, ist hochkomplex und bedarf besonderer Sorgfalt.

Darüber hinaus unterscheidet sich die Entwicklung von KI-Modellen für eine Laborumgebung drastisch von der Entwicklung von Modellen, die in der realen Welt funktionieren müssen – beispielsweise in der industriellen Produktion. Über die Feinabstimmung von Algorithmen hinaus gilt es sicherzustellen, dass die genutzten Datensätze für die jeweilige Aufgabe auch wirklich geeignet sind. Daneben stellt die Nachvollziehbarkeit von KI auch weiterhin hohe Anforderungen: Notwendig sind maßgeschneiderte Erklärungen durch Ansätze, die es möglichst vielen Nutzer:innen ermöglichen, KI-Vorhersagen zu verstehen und ihnen zu vertrauen.

Herangehensweise/ Lösung:

Das EU-Projekt AI-Dapt verfolgt einen datenzentrierten KI-Ansatz mit dem Ziel, die Vertrauenswürdigkeit von KI-Lösungen für ihren Einsatz in realen Umgebungen zu stärken. Unter Leitung des »Athena Research Center« erforschen 18 Projektpartner hybride KI-Lösungen, die datengesteuerte KI in Verbindung bringen mit wissenschaftlich-theoretischen Fachkenntnissen.

Dazu entwickeln die Projektpartner datenzentrierte Lösungen für den gesamten Lebenszyklus des Einsatzes von Künstlicher Intelligenz in produktiven Umgebungen. Diese ermöglichen eine Ende-zu-Ende-Automatisierung über den gesamten Zyklus hinweg – vom Design über die Ausführung und Evaluierung bis hin zur Optimierung von intelligenten Daten-KI-Pipelines, die kontinuierlich lernen und sich an ihren Kontext anpassen. Die Pipelines umfassen Schritte wie Datenakquise, Datenbereinigung und Datenanalyse ebenso wie die Entwicklung und das Training von KI-Modellen sowie deren Bereitstellung und Aktualisierung.

Mithilfe der AI-DAPT-Lösungen werden auch während des Betriebs kontinuierliche, dynamische Verbesserungen der KI möglich: So kann beispielsweise das Training von KI-Modellen ohne Unterbrechung angepasst oder die Zeit von der Problemerkennung bis zur Lösung verkürzt werden. Übergreifendes Ziel ist es sicherzustellen, dass die Künstliche Intelligenz in verschiedenen Produktionsumgebungen zuverlässig funktioniert.

Die AI-DAPT-Services:

Konkret entwickelt und verknüpft AI-DAPT dazu eine Reihe von skalierbaren und interoperablen Services, die in einer eigens entwickelten AI-DAPT-Plattform zur Anwendung kommen – und zugleich auch in andere Datenanalyse-Plattformen integriert werden können. Diese Dienste verlaufen entlang der folgenden fünf Achsen:

  • Datendesign für KI, z.B. Daten-Analyse, -Mining, -Harvesting und -Evaluation
  • Datenpflege für KI, z.B. Daten-Bereinigung, -Anreicherung und -Auswahl
  • Datenerzeugung für KI, z.B. Bewertung der Datennutzbarkeit und Erzeugung synthetischer Daten
  • Bereitstellung von Modellen für KI, z.B. Modell-Training und -Evaluation
  • Daten-Modell-Optimierung für KI, z.B. Daten- und Modellüberwachung

AI-DAPT wird die Automatisierung über alle fünf Achsen hinweg mit gezielten „Human-in-the-Loop“-Ansätzen kombinieren. Diese stellen sicher, dass Menschen eine aktive Rolle im KI-System spielen – indem sie beispielsweise Daten überprüfen oder Entscheidungen treffen, die von der KI vorgeschlagen werden. Dabei kommen XAI (Erklärbare KI)-Technologien zum Einsatz: Sie machen die Entscheidungen der KI für Anwender:innen verständlich und stellen eine ethische Nutzung der eingesetzten KI sicher.

Die AI-DAPT-Lösungen werden durch Demonstratoren in den vier verschiedenen Branchen Gesundheit, Robotik, Energie und Fertigung unter realen Bedingungen getestet und kontinuierlich überprüft. Fraunhofer FOKUS unterstützt und entwickelt gemeinsam mit Projektpartnern Services für das Design und die Pflege der Daten, unterstützt bei der Architekturentwicklung der Pipeline und erarbeitet Standards für die Kommunikation der Services untereinander.