Vertrauen in Technologien

Vertrauenswürdige Künstliche Intelligenz (KI)

KI-Systeme übernehmen zunehmend Entscheidungen – sei es bei industriellen Fertigungsprozessen, im Gesundheitswesen oder in der öffentlichen Verwaltung. Doch wie lässt sich sicherstellen, dass diese Entscheidungen nachvollziehbar und fair sind?

Fraunhofer FOKUS entwickelt Methoden der erklärbaren KI, etwa im EU-Projekt XMANAI, um Entscheidungsprozesse transparent zu machen.

Vertrauen in Daten

Zur Erkennung von Fake News, Deepfakes und manipulativen Inhalten arbeitet Fraunhofer FOKUS mit linguistischen KI-Modellen im Projekt Veritas sowie an technischen Standards wie dem C2PA-Protokoll zur Herkunftsnachverfolgung digitaler Medien (Lösung FAMIUM Content Provenance & Authenticity).

Bürgerinnen und Bürger müssen darauf vertrauen können, dass ihre Daten geschützt sind – besonders in der öffentlichen Verwaltung oder in sensiblen Bereichen wie der Gesundheitsversorgung. Nur dann werden sie auch digitale Dienste nutzen. Fraunhofer FOKUS entwickelt dafür Lösungen für vertrauensvolle Datenräume, z. B. mit dem Projekt PISTIS, in dem sichere Datentransfers ermöglicht werden. Auch bei der Entwicklung vertrauenswürdiger digitaler Identitäten – z. B. mit SmartID – stehen Datenschutz und Benutzerfreundlichkeit im Fokus.

Transparente urbane Datenplattformen wie in Jena oder dem »Daten-Kompetenzzentrum für Städte und Regionen (DKSR)« schaffen Vertrauen in datengetriebene Stadtentwicklung durch Offenheit und Teilhabe.

Vertrauen in vernetzte Systeme

Moderne IT-Infrastrukturen sind hochgradig vernetzt – vom Internet der Dinge über Cloud-Dienste bis hin zu globalen Lieferketten. Hier ist das Vertrauen in die Zuverlässigkeit und Sicherheit der Systeme entscheidend.

Im Projekt DOSS arbeitet Fraunhofer FOKUS an einem sicheren IoT-Betrieb mit Lieferkettenkontrolle. Im Bereich autonomes und teleoperiertes Fahren (Projekt AINET) untersuchen unsere Forschenden, wie technologische Brücken – z. B. durch menschliche Fernsteuerung – Vertrauen in neue Mobilitätskonzepte schaffen können.

Auch in der Mensch-Maschine-Interaktion spielt Vertrauen eine zentrale Rolle: In einem aktuellen Projekt analysieren wir die Nutzererfahrung mit mobilen Servicerobotern – und wie sich Vertrauen durch Design und Verhalten gezielt fördern lässt.

Vertrauen ersetzt nicht Kontrolle

Vertrauen in IT entsteht nicht nur durch intuitive Nutzung, sondern auch durch überprüfbare Sicherheit und Wissen, um das Risiko einschätzen zu können. Dies ist herausfordernd in einem Umfeld, in dem sich Technologien rasant wandeln. Bewertungs- und Kontrollmechanismen müssen kontinuierlich angepasst werden.

Fraunhofer FOKUS besitzt umfangreiche Erfahrungen in der Zertifizierung von Software und setzt verstärkt auf kontinuierliche, automatisierte Auditierungen, um den dynamischen Entwicklungen gerecht zu werden. Dafür nutzen FOKUS-Forschende Erfahrungen aus dem Cloud Security-Bereich (Projekt EU SEC) auch für die Qualitätssicherung von KI-basierter Software (Projekt IML4E). Im CertLab begleiten unsere Expertinnen und Experten Zertifizierungsverfahren nach internationalen Standards.