Projekt VERITAS
istock/ filadendron

Projekt VERITAS: Mit Künstlicher Intelligenz Desinformationen zu Gesundheitsthemen erkennen und bekämpfen

News vom 10. Febr. 2022

Zum Jahresbeginn hat das Forschungsprojekt VERITAS (VERIfication through Trusted ASsociation), gefördert vom Bundesministerium für Bildung und Forschung (BMBF) und unter der Leitung von Fraunhofer FOKUS, seine Arbeit aufgenommen. Im Projekt »VERITAS − Mit Künstlicher Intelligenz Desinformationen zu Gesundheitsthemen erkennen und bekämpfen« wollen die beteiligten Forscherinnen und Forscher eine digitale Plattform aufbauen, die Informationen von öffentlich-rechtlichen Nachrichtenportalen, sozialen Medien sowie Fach- und Expertenwissen strukturiert aufbereitet und Faktenprüfende gezielt bei der Erkennung von Falschmeldungen unterstützt.

In unserer schnelllebigen Gesellschaft werden Informationen über vielfältige Kanäle verbreitet, aufgegriffen und nicht selten umgedeutet. Dadurch ist der Wahrheitsgehalt von Inhalten in Online-Medien für Konsumierende teilweise schwer einzuschätzen. Ein aktuelles Beispiel ist der Informationsfluss zur Gefahrenlage und medizinischen Versorgung während der Corona-Pandemie. Eine Vielzahl polarisierender, irreführender und teilweise fachlich falscher Meldungen tragen zu einer unsicheren Informationslage bei und können langfristig zu einer gesellschaftlichen Vertrauenskrise führen. Die Authentizität von Nachrichten wird zunehmend in Frage gestellt und damit auch die Fähigkeit der Medien, als vierte Gewalt einen Beitrag zur Demokratie zu leisten. Entsprechend groß ist der Bedarf an Maßnahmen, die zur Wiederherstellung des verlorenen Vertrauens beitragen können. Von wesentlicher Bedeutung sind dabei die Erhöhung der Transparenz und Nachvollziehbarkeit von Informationen und ihren Quellen.

Im Projekt VERITAS werden Methoden des Data-Minings zur strukturierten Aufbereitung von Informationspunkten (wie z. B. Nachrichtenmeldungen) sowie Ansätze des maschinellen Lernens zur Erkennung von Falschmeldungen zu Gesundheitsthemen eingesetzt. Zur Verbreitung der verifizierten Informationen wird im Vorhaben ein Empfehlungsmodell entwickelt, das Faktenprüfende gezielt unterstützt. Damit sollen Bürgerinnen und Bürger auf der Suche nach Informationen schneller Fälschungen und Desinformationen erkennen können.

Fraunhofer FOKUS ist Verbundkoordinator und arbeitet im Projekt gemeinsam mit den beiden Partnern Trustami GmbH und Ubermetrics Technologies GmbH. Die Projektlaufzeit beträgt drei Jahre bis Ende 2024.

VERITAS wird im Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit »Digital. Sicher. Souverän.« gefördert. Gegenstand der Förderung ist die Erforschung und Entwicklung von Methoden und Technologien sowie die Analyse gesellschaftlicher und rechtlicher Rahmenbedingungen, um die massenhafte Verbreitung von Desinformationen besser zu verstehen und ihr entgegenwirken zu können. Die transparente Verbreitung von validierten und vertrauenswürdigen Informationen ist von hoher gesellschaftlicher Relevanz, insbesondere wenn es um die Gesundheit von Menschen geht. Um glaubwürdige von unglaubwürdigen Informationsquellen zu unterscheiden, können die im Projekt zu entwickelnden KI-basierten Algorithmen zur Textanalyse und -verarbeitung wegweisend sein. Mithilfe neuer Technologien können Menschen somit in Zukunft Desinformationen besser als solche erkennen, was deren Verbreitung entgegenwirkt. Dies stärkt die faktenbasierte Kommunikation zu Gesundheitsthemen und leistet einen wichtigen Beitrag zu einer mündigen Gesellschaft. Ebenso versprechen die zu erwartenden Projektergebnisse einen deutlichen Gewinn an Vertrauenswürdigkeit im digitalen Raum.