COCO, Newsletter, KI, 190401
istock/ gremlin

KI mit FOKUS

»Die Geschöpfe müssen manchmal ihren Schöpfer schützen, selbst gegen seinen Willen« – Ein Zitat aus dem Hollywood-Blockbuster »I, Robot« aus dem Jahr 2004, der auf den Geschichten des Science-Fiction-Autors Isaac Asimov basiert, scheint aus dem Reich der Phantasie zu kommen. Im Jahr 2018 warnten jedoch Forscher u. a. der Universitäten Stanford und Yale sowie Entwickler von Microsoft und Google in ihrer Arbeit »The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation« vor den Gefahren von Künstlicher Intelligenz (KI) und forderten ein Moratorium für deren Weiterentwicklung. Doch was ist eigentlich KI, wie kann sie uns in unserem Alltag helfen und warum bestehen solche Vorbehalte gegen diese Technologie?

Im Jahr 1950 entwickelte Alan Turing in seiner Arbeit »Computing Machinery and Intelligence« den nach ihm benannten »Turingtest« – ein Testverfahren, dass klären sollte, ob eine Maschine das Denken eines Menschen nachahmen kann. Während des Tests chattet ein Mensch mit zwei unsichtbaren Partnern – einer anderen Person sowie einem Computer. Mithilfe seiner Fragen soll er klären, welcher Partner der Mensch und welcher der Computer ist. Wie schwer diese Entscheidung sein kann, zeigte Joseph Weizenbaum mit seinem 1966 entwickelten Computer-Programm ELIZA, das als Meilenstein der künstlichen Intelligenz und erster Chatbot gefeiert wurde. ELIZA wurde dafür konzipiert, einen menschlichen Therapeuten zu ersetzen. Weizenbaum war schließlich entsetzt darüber, wie ernst viele Testpersonen dieses einfache Programm nahmen und ihm intimste Details ihres Lebens anvertrauten. Diese Erfahrung gilt als Schlüsselerlebnis von Weizenbaum, das ihn zum Kritiker gedankenloser Computergläubigkeit machte. So hat sich auch das im September 2017 eröffnete Weizenbaum-Institut, an dem auch Fraunhofer FOKUS beteiligt ist, auf die Fahnen geschrieben, aktuelle gesellschaftliche Veränderungen, die sich im Zusammenhang mit der Digitalisierung abzeichnen, zu untersuchen und künftige politische und wirtschaftliche Handlungsoptionen aufzuzeigen.

Künstliche Intelligenz versucht, das Verhalten von Menschen beim Treffen von Entscheidungen nachzubilden. Je nachdem in welcher Ausprägung sich diese Intelligenz befindet, sprechen wir von starker oder schwacher KI. Der Versuch, mithilfe von starker KI eine Maschine zu bauen, die sich wie ein Mensch verhält, ist immer noch eine Zukunftsvision. Dahingegen kann uns schwache Künstliche Intelligenz bereits heute bei konkreten Anwendungsproblemen unterstützen.

KI für das hochautomatisierte Fahren

Für hochautomatisierte Fahrzeuge ist es entscheidend, dass sie ihre Umgebung akkurat und schnell erfassen. Für die Wahrnehmung der näheren Umgebung durch das Fahrzeug ist KI von großer Bedeutung. Fährt ein hochautomatisiertes Fahrzeug auf der Straße, nimmt eine Vielzahl von Kameras und weiteren Sensoren, wie einem Lidar, Informationen aus der Umgebung auf. Diese müssen in Echtzeit analysiert und Fußgänger, Fahrradfahrer, Fahrzeuge und andere Objekte in der Umgebung verlässlich erkannt werden. Mit neuen Verfahren der Künstlichen Intelligenz, insbesondere dem Deep Learning-Verfahren, lernt der Computer anhand einer riesigen Menge von Daten zum Beispiel wie ein Mensch oder Baum aussieht. Je besser die Lerndaten sind, desto realitätsnaher lernt das Auto »Sehen«. Bislang war es sehr aufwändig, in den Lerndaten zu markieren, was ein Baum, ein Mensch oder ein Auto ist. Die Smart Mobility-Forscher von Fraunhofer FOKUS haben ein Label-Werkzeug für Bilddaten von Kameras und Lidar-Laserscannern entwickelt. Mit dem Werkzeug können die Annotationen vorgelabelt und in kürzester Zeit überprüft und korrigiert werden. Labeling-Experten benötigen dadurch im Mittel nur noch 10 Prozent der Zeit, um hochqualitative Lerndaten zu generieren.

KI in der öffentlichen Verwaltung

Wie sich der Einzug von KI-Systemen in die öffentliche Verwaltung gestalten könnte, zeigt das Kompetenzzentrum Öffentliche IT von Fraunhofer FOKUS in der Untersuchung »Exekutive KI 2030«. Dafür  betrachten die Wissenschaftler verschiedene Einflussfaktoren für den KI-Einsatz in der öffentlichen Verwaltung. Für ihren Ausblick bis zum Jahr 2030 orientieren sie sich an der derzeitigen Entwicklung im Bereich des Maschinenlernens, bei dem selbst optimierende Algorithmen Problemstellungen in konkreten Anwendungsfällen bearbeiten. Herausgekommen sind dabei vier Zukunftsszenarien, die mögliche, für öffentliche Verwaltung und Politik relevante Entwicklungen und ihre Wirkungen verdeutlichen. Die Szenarien sollen dabei keine Vorhersagen über die Verwaltung von morgen treffen, sondern vielmehr zur Auseinandersetzung mit möglichen Zukünften anregen und Orientierung geben. Daraus ergeben sich für ein strategisches Planen und Handeln des Staates wichtige Fragen wie etwa: Welche Entwicklungen erscheinen uns wünschenswert? Welche Rahmenbedingungen und Maßnahmen sind denkbar, um sie herbeizuführen? Welche KI ist angemessen, um den besonderen Herausforderungen an Transparenz und Datenschutz im öffentlichen Sektor gerecht zu werden? Welche Risiken und unerwünschten Effekte werden erkennbar? Welche Hebel stehen uns zur Verfügung, um frühzeitig gegenzusteuern?

KI für die Wissensarbeit

Neben der Betrachtung von Zukunftsszenarien arbeiten die Wissenschaftler von Fraunhofer FOKUS auch am Einsatz von KI für aktuelle Forschungsfragen. Ein Beispiel dafür ist das Projekt »Curation Technologies (QURATOR)«. Eine unvorstellbare Menge an Wissen steht heute Wissensarbeitern, also z. B. Ärzten, Architekten, Gutachtern oder anderen Spezialisten, zur Verfügung. Um diese Daten – im Jahr 2017 wurden 16 Zettabytes, also rund 16 Milliarden Terrabytes, an digitalen Daten generiert – sinnvoll nutzen zu können, müssen sie von den Spezialisten entsprechend kuratiert werden. Dazu gehört z. B. das Suchen und Finden von Informationen sowie das Sichten, Auswählen, Ordnen, Sortieren, Zusammenfassen, Klassifizieren, Verknüpfen oder Visualisieren von Inhalten und Daten. Die dafür nötigen Informationen finden sich im Internet, aber auch in Datenbanken von Unternehmen. Intelligente Technologien unterstützen zukünftig den Kurator bei der Erstellung und Pflege von Inhalten und Daten und schaffen eine optimale Grundlage für intelligente Services wie semantische Suche, Empfehlungs-, Sprachdialog- oder Monitoringsysteme. Beispiele für die Anwendung sind die Kuratierung von biomedizinischem Wissen oder die Anwendung von intelligenten Kuratierungstechnologien für das automatische Monitoring von Online-Inhalten für Risikobetrachtungen von Unternehmen, bei der intelligente Algorithmen das Internet und andere verfügbare Quellen nach Informationen und Ereignissen durchsuchen, um damit Risiken, wie z. B. Reputations-, Markt-, Umwelt-, Lieferketten- oder Produktionsrisiken, möglichst frühzeitig zu erkennen.

Im Teilprojekt »Corporate Smart Insights« entwickelt Fraunhofer FOKUS Basisinfrastrukturen und -Dienste. Die Wissenschaftler setzen für die semantische Erstellung, Extraktion, Analyse und Verwaltung von semantischem Wissen KI-Algorithmen ein. Die Vision der Fraunhofer-Forscher ist es, das Unternehmen zukünftig automatisch und mithilfe von intelligenten Kuratierungstechnologien erzeugtes Wissen für ihre Entscheidungen vielfach nutzen können.