Künstliche Intelligenz (KI) hält rasant Einzug in immer mehr Lebensbereiche und bietet vielfältige Chancen. Die automatisierte Analyse riesiger Datensätze erlaubt es, autonome Autos zu fahren, Sprachassistenten zu nutzen oder Menschen frühzeitig vor Gefahren zu warnen. Die Bedeutung dieser intelligenten Systeme wird in Zukunft noch weiter zunehmen, zum Beispiel in den Bereichen Medizin und Mobilität. Wir können jedoch nur dann von KI profitieren, wenn wir die Systeme nachvollziehbar, sicher und robust entwickeln und vertrauenswürdig einsetzen.
KI schützen und für IT-Sicherheit nutzen
Um den Herausforderungen der zunehmenden Vernetzung und Digitalisierung geeignet zu begegnen, arbeiten am Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC Cyber-Security-Expertinnen und -Experten an KI-Systemen und maschinellen Lernverfahren (ML), die robust gegenüber Angriffen sind. Dazu untersuchen sie Angriffe auf KI-Systeme, zum Beispiel bei Gesichtserkennung, Sprachverarbeitung oder autonomem Fahren, analysieren die Schwachstellen und entwickeln »gehärtete« Lösungen, die diesen Angriffen standhalten. Gleichzeitig nutzen sie gezielt KI-Methoden, um verbesserte IT-Sicherheitslösungen zu entwickeln. Etwa, um mit KI-basierten Sicherheitslösungen immer komplexere IT-Systeme automatisiert und datenschutzbewahrend zu überwachen – beispielsweise um Identitätsmissbrauch aufzudecken oder im Internet der Dinge manipulierte Geräte frühzeitig zu identifizieren. Weiterhin können damit auch sogenannte Deep Fakes wie manipulierte Texte, Bilder oder Sprachnachrichten erkannt werden.
»Bayern setzt konsequent auf künstliche Intelligenz (KI). Das verschafft uns Gestaltungsspielraum in wichtigen Anwendungsfeldern wie IT-Sicherheit und autonomem Fahren. Mit dem Fraunhofer AISEC ist Bayern bei dieser technologischen Entwicklung auf der Überholspur. Was hier erforscht und getestet wird, kommt in Zukunft in den Unternehmen, ihren Produkten und Dienstleistungen zum Einsatz. Unsere Forschungsförderung von heute ist eine Investition in die Technologieführerschaft von morgen«, sagt Wirtschaftsminister Hubert Aiwanger.
»Systeme der künstlichen Intelligenz werden uns immer mehr Aufgaben abnehmen – ob in der Fabrik, im Büro oder im Alltag. Damit spielen sie eine entscheidende Rolle bei der Transformation von Wirtschaft und Gesellschaft und leiten einen grundlegenden Strukturwandel in der Wirtschaft und in den industriellen Wertschöpfungsketten ein«, sagt Prof. Reimund Neugebauer, Präsident der Fraunhofer-Gesellschaft, anlässlich der Übergabe des Förderbescheids. »Doch um das große Potential KI-basierter Technologien voll auszuschöpfen, bedarf es zuvorderst einer breiten gesellschaftlichen Akzeptanz. Das Forschungsvorhaben ›Cognitive Security‹ setzt an dieser Stelle an und wird einen wichtigen Beitrag dazu leisten, sicherheitsrelevante Fragestellungen zu klären, und damit auch über Bayern hinaus den Innovations- und Technologiestandort Deutschland stärken.«
»Unsere Entscheidungen basieren zunehmend auf Ergebnissen von KI-Systemen. Immer wichtiger wird dadurch auch die Korrektheit und Vertrauenswürdigkeit dieser Systeme. Cyber-Sicherheitsforschung leistet einen wichtigen Beitrag dazu, KI vertrauenswürdig zu gestalten. Das Fraunhofer AISEC entwickelt sichere KI-basierte Lösungen, aber auch Prüf- und Zertifizierungsmethoden und konkrete Werkzeuge, um Unternehmen darin zu unterstützen, KI-Verfahren in Bezug auf deren Angreifbarkeit zu beurteilen und gezielt zu härten«, erklärt Prof. Claudia Eckert, Institutsleiterin am Fraunhofer AISEC. »Unsere Arbeit am Fraunhofer AISEC zielt stets darauf ab, die Welt ein wenig sicherer zu machen. Die Forschung und Entwicklung für sichere KI-Systeme und zur verbesserten Angriffserkennung und -abwehr leistet hierzu einen wichtigen Beitrag. Wir freuen uns deshalb außerordentlich, dass wir durch die Förderung des Freistaats Bayern unsere Kapazitäten im Bereich ›Cognitive Security Technologies‹ weiter ausbauen und die Innovationsfähigkeit Bayerns und Deutschlands damit noch besser unterstützen können.«
Angewandte Forschung zum Nutzen der Gesellschaft
Insgesamt wird das Forschungsvorhaben »Cognitive Security« über die nächsten fünf Jahre mit 5 Mio. EUR vom Bayerischen Staatsministerium für Wirtschaft, Landesentwicklung und Energie gefördert. Das Vorhaben ist Teil des Kompetenznetzwerks »Künstliche maschinelle Intelligenz« im Rahmen der Hightech Agenda der bayerischen Staatsregierung. Im Förderprojekt »Cognitive Security« verantwortet das Fraunhofer AISEC grundlegende Forschungsarbeiten an der Schnittstelle zwischen IT-Sicherheit und künstlicher Intelligenz. Die Ergebnisse werden der Öffentlichkeit zur Verfügung gestellt.
Fraunhofer-Gesellschaft