Nationale Forschungszentren für Cybersicherheit und Künstliche Intelligenz bündeln For­schungs­aktivitäten

Das Nationale Forschungszentrum für angewandte Cybersicherheit ATHENE und das Deutsche Forschungszentrum für Künstliche Intelligenz DFKI vereinbaren enge Zusam­men­arbeit in der Forschung zur Cybersicherheit von und durch Methoden der Künstlichen Intelligenz.

01.04.2025. Die Künstliche Intelligenz (KI), insbesondere die Entwicklung sogenannter Large Language Models (LLMs), führte in den vergangenen Jahren zu einer technischen Revolution in der Informations­technologie und Digitalisierung. Neuartige Werkzeuge wie ChatGPT erlauben jedem, selbst Erfahrungen mit der neuen KI zu machen. Intelligente Assistenzsysteme, die auf LLMs basieren, können heute nicht nur in Alltagssprache formulierte Fragen beantworten, sondern auch komplexe Aufgaben übernehmen - wie das Verfassen und Übersetzen von Texten, das Programmieren, das Analysieren von Daten oder das Erklären wissenschaftlicher Zusammenhänge. Diese Systeme verändern die Art und Weise, wie wir arbeiten, lernen und kommunizieren – und in vielen Bereichen eröffnen sie völlig neue Möglich­keiten, auch in der Cybersicherheit.

LLM-basierte Systeme unterstützen beim Finden und Vermeiden von Schwachstellen, der Analyse von Cybersicherheitsvorfällen, der Planung von Gegenmaßnahmen und in der Weiterbildung im Bereich Cybersicherheit. Aber ebenso wie die Verteidiger, so profitieren auch Angreifer von den Fortschritten der KI. Cyberkriminelle können ihre Opfer leichter identifizieren und täuschen. Staatliche Angreifer können leichter überzeugende Desinformation erzeugen und verteilen. Zudem sind viele der neuen KI-basierten Anwendungen zunächst nicht ausreichend gegen Cyberangriffe geschützt und bieten damit zahlreiche neue Angriffswege für Cyberkriminelle. Die Kombination von Cybersicherheit und KI – also die Absicherung von KI-Methoden, die Abwehr von KI-basierten Angriffen und die Nutzung von KI zur Verbesserung der Cybersicherheit – gehört daher zu den wichtigsten Herausforderungen in der Digitalisierung und zu den drängendsten Forschungsgebieten der Informatik.

Um diese Herausforderungen von beiden Seiten, KI und Cybersicherheit, mit höchster Kompetenz angehen zu können, haben die beiden großen nationalen Forschungszentren der Cybersicherheit, ATHENE, und der künstlichen Intelligenz, DFKI, heute eine enge Zusam­men­arbeit vereinbart. ATHENE und DFKI werden künftig gemeinsam und abgestimmt Forschungs- und Entwicklungsprojekte in der Schnittmenge von Cybersicherheit und KI angehen und Vorschläge für die Cybersicherheits- und KI-Strategien Deutschlands entwickeln. Geplant sind zudem gemeinsame Veranstaltungen und andere Formate der Wissen­schafts­kommunikation.

Durch die Zusam­men­arbeit beider Zentren entsteht der mit großem Abstand europaweit größte Pool an exzellenter Forschungsexpertise, praktischer Erfahrung im Tech­no­lo­gie­transfer und Beratungskompetenz für Wirtschaft, Gesellschaft und Staat.

Antonio Krüger, CEO des DFKI und Professor an der Universität des Saarlandes unterstreicht die große Bedeutung der Themen KI und Cybersicherheit: “Cybersicherheit ist einer der Schlüsselbausteine für den Einsatz von Vertrauenswürdiger KI, welche am DFKI einen sehr großen Stellenwert einnimmt. Mehrere DFKI-weite Initiativen beschäftigen sich sowohl in der Forschung als auch im Transfer mit unterschiedlichen Aspekten rund um den sicheren, verlässlichen und robusten Betrieb von zukünftigen KI-Systemen. ATHENE ist der perfekte Partner für das DFKI, um eine sichere “KI made in Germany” zu realisieren.”

Michael Waidner, CEO von ATHENE, Professor an der TU Darmstadt und Leiter des Fraunhofer SIT, sagt: “Die digitale Revolution verändert unsere Gesellschaft derzeit genauso nachhaltig und grundlegend, wie dies zuvor die industrielle Revolution getan hat. KI und Cybersicherheit sind zwei der Schlüsseltechnologien hinter dieser Revolution. Ohne Cybersicherheit ist keine verantwortungsvolle Digitalisierung möglich. Ohne KI sind die notwendigen schnellen Fortschritte in der Digitalisierung nicht vorstellbar. Die Zusam­men­arbeit von ATHENE und DFKI bedeutet für Deutschland einen wichtigen Schritt in Richtung digitaler Souveränität und internationaler Forschungsführerschaft in KI und Cybersicherheit. Ich verspreche mir von der Zusam­men­arbeit mit dem DFKI ganz erhebliche Fortschritte in der Cybersicherheit für und durch KI und signifikante Beiträge für den Wissenschafts- und Industriestandort Deutschland.”

Mira Mezini, Mitglied im Direktorium von ATHENE, Professorin an der TU Darmstadt und Ko-Direktorin des KI-Forschungszentrums hessian.ai: “In Darmstadt gibt es nicht nur ATHENE, sondern auch hessian.ai, das Hessische Zentrum für Künstliche Intelligenz. hessian.ai ist eines der erfolgreichsten und wissenschaftlich führenden KI-Zentren in Deutschland. Bereits heute arbeitet hessian.ai eng mit ATHENE und auch dem DFKI zusammen. Als eine der Direktorinnen von ATHENE und Ko-Direktorin von hessian.ai freue ich mich ganz besonders, dass wir den Bereich Cybersicherheit und KI nun dank der Zusam­men­arbeit auch mit dem DFKI weiter stärken können. Darmstadt wird damit in diesem Bereich zum führenden Standort für die exzellente Forschung an der wichtigen Schnittstelle KI und Cybersicherheit in Deutschland.”

Haya Schulmann, Mitglied im Direktorium von ATHENE und Professorin an der Goethe-Universität Frankfurt am Main: “Die Herausforderungen in der Schnittmenge von Cybersicherheit und künstlicher Intelligenz sind gigantisch. Das betrifft nicht nur Schutz vor Hacking-Angriffen und die Verbesserung der Abwehrmaßnahmen, sondern geht weit darüber hinaus. Kognitive Kriegführung und Desinformationskampagnen nutzen schon heute in ganz erheblichem Umfang Methoden der KI. Die Zusam­men­arbeit zwischen ATHENE und dem DFKI wird uns gemeinsam in die Lage versetzen, entscheidende Beiträge zum Schutz Deutschlands vor Cyberangriffen und hybriden Bedrohungen zu leisten.”

Pressebild 1
Bildunterschrift: v.l.n.r.: Prof. Michael Waidner, ATHENE; Prof. Antonio Krüger, DFKI; Prof. Haya Schulmann, ATHENE

Pressebild 2
Bildunterschrift: v.l.n.r.: Prof. Michael Waidner, ATHENE; Prof. Antonio Krüger, DFKI