Desinformation
Die vielschichtige Bedrohung der digitalen Wahrheit
Als ausgewiesener IT-Forensik-Experte trägt Prof. Martin Steinebach maßgeblich zum Verständnis und zur Bekämpfung von Desinformation bei, einem vielschichtigen Phänomen, das die bewusste Verbreitung falscher Inhalte im Nachrichtenstil beschreibt und somit von der unbeabsichtigten Fehlinformation abzugrenzen ist. Desinformation bezeichnet dabei spezifisch falsche oder irreführende Informationen, die als Nachrichten präsentiert werden, um Profit zu erzielen oder die öffentliche Meinung zu beeinflussen. Deepfakes, definiert als Medieninhalte, also Gesichter, Stimmen oder andere Elemente in Audio- und Videomaterial, die entweder mit generativer KI künstlich erzeugt oder mittels KI-Technologie manipuliert werden, stellen ein besonders gefährliches Instrument der Desinformation dar, da sie die Unterscheidung zwischen authentischen und manipulierten Inhalten zunehmend erschweren. Die Technologie hinter diesen Fälschungen entwickelt sich rapide weiter und ermöglicht bereits heute den Einsatz entsprechender Verfahren auf handelsüblichen Gaming-PCs. Die forensischen Analysen von Prof. Martin Steinebach und seinem Team haben in bedeutenden Fällen wie dem Ibiza-Video und den Xinjiang Police Files entscheidend zur Wahrheitsfindung beigetragen und demonstrieren die essenzielle Rolle der forensischen Medienanalyse in einer Zeit, in der digitale Manipulation für Desinformation, Betrug und Diffamierung eingesetzt wird.
ATHENE-Projekte und Beiträge seines Think-Tanks "Desinformation"
ATHENE-Forschungsbereich "Reliable and Verifiable Information through Secure Media (REVISE)"
In diesem Forschungsbereich erforscht ATHENE Methoden zur verlässlichen Detektion manipulierter Medieninhalte. Durch innovative Algorithmen, automatisierte Erkennungssysteme und Musteranalysen werden Lösungen entwickelt, die auch zur Überbrückung rechtlicher und technischer Lücken beitragen.
Mehr über REVISE
Handreichung des Expertenkreises KI-Sicherheit des Bundesamts für Sicherheit in der Informationstechnologie (BSI): "Entwicklungen von KI und Desinformation – Erhöhte Vorsicht auf sozialen Medien!"
Autor*innen: Volker Wittpahl, Martin Steinebach, Andrea Ibisch, David Kreft, Fabian Schild, Caroline Neufert
Zum Paper
Artikel im GI-Radar Nr. 371 "Digitale Gewalt gegen Aktivist:innen: Risiken und mögliche Handlungsmöglichkeiten", 21.02.2025
Beitrag von Laura Gianna Guntrum und Prof. Christian Reuter
Zum Artikel
Artikel im GI-Radar Nr. 370 "Grauzonen des Wahrheitsgehalts: Wie Technologie im Umgang mit Desinformation unterstützen kann", 10.01.2025
Beitrag von Dr. Katrin Hartwig und Prof. Christian Reuter
Zum Artikel
Artikel in DuD • Datenschutz und Datensicherheit: "Erkennung von Desinformationen", Januar 2025
Autor: Prof. Martin Steinebach
Zum Artikel
Gastbeitrag bei Table.Briefings: “Desinformation: Wie Technologie Licht in die Graubereiche bringen kann”, 03.12.2024
Autor*innen: Dr. Katrin Hartwig, Prof. Christian Reuter
Zum Beitrag (Paywall)
Policy Paper "Desinformation in Messenger-Diensten", September 2024
Autor*innen: Tahireh Panahi, Carolin Jansen, Amancay Ancina, Katarina Bader, Jeong-Eun Choi, Gerrit Hornung, Nicole Krämer, Lars Rinsdorf, Karla Schäfer, Inna Vogel, York Yannikos, Martin Steinebach
Zum Paper
Beitrag auf 3 sat nano: "Fake-Videos von Politikern: Die Macht von Deepfakes", 21.01.2024
mit Prof. Martin Steinebach
Zum Beitrag auf YouTube
Podcast des Hessischen Ministeriums für Digitalisierung und Innovation: "Was sind Deepakes?", 26.04.2023
mit Prof. Martin Steinebach
Zum Podcast
Beitrag in der Tagesschau: "Umgang mit Uiguren", 24.05.2022
Zum Beitrag
Artikel im Spiegel "Worum geht es bei den Xinjiang Police Files?", 24.05.2022
Zum Artikel
Buch "Desinformation aufdecken und bekämpfen", 2020
Herausgeber: Martin Steinebach, Katarina Bader, Lars Rinsdorf, Nicole Krämer, Alexander Roßnagel
Zum Buch
Bericht im Tagesspiegel Background: "DEEPFAKES - Wie das "Ibiza-Video" überprüft wurde", 23.05.2019
Zum Bericht (Paywall)
