© Fraunhofer SIT

Laut polizeilicher Kriminalstatistik stieg die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent an. Auch Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, meldet der un­ab­hängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM).

Online-Dienste wie Messenger, soziale Medien, Chatforen von Online-Spielen und Ähnliches spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche. Johannes-Wilhelm Rörig, der un­ab­hängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs, forderte deshalb jüngst, dass Kinder gerade jetzt noch besser vor Missbrauch im Netz geschützt werden. Welche Tech­no­logien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

KI verhindert Versand von Nacktbildern

Das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – ist auch unter Heranwachsenden verbreitet. Bei Minderjährigen kann das unbedachte Versenden von Nacktbildern zu Problemen führen, wie Mobbing oder Erpressung: einmal verschickt, können Nacktbilder unkontrolliert weitergeleitet werden. Viele Jugendliche wissen auch nicht, dass selbst das Weiterleiten von Nacktbildern Minderjähriger schon strafbar ist. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT in ihrer Machbarkeitsstudie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren. Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagt Studienleiter Prof. Martin Steinebach.

Schutz vor Online-Anbahnung von sexuellem Missbrauch

Auch vor Cybergrooming können neue Tech­no­logien Kinder und Jugendliche besser schützen. Cybergrooming bezeichnet die Kontaktaufnahme von Erwachsenen zu Minderjährigen in Chatrooms, Foren oder Online-Spielen mit dem Ziel, sexuellen Missbrauch an den Heranwachsenden zu begehen. Dabei geben die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Tech­no­logien lässt sich das Alter von Chat-Teil­neh­men­den einschätzen. Falls das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teil­neh­men­den zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftlerinnen und Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.

Die Studie ist kostenlos auch auf der ATHENE-Webseite verfügbar: Download Studie Jugendschutz (PDF 3,5 MB)

Pressemeldung des Fraunhofer SIT