Um eigene Arbeitsprozesse zu optimieren oder Kundinnen und Kunden mithilfe von Empfehlungssystemen neue Services anzubieten, setzen Unternehmen zunehmend auf Maschinelles Lernen und Künstliche Intelligenz. „Solche neuen Tools werden oft schnell konzipiert und umgesetzt. Sicherheitsaspekte kommen dabei oft zu kurz“, sagt die Statistikerin Verena Battis vom Fraunhofer SIT. Sie erforscht dort im Rahmen des ATHENE-Projekts „Privacy-Risks and Safety in Machine Learning (PRisMa)“, welche Bedrohungen von maschinellen Lernverfahren für die Privatheit des Einzelnen ausgehen. Bedrohungsszenarien sind der Statistikerin zufolge zum Beispiel Datenklau und die Manipulation von verwendeten Algorithmen und Daten. Besondere Vorsicht sei zudem bei datenschutzrechtlichen Aspekten geboten, erklärt die Informatikerin Franziska Boenisch vom Fraunhofer AISEC: „Für das Training von Modellen Maschinellen Lernens oder Künstlicher Intelligenz werden oft Nutzerdaten verwendet. Dabei fehlt jedoch das Wissen insbesondere darüber, wie individuelle Datenpunkte ein Modell beeinflussen und inwieweit diese Datenpunkte von Angreifern wieder aus einem trainierten Modell extrahiert werden können.“ Ziel des Forschungsprojekts ist es, Erkenntnisse darüber zu gewinnen, inwieweit Aspekte der Sicherheit und Privatsphäre bei Verfahren Maschinellen Lernens in der Praxis berücksichtigt und umgesetzt werden.

Es werden Teilnehmer*innen für eine 15-minütige Online-Befragung gesucht, die Maschinelles Lernen beruflich oder privat nutzen. Der Link zur Online-Befragung: https://websites.fraunhofer.de/ML_security/index.php/149369?Start1=A3   

Weitere Informationen unter

https://www.sit.fraunhofer.de/mlsurvey/ bzw. https://www.aisec.fraunhofer.de/de/presse-und-veranstaltungen/presse/pressemitteilungen/2020/sicheres-maschinelles-lernen.html

Presseinformation der FU Berlin