Model Evasion, Model Stealing, Data Exfiltration, Inference Attacks – Eine Auswahl möglicher Bedrohungen beim Machine Learning
Das Research Institute – Digital Human Rights Center kooperiert seit Jahren mit dem renommierten IT-Security-Forschungszentrum SBA Research und vermittelt praxisnah Forschungsergebnisse in Seminaren für Wirtschaft und Verwaltung. Am 25. März 2025 fand in den Räumlichkeiten von SBA Research ein Seminar mit technischem Schwerpunkt statt: Anastasia Pustozerova und Tanja Šarčević von der SBA Research Machine Learning and Data Management Research Group (MLDM) erläuterten Bedrohungen der Datensicherheit beim Machine Learning und der Vertraulichkeit der involvierten Daten und zeigten technische Schutzmaßnahmen zur Sicherung Daten. David M. Schneeberger und Walter Hötzendorfer vom Research Institute stellten dazu den rechtlichen Rahmen vor, insbesondere den AI Act und Relevantes aus der DSGVO, z.B. die Cybersicherheitsanforderungen an Hochrisiko-KI-Systeme und General-purpose-AI-Modelle sowie die Stellungnahme des Europäischen Datenschutzausschusses zu KI-Modellen.
Das Seminar richtet sich an Unternehmen und Institutionen, die KI-Anwendungen entwickeln und/oder einsetzen, und dort besonders auch an das technische Personal. Ziel ist es, sicherzustellen, dass die Systeme sowohl den gesetzlichen Anforderungen entsprechen, als auch bestmöglich gegen Manipulationen und Abfluss personenbezogener Daten oder geistigen Eigentums abgesichert sind. Praktische Beispiele und interaktive Übungen veranschaulichten die Umsetzung der Inhalte im Arbeitsalltag und regten die Teilnehmer*innen zu einer lebhaften Diskussion über die Auswirkungen des AI Acts auf ihre Machine-Learning-Projekte an.
Wenn Sie an einer zukünftigen Ausgabe des Seminars interessiert sind, schreiben Sie uns gerne an, wir informieren Sie über kommende Termine. Weitere aktuelle Seminare unserer Research Institute Academy finden Sie unter https://researchinstitute.at/academy/.
Lesen Sie auch den Blogpost von SBA Research (EN).
Bild © SBA Research