ML-Modelle gegen gezielte Angriffe härten: Adversarial ML in der Praxis
Ein paar veränderte Pixel, ein vergifteter Datensatz in der Trainingspipeline oder geschickte Abfragen an eine Prognose-API genügen, um ein ML-Modell zu täuschen oder ihm Trainingsdaten zu entlocken. Data Scientists, ML-Engineers und Security-Verantwortliche lernen an diesem Tag die Angriffsklassen kennen, führen Evasion und Poisoning in Übungen selbst vor und setzen Gegenmaßnahmen wie Adversarial Training und Differential Privacy ins Verhältnis. Am Ende steht eine messbare Vorstellung davon, wie widerstandsfähig die eigenen Modelle sind und wo nachgebessert werden muss.
- Dauer1 Tag
- OrtBei Ihnen vor Ort oder live-online
- TeilnehmendeNur Ihr Team, keine offenen Termine
- BereichKI-Technik & Entwicklung, Qualität, Sicherheit & Compliance, Büro, Organisation & IT
Für wen
Data Scientists, ML-Engineers und Sicherheitsverantwortliche, die verstehen wollen, wie gezielte Angriffe auf ML-Modelle funktionieren, und deren Robustheit steigern möchten.
KI-Tagesseminar · 1 Tag
Angriffe auf ML-Modelle nachvollziehen, vorführen und wirksam abwehren
Das nehmen Sie mit
- Evasion, Poisoning, Model Inversion und Membership Inference ordnen Sie den Stellen Ihrer ML-Pipeline zu.
- Ein Bildklassifikator wurde von Ihnen getäuscht, ein Poisoning-Effekt selbst erzeugt.
- Adversarial Training, Eingangsprüfung, Monitoring und Differential Privacy bewerten Sie nach Wirkung und Aufwand.
- Für Ihre exponierten Modelle haben Sie Robustheitskennzahlen und nächste Härtungsschritte skizziert.
Ablauf
- Teil 1
Modul 1 – Angriffsflächen: Warum ML-Modelle verwundbar sind
- Vier Angriffsklassen im Vergleich: Evasion, Poisoning, Model Inversion, Membership Inference
- Entscheidungsgrenzen als Schwachstelle: weshalb kleine Eingabeänderungen das Ergebnis kippen
- Lage in Produktivsystemen: Angriffspunkte von Trainingsdaten bis Prognose-API und mögliche Schäden
- Bestandsaufnahme: Welche Ihrer Modelle sind von außen erreichbar, etwa über Upload oder Schnittstelle
- Teil 2
Modul 2 – Evasion: Modelle mit präparierten Eingaben täuschen
- Adversarial Examples für Bilder und Texte: wie sie erzeugt werden und woran sie sich unterscheiden
- Übung: Ein Bildklassifikationsmodell mit kaum sichtbaren Störungen zu Fehlentscheidungen bringen
- Transferierbarkeit: warum ein am Ersatzmodell gebauter Angriff oft auch das Zielmodell trifft
- Erste Einschätzung, wie anfällig Ihr eigenes Modell für solche Eingaben ist
- Teil 3
Modul 3 – Daten und Privatsphäre: Poisoning und Rückschlüsse
- Data Poisoning an den Stationen der ML-Pipeline: Datenerhebung, Labeling, Nachtraining
- Membership Inference (steckte ein bestimmter Datensatz im Training?) und weitere Rückschlüsse auf Trainingsdaten
- Übung: An einem Beispieldatensatz zeigen, wie manipulierte Einträge das Modellverhalten verschieben
- Differential Privacy als Gegenmittel und Datenschutz als fester Teil der Modellsicherheit
- Teil 4
Modul 4 – Abwehr: Training, Architektur und Überwachung
- Adversarial Training und robuste Architekturen: Schutzwirkung und Preis an Genauigkeit
- Eingangsvalidierung vor dem Modell und Monitoring auf auffällige Abfragemuster im Betrieb
- Fallstudie: Robustheitsanalyse eines Modells, das bereits produktiv im Einsatz ist
- Teil 5
Modul 5 – Messung und Fahrplan: Robustheit belegen und steigern
- Robustheit in Kennzahlen fassen, etwa Trefferquote unter Angriff, und regelmäßig nachmessen
- Maßnahmen je exponiertem Modell gewichten und in eine Reihenfolge bringen
- Fahrplan für widerstandsfähige Modelle mit Prüfpunkten bei Nachtraining und Modellwechsel
VoraussetzungenGrundwissen in Machine Learning und Python ist erforderlich.
AbschlussTeilnahmezertifikat und digitales Badge