KI-Technik & Entwicklung

KI-Lieferkette absichern: Modelle, Datensätze und Pakete prüfen

Kaum eine KI-Anwendung entsteht ohne fremde Bausteine: ein Basismodell aus einem öffentlichen Hub, ein zugekaufter Datensatz, Dutzende Python-Bibliotheken. Dieser halbe Tag zeigt ML-Engineers, DevSecOps-Teams und Sicherheitsverantwortlichen, wo in dieser Kette Schadcode, Hintertüren oder Lizenzfallen stecken können. In zwei Übungen untersuchen Sie ein Modell auf Herkunft und Risiken und auditieren es samt Abhängigkeiten. Sie verlassen den Termin mit einem Vorschlag für Freigabe, Überwachung und Zuständigkeiten Ihrer KI-Komponenten.

Für wen

ML-Engineers, DevSecOps-Fachleute und Sicherheitsverantwortliche, die die Lieferkette ihrer KI-Systeme absichern wollen.

KI-Kompaktseminar · 4 Stunden

Fremde Modelle, Datensätze und Bibliotheken nachvollziehbar prüfen und freigeben

Das nehmen Sie mit

  • Die Glieder Ihrer KI-Lieferkette und ihre Angriffspunkte können Sie systematisch benennen.
  • Herkunft, Integrität, Dateiformat und Lizenz eines Modells haben Sie in einer Übung selbst geprüft.
  • Scanning und SBOM/AI-BOM ordnen Sie als feste Bestandteile Ihrer ML-Pipeline ein.
  • Ein Freigabe- und Monitoringprozess mit klaren Rollen liegt als Entwurf vor, abgeglichen mit KI-VO und Cyber-Resilienz.

Ablauf

  1. Teil 1

    Modul 1 – Bestandsaufnahme: Glieder und Schwachstellen der KI-Lieferkette

    • Basismodelle, Datensätze, Bibliotheken und Plugins als Bausteine einer KI-Anwendung
    • Angriffsflächen von der Download-Quelle über Trainingsdaten bis zur eingebundenen Bibliothek
    • Bekannt gewordene Vorfälle mit manipulierten Modellen und kompromittierten Paketen
    • Hohe Downloadzahlen und ein bekannter Anbietername sind kein Beleg für ein vertrauenswürdiges Modell
    • Inventur: welche fremden Komponenten in Ihren eigenen KI-Anwendungen stecken
  2. Teil 2

    Modul 2 – Prüfung: Modelle und Datensätze vor dem Einsatz untersuchen

    • Model Cards, Signaturen und Hashes als Nachweis von Herkunft und Integrität
    • Pickle-Dateien als Einfallstor für ausführbaren Schadcode und sichere Formate als Alternative
    • Lizenzbedingungen und Compliance-Auflagen eines Modells vor der Übernahme klären
    • Übung: Ein heruntergeladenes Modell auf Ursprung, Dateiformat und Lizenzrisiken untersuchen
  3. Teil 3

    Modul 3 – Pipeline: Sicherheitsprüfungen in Build und Deployment

    • Dependency- und Container-Scanning, zugeschnitten auf ML-Projekte
    • SBOM/AI-BOM als Stückliste aller Modelle, Datensätze und Bibliotheken eines Systems
    • Prüfschritte von Anfang an in die Pipeline integrieren, statt sie nachträglich anzuhängen
    • Slopsquatting: von Codeassistenten halluzinierte Paketnamen abfangen, bevor jemand sie installiert
    • Übung: Ein Modell gemeinsam mit seinen Abhängigkeiten auditieren
  4. Teil 4

    Modul 4 – Governance: Freigabe, Überwachung und Zuständigkeit

    • Freigabeprozess, den externe Modelle und Datensätze vor der ersten Nutzung durchlaufen
    • Monitoring: Warnmeldungen zu kompromittierten Komponenten im eigenen Bestand verfolgen
    • Einordnung in die KI-VO sowie in Vorgaben zur Cyber-Resilienz
    • Rollen festlegen: wer Komponenten freigibt, beobachtet und bei einem Vorfall handelt
    • Nächste Schritte zur abgesicherten Lieferkette für Ihre Modelle und Daten

VoraussetzungenGrundkenntnisse in Softwareentwicklung oder MLOps sind erforderlich.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen