KI-Technik & Entwicklung

Erklärbare KI (XAI): Modellentscheidungen mit SHAP und LIME offenlegen

Wer Machine-Learning-Modelle entwickelt oder verantwortet, muss zunehmend begründen können, warum ein Modell zu einer bestimmten Vorhersage kommt. Dieses Tagesseminar für Mathematikerinnen, Softwareentwickler und Ingenieure ordnet die Begriffe und regulatorischen Erwartungen ein, stellt die wichtigen Interpretationsverfahren vor und zeigt SHAP und LIME in Python. Beispiele aus Qualitätssicherung, Wartung, Finanzsektor und Gesundheitswesen verbinden die Methoden mit realen Entscheidungen. Danach wählen Sie für Ihr Modell ein passendes Erklärverfahren und kennen dessen Fallstricke.

Für wen

Mathematikerinnen und Mathematiker, Softwareentwicklung und Ingenieurwesen: Fachleute, denen nachvollziehbare KI-Systeme ein Anliegen sind.

KI-Tagesseminar · 1 Tag

Interpretationsverfahren verstehen, in Python anwenden und ihre Aussagekraft einschätzen

Das nehmen Sie mit

  • Sichere Unterscheidung zwischen Erklärbarkeit, Transparenz und Interpretierbarkeit samt regulatorischem Hintergrund
  • Ein geordneter Überblick über globale, lokale, modellagnostische und modellinterne Verfahren
  • Praxis mit SHAP, LIME und Permutation Importance in Python, einschließlich typischer Fehldeutungen
  • Ein realistisches Bild der Grenzen von XAI bei Bias, Fairness und Unsicherheit

Ablauf

  1. Teil 1

    Modul 1 – Grundbegriffe: Weshalb Modelle ihre Vorhersagen begründen sollen

    • Wozu Erklärbarkeit dient: Fehlersuche im Modell, Akzeptanz bei Fachanwendern, Nachweis gegenüber Dritten
    • Erklärbarkeit, Transparenz und Interpretierbarkeit begrifflich voneinander abgrenzen
    • Regulatorische Erwartungen an nachvollziehbare Systeme, etwa aus dem EU AI Act
    • Intrinsisch verständliche Modelle gegenüber nachträglichen (post-hoc) Erklärungen
  2. Teil 2

    Modul 2 – Verfahrenslandkarte: Methoden der Modellinterpretation einordnen

    • Modellagnostische Verfahren gegenüber Ansätzen, die das Modellinnere auswerten
    • Globale Erklärungen für das Gesamtverhalten, lokale für eine einzelne Vorhersage
    • Feature Importance per Permutation und per Gain
    • Partial Dependence Plots (PDP) und ALE-Plots für den Einfluss einzelner Merkmale
    • Counterfactual Explanations und Kontrastierung: welche Eingabe sich hätte ändern müssen
    • Surrogatmodelle, etwa ein Entscheidungsbaum, der ein komplexes Modell vereinfacht nachbildet
    • Darstellungsformen und Lesehilfen, die Erklärungen für Fachabteilungen verständlich machen
  3. Teil 3

    Modul 3 – Praxis in Python: SHAP, LIME und Permutation Importance

    • LIME: Funktionsprinzip und geeignete Einsatzfelder
    • SHAP-Werte und ihre Herleitung aus der Shapley-Theorie
    • SHAP, LIME und Permutation Importance im direkten Vergleich
    • Erklärungen in Python berechnen und als Grafik aufbereiten
    • Ergebnisse korrekt deuten und verbreitete Fehlinterpretationen vermeiden
  4. Teil 4

    Modul 4 – Anwendungsfelder: Erklärbarkeit in Industrie, Finanzwesen und Medizin

    • Industrie: nachvollziehbare Modelle in Qualitätssicherung und Wartung
    • XAI im Finanzsektor, etwa bei Kreditentscheidungen, und im Gesundheitswesen
    • Erfahrungen aus abgeschlossenen Projekten
    • Diskussion: Transparenz und Vertrauen als Vorsprung gegenüber Mitbewerbern
  5. Teil 5

    Modul 5 – Grenzen und Ausblick: Was Erklärungen leisten und was nicht

    • Black Box oder White Box: Vorhersagegüte gegen Nachvollziehbarkeit abwägen
    • Bias und Fairness: welche Verzerrungen XAI sichtbar machen kann
    • Unsicherheit und Vertrauensintervalle verstehen und richtig kommunizieren
    • Forschungsrichtungen wie Causal XAI und Neuro-Symbolic AI
    • Gemeinsame Reflexion und Abschlussdiskussion

VoraussetzungenErwartet werden mathematische Grundkenntnisse und ein solides Grundverständnis maschinellen Lernens.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen