KI-Technik & Entwicklung

In neuronale Netze hineinsehen: Interpretierbarkeit und Alignment

Ein Modell trifft eine Vorhersage, doch niemand kann begründen, warum: Für Fachabteilungen, Prüfer und das eigene Team ist das ein Vertrauensproblem. An diesem Seminartag arbeiten Sie mit Verfahren der Feature-Attribution wie SHAP und Integrated Gradients, mit Probing und Aktivierungsanalyse und werfen einen Blick auf die Mechanistic Interpretability. Ergänzend geht es um Alignment mit RLHF und Constitutional-Ansätzen. Am Schluss überführen Sie das Gelernte in einen Plan für erklärbare KI im eigenen Projekt.

Für wen

Data Scientists, ML-Engineers und technisch interessierte Fachleute, die das Verhalten und Innenleben von Modellen nachvollziehen und gezielt beeinflussen wollen.

KI-Tagesseminar · 1 Tag

Modellentscheidungen erklären, Netze von innen untersuchen, Verhalten ausrichten

Das nehmen Sie mit

  • Mit SHAP und Integrated Gradients nachvollziehen, welche Merkmale eine Vorhersage bestimmen.
  • Probing, Aktivierungsanalyse und Mechanistic Interpretability einsetzen und ihre Aussagekraft realistisch bewerten.
  • RLHF und Constitutional-Ansätze als Wege des Alignment unterscheiden.
  • Eine Modellentscheidung so aufbereiten, dass sie Vertrauen schafft und Compliance-Anforderungen stützt.

Ablauf

  1. Teil 1

    Modul 1 – Motivation: Blackbox-Modelle und Vertrauen

    • Das Blackbox-Problem: weshalb undurchschaubare Modelle Vertrauen kosten
    • Interpretierbarkeit und Erklärbarkeit: zwei verwandte Begriffe mit unterschiedlichem Anspruch
    • Einsatzfelder, in denen nachvollziehbare Entscheidungen gefragt sind, etwa Kreditvergabe oder Diagnostik
    • Vorführung: die Gründe hinter einer einzelnen Modellentscheidung sichtbar machen
    • Bestandsaufnahme: wie weit Sie den Modellen in Ihren Projekten derzeit vertrauen
  2. Teil 2

    Modul 2 – Verfahren: Attribution, Probing, Aktivierungen

    • SHAP und Integrated Gradients als Verfahren der Feature-Attribution
    • Probing und Aktivierungsanalyse: Information in inneren Schichten aufspüren
    • Übung: ein trainiertes Modell deuten und die Merkmale finden, die seine Vorhersage tatsächlich treiben
    • Grenzen der Verfahren und typische Fehldeutungen von Attributionswerten
  3. Teil 3

    Modul 3 – Mechanistic Interpretability: Schaltkreise im Netz

    • Schaltkreise und Features: wie Netze Konzepte intern abbilden
    • Befunde der aktuellen Forschung
    • Übung: Aktivierungen eines Netzes erkunden und auffällige Muster festhalten
    • Heutiger Stand: was sich im Inneren schon erklären lässt und was noch nicht
  4. Teil 4

    Modul 4 – Alignment: Verhalten an Absichten ausrichten

    • Alignment als Aufgabe, Modellverhalten mit menschlichen Zielen in Einklang zu bringen
    • RLHF und Constitutional-Ansätze: Vorgehen und Unterschiede
    • Diskussion: Kontrolle und Sicherheit leistungsfähiger Modelle
    • Weshalb Alignment darüber entscheidet, ob ein Modell hilfreich und harmlos zugleich ist
  5. Teil 5

    Modul 5 – Projekttransfer: Erklärbarkeit in der eigenen Arbeit

    • Interpretierbarkeitsverfahren vom Konzept in ein laufendes ML-Projekt übertragen
    • Fallstudie: eine Modellentscheidung für Fachabteilung und Prüfer nachvollziehbar erklären
    • Erklärungen als Grundlage für Vertrauen und Compliance-Nachweise nutzen
    • Fahrplan zu erklärbarer KI im eigenen Team

VoraussetzungenMathematische und statistische Grundlagen sind von Nutzen. Auch ohne Programmiererfahrung ist eine Teilnahme möglich.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen