KI-Technik & Entwicklung

Bias in KI-Modellen: Fairness messen, verbessern und für Audits belegen

Ein halber Tag für Teams, die KI-Systeme bauen oder abnehmen und sicher sein müssen, dass ein Modell niemanden systematisch benachteiligt. Sie unterscheiden Bias, Fairness und Diskriminierung, messen Verzerrungen mit Fairness-Metriken und Open-Source-Bibliotheken und lernen Gegenmaßnahmen über den gesamten Trainingsablauf kennen. Im Anschluss untersuchen Sie Scoring-Modelle selbstständig auf Schieflagen und halten die Befunde so fest, dass sie einer Prüfung nach AI Act und DSGVO standhalten.

Für wen

Data Scientists, ML-Engineers, Produktverantwortliche sowie Entscheiderinnen und Entscheider, die KI-Systeme fair, nachvollziehbar und ohne Diskriminierung entwickeln oder bewerten wollen, vor allem in regulierten oder sensiblen Einsatzfeldern.

KI-Kompaktseminar · 5 Stunden

Verzerrungen in Daten und Modellen nachweisen, abschwächen und nachvollziehbar dokumentieren

Das nehmen Sie mit

  • Sie können Bias, Fairness und Diskriminierung trennscharf benennen und typische Quellen in Trainingsdaten und Algorithmen erkennen.
  • Sie haben ein Scoring-Modell mit Fairness-Metriken wie Demographic Parity und Equal Opportunity sowie mit Fairlearn oder IBM AI Fairness 360 untersucht.
  • Sie kennen Eingriffe vor, während und nach dem Training samt ihren Zielkonflikten und wissen, was Dokumentation und Audit unter AI Act und DSGVO verlangen.

Ablauf

  1. Teil 1

    Modul 1 – Begriffe und Fälle: Wo Verzerrung in KI-Systemen entsteht

    • Bias, Fairness und Diskriminierung auseinanderhalten und sauber definieren
    • Schieflagen in Trainingsdaten, etwa unterrepräsentierte Gruppen, und solche, die erst der Algorithmus erzeugt
    • Fälle aus Bewerbervorauswahl, Kreditvergabe und medizinischer Diagnostik, in denen Modelle Gruppen benachteiligt haben
    • Welche Folgen verzerrte Modelle für Betroffene haben und welche Verantwortung daraus für Entwicklungsteams folgt
  2. Teil 2

    Modul 2 – Messen: Fairness-Metriken und Prüfwerkzeuge

    • Fairness-Metriken wie Demographic Parity und Equal Opportunity: was sie vergleichen und wann sie sich widersprechen
    • Die Bibliotheken IBM AI Fairness 360 und Fairlearn im Überblick
    • Übung: Ein datengestütztes Scoring-Modell auf Bias untersuchen und die Kennzahlen je Gruppe auswerten
    • Verzerrungen so erfassen, dass sie über Modellversionen hinweg vergleichbar bleiben
  3. Teil 3

    Modul 3 – Mindern: Eingriffe vor, während und nach dem Training

    • Preprocessing-Ansätze an den Daten, Inprocessing im Lernverfahren, Postprocessing an den Modellausgaben
    • Zielkonflikte abwägen: Fairness gegen Genauigkeit gegen Transparenz, und wer diese Abwägung entscheidet
    • Praxisbeispiel: Ein Modell schrittweise anpassen, bis es Chancengleichheit zwischen Gruppen besser einhält
    • Fairness als steuerbare Zielgröße im Entwicklungsprozess behandeln
  4. Teil 4

    Modul 4 – Governance: Regulierung, Nachweise und Ihr Projekt

    • Regulatorischer Rahmen im Überblick, etwa AI Act und DSGVO
    • Modelle, Datengrundlage und Fairness-Prüfungen dokumentieren und für Audits aufbereiten
    • Diskussion: Was verantwortliche KI in Ihrem aktuellen Projekt konkret verlangt
    • Ethische Abwägungen im Team so treffen, dass sie begründet und nachvollziehbar bleiben

VoraussetzungenGrundverständnis davon, wie KI-Modelle aufgebaut und trainiert werden, etwa aus der Berufspraxis oder einem Einführungskurs. Wer selbst programmiert, kann die Übungen leichter nachvollziehen; Pflicht ist das nicht.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen