Personal, Ausbildung & Mitbestimmung

Diskriminierung durch HR-Software verhindern: Bias prüfen, Fairness sichern

Sortiert eine Software Bewerbungen vor oder bewertet Leistung, kann sie Benachteiligungen aus früheren Personalentscheidungen unbemerkt fortschreiben. Das Kompaktseminar erklärt HR-Verantwortlichen, Diversity-Beauftragten, Betriebsräten und HR-IT in vier Stunden, wie solche Verzerrungen entstehen, wie Fairness-Metriken sie sichtbar machen und welche Gegenmaßnahmen vom Bias-Audit bis zur menschlichen Aufsicht greifen. Abschließend geht es um die Anforderungen aus AGG, DSGVO und AI Act, um gezielte Fragen an Anbieter und um eine eigene Fairness-Richtlinie.

Für wen

HR-Verantwortliche, Diversity-Beauftragte, Betriebsratsmitglieder und HR-IT, die dafür sorgen wollen, dass Algorithmen in Personalprozessen niemanden benachteiligen.

KI-Kompaktseminar · 4 Stunden

Verzerrungen in Personalsoftware nachweisen, Gegenmaßnahmen wählen, Anbieter fordern

Das nehmen Sie mit

  • Proxy-Merkmale und Feedback-Schleifen in Ihren Personalprozessen erkennen Sie als Quelle von Verzerrung.
  • Mit Demographic Parity und Equalized Odds haben Sie ein Auswahlverfahren geprüft und erlebt, warum Fairness-Definitionen kollidieren.
  • Für Beschaffung und interne Regeln stehen ein Fragenkatalog an Anbieter und die Eckpunkte einer Fairness-Richtlinie bereit.

Ablauf

  1. Teil 1

    Modul 1 – Ursachen: Wie Verzerrung in Personalsoftware gerät

    • Einfallstore: historische Einstellungsdaten, Proxy-Merkmale wie der Wohnort, Feedback-Schleifen
    • Lehren aus bekannten Fällen, in denen Recruiting-KIs Bewerbergruppen benachteiligt haben
    • Bias-Arten im Überblick, von der Stichprobenverzerrung bis zum Automation Bias
    • Weshalb auch Systeme mit guten Absichten diskriminieren können
    • Ausgangslage: wo Ihren Personalprozessen Verzerrungen drohen, etwa bei Vorauswahl oder Leistungsbewertung
  2. Teil 2

    Modul 2 – Messen: Fairness in Zahlen fassen

    • Was Demographic Parity und Equalized Odds als Fairness-Metriken jeweils vergleichen
    • Zielkonflikte: Verschiedene Fairness-Definitionen lassen sich nicht gleichzeitig erfüllen
    • Übung: Ein Auswahlverfahren für Bewerbungen auf Verzerrungen zwischen Gruppen untersuchen
    • Grenze der Messung: was sich berechnen lässt und was eine Abwägung durch Menschen erfordert
  3. Teil 3

    Modul 3 – Gegensteuern: Audits, Technik, Aufsicht

    • Bias-Audits intern durchführen oder an externe Prüfstellen vergeben
    • Technische Mitigation an drei Stellen: Trainingsdaten, Modell, Nachbearbeitung der Ergebnisse
    • Menschliche Aufsicht so gestalten, dass Prüfende Systemvorschläge nicht einfach abnicken
    • Übung: Für einen festgestellten Bias passende Gegenmaßnahmen ableiten
    • Fairness auf Dauer sichern: erneute Prüfung nach Modell- oder Datenänderungen
  4. Teil 4

    Modul 4 – Regeln: Recht, Beschaffung, Richtlinie

    • AI Act, AGG und DSGVO: Vorgaben für faire HR-KI in Auswahl und Bewertung
    • Fragenkatalog für die Beschaffung: welche Nachweise zu Trainingsdaten und Tests Anbieter liefern sollen
    • Fairness-Regeln für HR-Algorithmen als Richtlinie fassen: Geltungsbereich, Prüfintervalle, Zuständigkeiten
    • Diversity-Ziele und Compliance-Pflichten gemeinsam steuern
    • Ihr Fahrplan zu fairen HR-Systemen: erste Prüfung und verantwortliche Stelle

VoraussetzungenTechnisches Vorwissen brauchen Sie nicht; Erfahrung aus der Personalarbeit hilft beim Einordnen der Fälle.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen