KI-Technik & Entwicklung

Neuronale Netze trainieren: Loss, Backpropagation und Gradientenabstieg

Ein Trainingslauf, dessen Loss nicht sinkt oder plötzlich explodiert, lässt sich nur beheben, wenn man versteht, was zwischen Vorwärtsdurchlauf und Gewichtsupdate passiert. Dieser Tag zerlegt die Lernmechanik neuronaler Netze für Entwicklerinnen und Data Scientists in nachvollziehbare Schritte: vom Perzeptron über Loss-Funktionen und Backpropagation bis zu Optimizern und Regularisierung. Gerechnet wird an Mini-Netzen von Hand, gedeutet an echten Trainingskurven. Im Ergebnis diagnostizieren Sie Trainingsprobleme gezielt, statt Hyperparameter auf gut Glück zu verändern.

Für wen

Entwicklerinnen und Entwickler sowie Data Scientists, die verstehen wollen, wie neuronale Netze von Grund auf lernen.

KI-Tagesseminar · 1 Tag

Die Lernmechanik neuronaler Netze durchrechnen und Trainingsläufe gezielt diagnostizieren

Das nehmen Sie mit

  • Backpropagation haben Sie für ein Mini-Netz selbst mit der Kettenregel durchgerechnet.
  • Zu Regressions- und Klassifikationsaufgaben wählen Sie eine passende Loss-Funktion begründet aus.
  • Aus einem Trainingsverlauf lesen Sie ab, ob Lernrate, Batchgröße oder Regularisierung nachgesteuert werden müssen.
  • Ein Fahrplan hält fest, wie Sie Trainingsprobleme künftig systematisch eingrenzen.

Ablauf

  1. Teil 1

    Modul 1 – Aufbau: Vom einzelnen Neuron zum mehrschichtigen Netz

    • Standortbestimmung: Welche Teile eines neuronalen Netzes für Sie noch undurchsichtig sind
    • Vom Perzeptron zum Netz mit verdeckten Schichten
    • Aktivierungsfunktionen: weshalb ein Netz ohne Nichtlinearität nur lineare Zusammenhänge abbildet
    • Vorwärtspropagation Schicht für Schicht nachvollzogen
    • Vorführung: Ein Mini-Netz berechnet aus Eingaben eine Entscheidung
  2. Teil 2

    Modul 2 – Fehlermaß: Loss-Funktionen auswählen und deuten

    • Anforderungen an ein brauchbares Fehlermaß für das Training
    • Loss-Funktionen für Regression und für Klassifikation im Vergleich
    • Verbindung zur Wahrscheinlichkeit: Loss als negative Log-Likelihood gelesen
    • Übung: Sie ordnen verschiedenen Problemstellungen die passende Loss-Funktion zu
  3. Teil 3

    Modul 3 – Backpropagation: Wie der Fehler zurück durch das Netz läuft

    • Kettenregel und Rückführung des Fehlers auf jedes einzelne Gewicht, Schritt für Schritt
    • Übung: Für ein Mini-Netz berechnen Sie Backprop vollständig von Hand
    • Vanishing und Exploding Gradients: was mit dem Gradienten in vielen Schichten geschieht
    • Weshalb tiefe Netze deshalb schwerer zu trainieren sind als flache
  4. Teil 4

    Modul 4 – Trainingspraxis: Optimizer, Hyperparameter und Lernkurven

    • Lernrate und Batchgröße einstellen, Optimizer wie SGD und Adam unterscheiden
    • Typische Ursachen gescheiterter Trainingsläufe und Gegenmaßnahmen
    • Übung: Sie werten einen Trainingsverlauf aus und benennen das erkennbare Problem
    • Was ein Training stabil macht: die Theorie der vorigen Module auf Einstellungen übertragen
  5. Teil 5

    Modul 5 – Diagnose: Regularisierung und Fehlersuche im Trainingslauf

    • Regularisierung mit Dropout, Weight Decay und Early Stopping
    • Häufige Trainingsprobleme erkennen und ihrer Ursache zuordnen
    • Fallstudie: Ein kompletter Trainingslauf wird im Detail analysiert
    • Was sich an Ihrem Vorgehen beim Debuggen von Netzen ändert
    • Fahrplan: nächste Schritte zu sicherem, reproduzierbarem Training

VoraussetzungenHilfreich sind Grundkenntnisse in Mathematik oder Statistik. Programmierkenntnisse werden nicht zwingend vorausgesetzt.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen