KI-Technik & Entwicklung

Skalierungsgesetze und Emergenz: was die Forschung über LLMs weiß

Sprachmodelle sind in wenigen Jahren um Größenordnungen gewachsen und lösen Aufgaben, für die sie nie eigens trainiert wurden. Das Tagesprogramm erschließt die empirische Forschung zu großen Modellen: Skalierungsgesetze samt Chinchilla, die umstrittene Emergenz neuer Fähigkeiten und In-Context-Learning mit Few-Shot und Chain-of-Thought. Eine Vorführung, zwei Übungen und eine Fallstudie trainieren den kritischen Blick auf Forschungsaussagen. So lassen sich Ankündigungen neuer Modellgenerationen sachlich bewerten.

Für wen

Data Scientists, Entwicklerinnen und Entwickler sowie technisch interessierte Entscheidungsträger, die die empirische Forschung zu großen Sprachmodellen nachvollziehen möchten.

KI-Tagesseminar · 1 Tag

Empirische Befunde zu großen Sprachmodellen verstehen und kritisch beurteilen

Das nehmen Sie mit

  • Den Zusammenhang zwischen Datenmenge, Parameterzahl und Rechenbudget samt Chinchilla-Befund erläutern.
  • Behauptungen über emergente Fähigkeiten auf Messverfahren und Metrik-Artefakte abklopfen.
  • In-Context-Learning, Few-Shot und Chain-of-Thought einordnen und daraus Folgerungen fürs Prompting ziehen.
  • Gesicherte Erkenntnisse über LLMs von offenen Forschungsfragen und Übertreibungen trennen.

Ablauf

  1. Teil 1

    Modul 1 – Skalierung: Daten, Parameter und Rechenbudget

    • Wie Datenmenge, Parameterzahl und Rechenleistung gemeinsam die Modellqualität bestimmen
    • Chinchilla: ein festes Rechenbudget sinnvoll auf Modellgröße und Trainingsdaten verteilen
    • Weshalb sich der Loss größerer Modelle anhand von Skalierungskurven vorab abschätzen lässt
    • Vorführung: Ergebnisqualität bei wachsendem Rechenaufwand im direkten Vergleich
    • Gesprächsrunde: Ihre Vermutungen, warum Modellgenerationen immer weiter wachsen
  2. Teil 2

    Modul 2 – Emergenz: Fähigkeitssprünge und ihre Messung

    • Der Begriff Emergenz: was er beschreibt und was nicht darunter fällt
    • Bekannte Beispiele emergenter Fähigkeiten und die Kontroversen darum
    • Metrik-Artefakte: wie die Wahl des Messverfahrens scheinbar plötzliche Fähigkeiten erzeugen kann
    • Übung: eine veröffentlichte Emergenz-Behauptung auf Messmethode und Metrik hin hinterfragen
  3. Teil 3

    Modul 3 – In-Context-Learning: Lernen innerhalb des Prompts

    • Wie ein Modell aus Beispielen im Prompt lernt, ohne dass sich seine Gewichte verändern
    • Few-Shot-Beispiele und Chain-of-Thought als Spielarten des In-Context-Learning
    • Übung: den Effekt von Beispielen und Zwischenschritten im Prompt beobachten und protokollieren
    • Folgerungen für das Formulieren von Prompts im Arbeitsalltag
  4. Teil 4

    Modul 4 – Forschungsstand: Belegtes, Vermutetes, Offenes

    • Was über die Funktionsweise von LLMs als belegt gilt und was bis heute ungeklärt ist
    • Aktuelle Forschungsfronten im Überblick
    • Konsequenzen für den praktischen Einsatz von Sprachmodellen
    • Substanz von Übertreibung trennen und über Modellfähigkeiten souverän urteilen
  5. Teil 5

    Modul 5 – Ausblick: Wohin weitere Skalierung führt

    • Denkbare Entwicklungen, wenn Modelle weiter wachsen
    • Fallstudie: eine angekündigte Modellfähigkeit anhand der Befunde des Tages nachprüfen
    • Chancen und Risiken immer größerer Modelle gegeneinander abwägen
    • Wege, die Forschung zu großen Modellen fortlaufend zu verfolgen
    • Ihr Plan, wie Sie das Verständnis der LLM-Wissenschaft weiter vertiefen

VoraussetzungenHilfreich sind Grundlagen in Mathematik und Statistik. Eigene Programmierkenntnisse werden nicht zwingend erwartet.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen