KI-Werkzeuge

Unsloth: Ein lokales Sprachmodell auf Fachbegriffe des Hauses trainieren

Für IT-Abteilungen und technisch versierte Fachverantwortliche, die ein Sprachmodell an Fachvokabular und Schreibkonventionen ihres Hauses anpassen möchten, ohne daraus ein Forschungsvorhaben zu machen. Sie entscheiden zunächst, ob Nachtrainieren überhaupt nötig ist oder eine Wissensbasis reicht, richten Unsloth ein und trainieren ein Modell mit eigenen Daten. Danach können Sie Vorher und Nachher belegen, kennen Daten- und Modellrechte sowie die Wirtschaftlichkeit und haben ein Modell, das auf eigener Hardware läuft.

Für wen

IT-Abteilungen und technisch erfahrene Fachverantwortliche, die ein Sprachmodell auf die Fachsprache ihres Unternehmens abstimmen wollen, mit überschaubarem Aufwand und ohne Forschungsprojekt.

KI-Tool-Training · 1 Tag

Mit Unsloth ein Modell auf Hausdaten feinabstimmen und den Gewinn messbar belegen

Das nehmen Sie mit

  • Eine begründete Entscheidung, ob Ihr Anliegen Nachtrainieren braucht oder mit einer Wissensbasis auskommt
  • Ein mit Ihren Daten feinabgestimmtes Modell, exportiert für den Betrieb auf eigener Hardware
  • Ein Vorher-nachher-Vergleich an festen Testaufgaben als Beleg für den Nutzen
  • Klarheit, wem Trainingsdaten und Modell gehören, eine Wirtschaftlichkeitsrechnung und feste Teamstandards

Ablauf

  1. Teil 1

    Einheit 1 – Entscheidung vorab: Nachtrainieren oder Wissensbasis

    • Feinabstimmung mit Unsloth gegen Wissensbasis abwägen: wann Nachtrainieren den Sprachstil gezielt prägt
    • Realistische Grenzen einer Consumer-Grafikkarte: Modellgröße, Trainingsdauer und LoRA-Verfahren
    • Die Arbeitsumgebung für Unsloth in weniger als einer Stunde betriebsbereit machen
    • Unsloth unter den KI-Werkzeugen: Modelle im Haus anpassen, statt Daten an Cloudanbieter zu geben
  2. Teil 2

    Einheit 2 – Training verstehen: Datensatz, Stellschrauben, Probelauf

    • Musterschreiben und Fachtexte des Hauses sammeln und als Frage-Antwort-Paare aufbereiten
    • Lernrate, Epochen und LoRA-Rang: welche Einstellungen das Ergebnis spürbar verändern
    • Einen Trainingslauf komplett verfolgen, vom Laden des Basismodells bis zum gespeicherten Adapter
    • Übung: einen kleinen Datensatz vorbereiten und den ersten Trainingslauf starten
  3. Teil 3

    Einheit 3 – Ernstprobe: Das Modell lernt die Sprache des Hauses

    • Ein Basismodell wird auf Fachvokabular, interne Abkürzungen und Schreibkonventionen trainiert
    • Identische Testaufgaben vor und nach dem Training stellen und die Antworten nebeneinander bewerten
    • Das trainierte Modell in ein lokal ladbares Format exportieren, etwa GGUF
    • Übung: Mit einem Datensatz aus Ihrem Haus nachtrainieren und das Ergebnis an Testaufgaben prüfen
  4. Teil 4

    Einheit 4 – Abwägen: Datenrechte, Wirtschaftlichkeit, Rechtsrahmen

    • Wem Trainingsdaten und nachtrainiertes Modell gehören und was die Lizenz des Basismodells zulässt
    • Rechnung aufmachen: wann sich der Trainingsaufwand auszahlt und in welchen Fällen er sich nicht lohnt
    • KI-Verordnung, Personendaten in Trainingsbeispielen und Mitbestimmung der Beschäftigtenvertretung
    • Was Rechner und Betreuung pro Monat kosten und wie sich das Vorhaben geordnet beenden lässt
  5. Teil 5

    Einheit 5 – Pflege: Modellversionen, Teamstandards, Folgevorhaben

    • Zuständigkeit für Trainingsdaten, Modellversionen und erneute Trainingsläufe festlegen
    • Datensatzformat, Testaufgaben und Versionsbenennung als verbindlichen Teamstandard sichern
    • Stoppregel: löst das Modell die Testaufgaben nicht besser als das Basismodell, endet die Investition
    • Für ein zweites Anpassungsvorhaben überschlagen, wie viel Daten- und Rechenarbeit anfällt

VoraussetzungenEin Rechner mit Consumer-Grafikkarte und rund 12 GB Grafikspeicher oder mehr. Sie sollten mit Datenformaten umgehen können; Programmiererfahrung erleichtert die Arbeit.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen