KI-Werkzeuge

LM Studio: lokale Modelle erproben, bevor der Betrieb entscheidet

Bevor ein Betrieb Geld in Lizenzen oder Server steckt, hilft ein nüchterner Test, wie gut frei verfügbare Sprachmodelle die eigenen Aufgaben direkt auf einem gewöhnlichen Arbeitsplatzrechner lösen. Mit LM Studio installieren Sie Modelle aus dem Katalog, arbeiten mit Systemprompt und eigenen Dateien und lassen mehrere Modelle auf denselben Aufgaben gegeneinander antreten. Am Ende stehen Vergleichsergebnisse, einer Kostenrechnung gegenüber Abonnements und ein begründeter Vorschlag für das weitere Vorgehen.

Für wen

Fachkräfte und Beschäftigte mit IT-Bezug, die Sprachmodelle lokal auf ihrem Arbeitsrechner erproben und einschätzen möchten, bevor im Betrieb eine weitreichende Entscheidung fällt.

KI-Tool-Training · 1 Tag

Modelle lokal installieren, an echten Aufgaben vergleichen und Kosten nüchtern einschätzen

Das nehmen Sie mit

  • LM Studio mit mehreren passenden Modellen auf Ihrem Rechner, eingerichtet mit Systemprompt und Vorlagen
  • Vergleichsergebnisse verschiedener Modelle auf Aufgaben aus Ihrem Arbeitsalltag
  • Eine Kostenrechnung lokal gegen Abonnement pro Kopf sowie Klarheit zu Recht und Ausstieg
  • Einen begründeten Vorschlag, wie der Betrieb nach dem Test weitergeht

Ablauf

  1. Teil 1

    Einheit 1 – Start: LM Studio installieren und den Modellkatalog lesen

    • Programm einrichten und erste Modelle herunterladen – nach spätestens einer Stunde läuft der erste Chat
    • Katalogeinträge deuten: Parameterzahl, Quantisierungsstufe wie Q4 oder Q8 und Eignung für die Aufgabe
    • Realistische Erwartungen an Büro-PCs ohne Grafikkarte: welche Modellgrößen dort noch flüssig antworten
    • Abgrenzung zu Clouddiensten: Die Verarbeitung findet auf hauseigenen Geräten statt, nicht beim Anbieter
  2. Teil 2

    Einheit 2 – Handhabung: Chatfenster, Systemprompt und lokaler Server

    • Im Chatfenster arbeiten, einen Systemprompt setzen und wiederkehrende Anweisungen als Vorlage speichern
    • Eigene Dateien, etwa ein Besprechungsprotokoll oder eine Richtlinie, dem Modell als Kontext mitgeben
    • Den lokalen Server starten, über den andere Programme LM Studio wie eine Schnittstelle ansprechen
    • Übung: Sie laden ein Modell, hinterlegen einen Systemprompt und fragen eine eigene Datei ab
  3. Teil 3

    Einheit 3 – Vergleich: Drei Alltagsaufgaben, mehrere Modelle

    • Drei Aufgaben aus Ihrem Berufsalltag, etwa Antwortmail, Zusammenfassung und Gliederung, lokal bearbeiten
    • Mehrere Modelle mit identischen Aufgaben füttern und die Ergebnisse nebeneinander bewerten
    • Erkennen, ab welchem Punkt ein kleines Modell scheitert und ein größeres erforderlich wird
    • Übung: Eine Aufgabe aus Ihrem Arbeitsbereich läuft durch LM Studio und wird gemeinsam ausgewertet
  4. Teil 4

    Einheit 4 – Abwägung: Datenverbleib, Rechtslage und Kosten

    • Feststellen, welche Inhalte das Gerät nie verlassen, und regeln, wie Ergebnisse in die Akte gelangen
    • Rechnung aufstellen: lokale Nutzung gegenüber einem Abonnement, das je Person bezahlt wird
    • Was KI-Verordnung, Datenschutzvorgaben und Mitbestimmung für lokal laufende Modelle am Arbeitsplatz verlangen
    • Laufende Monatskosten ermitteln und festhalten, wie der Betrieb den Einsatz geordnet beenden kann
  5. Teil 5

    Einheit 5 – Empfehlung: Vom Test zur Entscheidung im Betrieb

    • Klären, wer im Haus Modellauswahl und Aktualisierungen von LM Studio betreut
    • Bewährte Systemprompts und Einstellungen als gemeinsame Vorlagen mit Namensregel ablegen
    • Abbruchsignale notieren, etwa wenn Antworten auch mit größerem Modell fachlich unzuverlässig bleiben
    • Den Folgeschritt vorschlagen und seinen Aufwand beziffern, zum Beispiel einen Pilot in einer Abteilung

VoraussetzungenArbeitsplatz-PC mit wenigstens 16 GB RAM; eine Consumer-Grafikkarte verkürzt Antwortzeiten, wird aber nicht benötigt. Kenntnisse im Programmieren sind entbehrlich.

AbschlussTeilnahmezertifikat sowie digitales Badge

Thema anfragen