KI-Werkzeuge

LibreChat: Sprachmodelle zentral im Firmennetz anbieten, Anbieter wechseln

Wenn Beschäftigte mit privaten Konten bei verschiedenen KI-Anbietern arbeiten, verliert die IT den Überblick über Daten, Kosten und Verträge. Dieses Tool-Training zeigt IT-Abteilungen, wie sie mit LibreChat eine gemeinsame Chat-Oberfläche im Firmennetz betreiben, hinter der mehrere Sprachmodelle nebeneinander laufen. Sie installieren LibreChat per Docker, verwalten Konten und Rechte, richten eine Pilotabteilung vollständig ein und spielen einen Modellwechsel durch. Am Ende steht fest, wer die Oberfläche betreut, welche Protokollierung gilt und welche monatlichen Kosten anfallen.

Für wen

IT-Abteilungen, die mehreren Fachbereichen Sprachmodelle über eine zentrale Oberfläche anbieten und sich die Möglichkeit erhalten wollen, den Modellanbieter zu wechseln.

KI-Tool-Training · 1 Tag

Eine Chat-Oberfläche für alle Abteilungen, mehrere Modelle dahinter, Wechsel jederzeit möglich

Das nehmen Sie mit

  • Eine per Docker installierte LibreChat-Instanz mit mehreren angebundenen Modellen
  • Ein vollständig eingerichteter Zugang für eine Pilotabteilung samt Kostenauswertung je Modell
  • Ein erprobter Modellwechsel und Regeln zu Protokollierung, Aufbewahrung und Anbieterbindung
  • Geklärte Administration, zentral gesicherte Presets und ein bezifferter nächster Ausbauschritt

Ablauf

  1. Teil 1

    Einheit 1 – Zielbild: Eine gemeinsame Oberfläche statt verstreuter Einzelkonten

    • Weshalb eine hauseigene Chat-Oberfläche die privaten Konten Einzelner bei KI-Anbietern ablöst
    • LibreChat per Docker im Firmennetz installieren; eine Grafikkarte wird dafür nicht benötigt
    • Mehrere Sprachmodelle parallel anschließen, sodass Antworten direkt gegeneinander verglichen werden können
    • Einordnung im Werkzeugkasten: Sprachmodelle über die eigene Infrastruktur nutzen statt über Clouddienste
  2. Teil 2

    Einheit 2 – Administration: Konten, Rechte und Vorgaben je Abteilung

    • Benutzerkonten anlegen, das Anmeldeverfahren festlegen und Berechtigungen nach Rolle vergeben
    • Für Vertrieb, Personalabteilung oder Einkauf eigene Vorgaben und Vorlagen als Presets hinterlegen
    • Dateiupload und Websuche gezielt nur für die Bereiche freischalten, die sie brauchen
    • Übung: Testkonten anlegen, ein Abteilungs-Preset bauen und die Freigaben auf dem Schulungsserver prüfen
  3. Teil 3

    Einheit 3 – Pilotabteilung: Ein Fachbereich erhält seinen kompletten Zugang

    • Eine Abteilung aus Ihrem Haus mit Konten, freigegebenen Modellen und Presets startklar machen
    • Verbrauch und Kosten getrennt nach Modell und Abteilung auswerten
    • Ein Modell austauschen, ohne dass die Pilotabteilung ihre Arbeit unterbrechen muss
    • Übung: den Zugang für die mitgebrachte Pilotabteilung einrichten und einen Modelltausch testen
  4. Teil 4

    Einheit 4 – Pflichten: Protokolle, Anbieterbindung und Betriebskosten

    • Welche Chatverläufe gespeichert werden, wie lange sie aufbewahrt werden und wo der Betriebsrat mitbestimmt
    • Mehrere Anbieter parallel angebunden halten, damit kein einzelner Vertrag zur Sackgasse wird
    • Vor dem Rollout klären, was KI-Verordnung, DSGVO und Arbeitnehmervertretung für LibreChat fordern
    • Monatsbetrag aus Serverbetrieb und Modellabrechnung ermitteln und einen Ausstiegspfad festlegen
  5. Teil 5

    Einheit 5 – Ausrollen: Betreuung, Konventionen und Folgeschritt

    • Bestimmen, wer LibreChat administriert, neue Modelle freigibt und weitere Abteilungen aufnimmt
    • Presets und Benennungsregeln zentral sichern, sodass alle Abteilungen auf derselben Grundlage arbeiten
    • Anzeichen für mangelnde Akzeptanz: geringe Nutzung, private Konten tauchen wieder auf
    • Die nächste Abteilung oder das nächste Modell als Folgeschritt mit geschätztem Aufwand einplanen

VoraussetzungenBenötigt wird ein Server, alternativ eine VM, auf der Docker läuft und die über 8 GB Arbeitsspeicher verfügt. Sie bringen Grundkenntnisse in der Systemadministration mit.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen