KI-Technik & Entwicklung

Unternehmens-Chatbots mit RAG absichern: Zugriffe, Injection, Nachweise

Ein interner Assistent, der Handbücher, Verträge und Protokolle durchsucht, kann ebenso gut Gehaltslisten oder Vorstandsunterlagen ausspielen, wenn die Rechte im Index fehlen. Dieser Tag richtet sich an Entwicklung, Architektur und IT-Sicherheit, die RAG-Systeme im Unternehmen verantworten. Sie arbeiten die typischen Schwachstellen von Retrieval bis Antwort durch, härten in zwei Übungen eine Pipeline gegen Rechteüberschreitung und eingeschleuste Anweisungen und klären, wie sich der sichere Betrieb gegenüber Datenschutz und Revision belegen lässt.

Für wen

Entwicklerinnen und Entwickler, Software-Architekten sowie Security-Verantwortliche, die interne Chatbots und RAG-Systeme sicher betreiben wollen.

KI-Tagesseminar · 1 Tag

Rechte, Quellen und Antworten eines RAG-Chatbots kontrollierbar und belegbar machen

Das nehmen Sie mit

  • Die Abflusswege eines RAG-Systems benennen Sie und bewerten, was Ihr eigener Bot über den Bedarf hinaus indiziert.
  • Zugriffsrechte, Mandantentrennung und Dokument-Level-Security haben Sie in einer Pipeline praktisch umgesetzt.
  • Eine über ein Dokument eingeschleuste Prompt Injection erkennen und stoppen Sie mit Filtern, Grounding und PII-Maskierung.
  • Logging, DSGVO- und KI-VO-Anforderungen fließen in eine Maßnahmenliste für Ihren Unternehmens-Chatbot ein.

Ablauf

  1. Teil 1

    Modul 1 – Bedrohungsbild: Wo ein RAG-System Wissen preisgibt

    • Abflusswege: vertrauliche Passagen gelangen über die abgerufenen Treffer oder über die generierte Antwort nach außen
    • Indirekte Prompt Injection: versteckte Anweisungen in einem indizierten Wiki-Artikel oder PDF steuern den Bot um
    • Berechtigungslecks, bei denen Personalakten oder Vertragsentwürfe bei Unbefugten landen
    • Interne Assistenten mit Zugriff auf Laufwerke und Intranet als häufig unterschätzte, größere Gefahrenquelle
    • Eigene Lage: welche Quellen Ihr Chatbot heute indiziert und welche davon kein Nutzer braucht
  2. Teil 2

    Modul 2 – Zugriffsschutz: Rechte bis in den Vektorindex

    • Berechtigungen aus Dateiablage und Dokumentenmanagement als Metadaten an jeden Chunk im Vektorindex weitergeben
    • Mandantentrennung und Dokument-Level-Security: getrennte Indizes oder Filter je Gesellschaft, Abteilung, Kunde
    • Least Privilege in der Wissensbasis: abgerufen wird nur, was die anfragende Person selbst öffnen dürfte
    • Übung: Eine RAG-Pipeline so absichern, dass das Retrieval ausschließlich berechtigte Dokumente zurückgibt
  3. Teil 3

    Modul 3 – Inhaltsschutz: Quellen, Eingaben und Antworten filtern

    • Quelldokumente vor der Indizierung bereinigen: eingeschleuste Befehle und schädliche Inhalte entschärfen
    • Output-Filter, Grounding und Zitierpflicht: Antworten nur aus belegten Passagen, jede Aussage mit Fundstelle
    • PII-Erkennung und Maskierung von Namen, Kontoverbindungen oder Personalnummern in Index und Ausgabe
    • Übung: Eine präparierte Datei im Index aufspüren und die darin versteckte Injection abfangen
    • Zitierte Belege als Grundlage dafür, dass Mitarbeitende einer Antwort vertrauen können
  4. Teil 4

    Modul 4 – Betrieb und Nachweis: Protokolle, Rechtsrahmen, Review

    • Logging und Audit-Trails über Anfrage, abgerufene Dokumente und Antwort; Missbrauch an auffälligen Mustern erkennen
    • DSGVO und KI-VO: Anforderungen an einen internen Chatbot im Überblick
    • Fallstudie: Ein Unternehmens-Chatbot im Sicherheitsreview, von der Quellenauswahl bis zur Ausgabe
    • Schutzmaßnahmen so dokumentieren, dass Datenschutzbeauftragte und Revision sie nachprüfen können
    • Maßnahmenliste für den eigenen Bot, gereiht nach Risiko und Umsetzungsreihenfolge

VoraussetzungenVorausgesetzt wird praktische Erfahrung mit RAG-Systemen oder anderen LLM-Anwendungen.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen