KI-Technik & Entwicklung

Code-Assistenten sicher nutzen: Schwachstellen in KI-Code früh abfangen

Code-Assistenten liefern in Sekunden lauffähigen Code, darunter auch SQL-Abfragen ohne Parameterbindung oder Pakete, die es gar nicht gibt. Dieser halbe Tag richtet sich an Entwickler, Security Champions und Tech Leads, die den Assistenten im Team behalten, seine Risiken aber beherrschen wollen. Sie üben, unsicheren KI-Code zu erkennen und zu härten, und bauen eine Prüfkette aus SAST/DAST und Assistent. Anschließend geht es um Richtlinien, proprietären Code und die Neigung, maschinellen Vorschlägen zu schnell zu vertrauen.

Für wen

Security Champions, Tech Leads sowie Entwicklerinnen und Entwickler, die KI-Coding-Assistenten sicher nutzen und Schwachstellen vermeiden wollen.

KI-Kompaktseminar · 4 Stunden

Generierten Code prüfen, härten und mit Sicherheitswerkzeugen automatisch absichern

Das nehmen Sie mit

  • Einen realistischen Blick auf die Studienlage zu Sicherheit und KI-generiertem Code.
  • Geübtes Vorgehen, um Schwachstellen in Assistenten-Code aufzuspüren und zu beheben.
  • Eine eingerichtete Prüfkette, in der SAST/DAST, Abhängigkeits- und Secret-Prüfung zusammenwirken.
  • Bausteine für eine Team-Richtlinie zum Assistenten-Einsatz und für Awareness-Maßnahmen.

Ablauf

  1. Teil 1

    Modul 1 – Risikobild: Was Code-Assistenten an Schwachstellen mitbringen

    • Was Studien darüber sagen, ob KI-Assistenten Code sicherer oder unsicherer machen
    • Wiederkehrende Schwachstellen in generiertem Code, etwa fehlende Eingabeprüfung oder Injection-Lücken
    • Halluzinierte Abhängigkeiten und Slopsquatting: wenn erfundene Paketnamen von Angreifern registriert werden
    • Tempo ist kein Sicherheitsmerkmal: warum schnell erzeugter Code genauso geprüft werden muss
    • Bestandsaufnahme: wie Ihre Teams Assistenten heute einsetzen
  2. Teil 2

    Modul 2 – Sicher anweisen: Anforderungen in den Prompt, Prüfung danach

    • Sicherheitsanforderungen wie Eingabevalidierung oder Verschlüsselung direkt im Prompt festlegen
    • Erzeugten Code planvoll auf Schwachstellen durchgehen, bevor er ins Repository gelangt
    • Übung: Unsicheren Assistenten-Code aufspüren und gezielt härten
    • Dem Assistenten zuarbeiten lassen, jede Übernahme aber kontrollieren
  3. Teil 3

    Modul 3 – Prüfkette: Assistent und Sicherheitswerkzeuge verbinden

    • SAST/DAST und KI-Assistenten so kombinieren, dass Funde zurück in die Korrektur fließen
    • Secrets, Lizenzen und Abhängigkeiten automatisiert kontrollieren
    • Guardrails in der IDE, die riskante Vorschläge schon beim Schreiben abfangen
    • Übung: Eine Prüfkette aus Scannern und Assistent einrichten
    • Sicherheitsprüfungen fest automatisieren, statt auf Aufmerksamkeit im Einzelfall zu setzen
  4. Teil 4

    Modul 4 – Team: Richtlinien, Vertraulichkeit, Bewusstsein

    • Richtlinien für den Einsatz von Assistenten im Entwicklungsteam formulieren
    • Proprietärer Code und Datenschutz: was an einen Assistenten übergeben werden darf
    • Automation Bias vermeiden: Vorschläge nicht ungeprüft übernehmen, nur weil sie plausibel wirken
    • Awareness im Team aufbauen, etwa über Security Champions und gemeinsame Code-Reviews
    • Fahrplan für den sicheren Einsatz von KI beim Programmieren

VoraussetzungenProgrammiererfahrung ist Voraussetzung.

AbschlussTeilnahmezertifikat und digitales Badge

Thema anfragen