Sicherheit von Sprachmodellen
Definition
LLM Security umfasst Schutz von Modellen, Prompts, Daten, Tools und Integrationen gegen Missbrauch und Fehlverhalten.
Risiken reichen von Prompt Injection und Datenabfluss über übermäßige Agentenrechte bis zu unsicheren Outputs und Supply-Chain-Problemen. Sicherheit muss Systemgrenzen statt nur das Modell betrachten.
Einfach erklärt
Wie nicht nur den Assistenten, sondern alle Daten- und Werkzeugzugänge rundherum abzusichern.
Warum das im Alltag wichtig ist
Sehr relevant für produktive KI-Systeme mit Unternehmensdaten oder Aktionen.
Beispiel aus dem Mittelstand
Ein Agent erhält Read-only-Rechte, Eingaben werden getrennt von Systeminstruktionen behandelt und Toolcalls benötigen bei Risiken Freigabe.
Grenzen und Fallstricke
- Nur Inhaltsfilter einsetzen; Benutzerrechte an Agenten durchreichen; Prompt Injection als gelöst betrachten.
Entstehung & Geschichte
Mit produktiven LLM-Anwendungen entstanden eigene Sicherheitskataloge; OWASP pflegt eine Top-10-Risikoliste für GenAI/LLM-Anwendungen.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Threat Model, Least Privilege, Guardrails, Logging und Red-Teaming kombinieren.
Häufige Fragen
Kann ein Systemprompt Sicherheit garantieren?
Nein. Ist Prompt Injection nur ein Textproblem? Nein, kritisch wird sie besonders mit Daten- und Toolzugriffen.
Quellen
- OWASP GenAI Security Project · OWASP GenAI Security Project
- NIST AI 600-1 · NIST AI 600-1
- Ergänzender Primärbeleg · Ergänzender Primärbeleg
- Ergänzender Primärbeleg · Ergänzender Primärbeleg
- Ergänzender Primärbeleg · Ergänzender Primärbeleg
Quellenprüfung: 10./12.10.2026.
Redaktionell geprüft am: