Betrieb von Sprachmodellen (LLMOps)
Definition
LLMOps umfasst Prozesse und Werkzeuge für Entwicklung, Evaluation, Deployment, Monitoring und Wartung LLM-basierter Anwendungen.
Es erweitert MLOps/DevOps um Promptversionen, Modellprovider, Evals, Retrieval, Tokenkosten, Guardrails und nichtdeterministische Ausgaben. Der Begriff ist eine Praxisfamilie, kein einzelner Standard.
Einfach erklärt
Wie DevOps und MLOps für Anwendungen, in denen Sprachmodelle ein zentraler Bestandteil sind.
Warum das im Alltag wichtig ist
Relevant, sobald KI-Prototypen dauerhaft betrieben und versioniert werden.
Beispiel aus dem Mittelstand
Ein Team versioniert Prompt, Modell, Evalset und RAG-Konfiguration und prüft Änderungen vor Deployment automatisch.
Grenzen und Fallstricke
- Nur Prompts versionieren; keine Evals; Provideränderungen unbemerkt übernehmen; Observability vergessen.
Entstehung & Geschichte
LLMOps/GenAIOps entwickelte sich mit produktiven generativen KI-Anwendungen als Spezialisierung von MLOps und DevOps.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Von Pilot zu Betrieb mit Versionierung, CI, Evals, Monitoring und Rollback übergehen.
Häufige Fragen
Ist LLMOps ein Produkt?
Nein. Ersetzt es DevOps? Nein, es ergänzt bestehende Betriebspraktiken.
Quellen
- LLMOps · Microsoft, LLMOps
- MLOps/GenAIOps · Azure Well-Architected, MLOps/GenAIOps
Quellen geprüft am 10.10.2026.
Redaktionell geprüft am: