Manipulation von Werkzeugbeschreibungen
Definition
Manipulierte Werkzeugbeschreibungen können KI-Agenten zu unerwünschten Aktionen verleiten.
Ein Angriff, bei dem bösartige Anweisungen oder irreführende Metadaten in Werkzeugbeschreibungen das Auswahl- oder Ausführungsverhalten eines Agenten beeinflussen.
Einfach erklärt
Jemand klebt eine falsche Anleitung auf ein Werkzeug. Ein KI-Assistent könnte ihr folgen und deshalb das Falsche tun.
Warum das im Alltag wichtig ist
Der Begriff trägt zu sicheren, wartbaren und leistungsfähigen Webanwendungen sowie belastbaren technischen Entscheidungen bei.
Beispiel aus dem Mittelstand
Ein Unternehmen signiert interne Tooldefinitionen und prüft Änderungen, bevor Agenten sie laden.
Grenzen und Fallstricke
- Schema-Validierung allein erkennt semantische Angriffe nicht; Herkunft, Rechte, Anzeige und Freigabe sind nötig.
Entstehung & Geschichte
Das Muster wurde mit LLM-Agenten und dynamisch eingebundenen Werkzeugkatalogen als Form indirekter Prompt Injection sichtbar.
Anwendung im Mittelstand
- Mögliche Anwendung: Ein Unternehmen signiert interne Tooldefinitionen und prüft Änderungen, bevor Agenten sie laden.
Häufige Fragen
Was bedeutet Manipulation von Werkzeugbeschreibungen?
Ein Angriff, bei dem bösartige Anweisungen oder irreführende Metadaten in Werkzeugbeschreibungen das Auswahl- oder Ausführungsverhalten eines Agenten beeinflussen. Worauf sollte man achten? Schema-Validierung allein erkennt semantische Angriffe nicht; Herkunft, Rechte, Anzeige und Freigabe sind nötig.
Quellen
- Prompt Injection · OWASP, Prompt Injection
Quelle geprüft am 10.10.2026. Redaktionelle Anwendungsbeispiele sind hypothetisch; kein Nachweis realer Kundenergebnisse.
Redaktionell geprüft am: