KI-AGT Redaktion · Veröffentlicht: 2026-10-03 · Aktualisiert: 2026-10-05
Prompt Injection bezeichnet den Versuch, die vorgesehene Verarbeitung durch eingeschleuste Anweisungen zu beeinflussen. Bei indirekten Angriffen stecken diese Anweisungen zum Beispiel in einer Webseite, einer E-Mail oder einer Toolantwort. Das Risiko hängt stark davon ab, welche Aktionen das System tatsächlich ausführen darf.
Beispiel: manipulierte Support-Nachricht
Eine Nachricht behauptet, ein Administrator verlange den Versand interner Kundendaten. Ein Support-Agent soll die Nachricht bearbeiten, darf daraus aber keine neue Berechtigung ableiten. Eine angebliche Dringlichkeit oder Autorität im Text ersetzt keine Freigabe.
Schutzmaßnahmen kombinieren
Behandle externe Inhalte als Daten und trenne sie von vertrauenswürdigen Anweisungen. Begrenze Werkzeuge und Datenexporte technisch. Kritische Aktionen benötigen eine unabhängige Freigabe. Inhaltsfilter können unterstützen, verhindern aber nicht zuverlässig jeden Angriff.
Was im Pilot getestet werden sollte
Prüfe manipulierte Anhänge, verlinkte Webseiten und widersprüchliche Toolantworten. Dokumentiere, ob Daten abfließen oder unerlaubte Aktionen vorbereitet werden können. Ein einzelner abgewehrter Testfall ist kein allgemeiner Sicherheitsnachweis.