KI-AGT Redaktion · Veröffentlicht: 2026-10-03 · Aktualisiert: 2026-10-05
Ein Agent kann falsche Informationen verarbeiten und anschließend ungeeignete Aktionen ausführen. Der Schaden hängt von Daten, Werkzeugen und Berechtigungen ab.
Prüfen Sie pro Aktion: Was kann schiefgehen? Wer bemerkt es? Kann die Änderung rückgängig gemacht werden? Beginnen Sie mit einer Sandbox, Leserechten und kleinen Datenmengen.
Testen Sie auch Fehler: fehlende Daten, manipulierte Dokumente, Netzwerkausfälle und doppelte Ausführung. Ein Abbruch muss sicherer sein als unkontrolliertes Weiterarbeiten.
Vom Fehler zur möglichen Auswirkung
Eine falsche interne Zusammenfassung hat andere Folgen als eine falsch adressierte Nachricht an einen Kunden. Erstelle für jede geplante Aktion ein konkretes Fehlerszenario: Was könnte geschehen, wer wäre betroffen und wie würde der Fehler bemerkt?
Tests an den Folgen ausrichten
Prüfe nicht nur normale Eingaben. Nutze fehlende Belege, widersprüchliche Daten und unterbrochene Verbindungen. Entscheidend ist auch, ob das System bei Unsicherheit anhält und ob sich bereits ausgeführte Aktionen erkennen und gegebenenfalls korrigieren lassen.