KI-AGT Redaktion · Veröffentlicht: 2026-10-03 · Aktualisiert: 2026-10-05
Zu weitreichende Werkzeuge, Berechtigungen oder Autonomie vergrößern die Folgen eines Modellfehlers. Ein Recherche-Agent benötigt beispielsweise kein Konto mit Löschrechten. Die tatsächlichen Grenzen müssen vom ausführenden System erzwungen werden.
Rechte nach Aufgabe vergeben
Trenne Lesen, Schreiben, Löschen und Freigeben. Verwende getrennte Dienstkonten und, soweit unterstützt, kurzlebige Zugänge. Prüfe Pfade, erlaubte Empfänger und Werkzeugparameter unabhängig von der Modellantwort.
Beispiel: Rechnungen vorbereiten
Ein Pilot liest ausgewählte Rechnungen und erstellt einen Entwurf für die Buchhaltung. Er darf weder Zahlungen auslösen noch Originale löschen. Die fachliche Prüfung des Entwurfs und die Zahlungsfreigabe bleiben eigene Schritte.
Protokolle und Rücknahme
Halte sicherheitsrelevante Aktionen mit möglichst wenigen personenbezogenen Daten nachvollziehbar fest. Lege fest, wer ungewöhnliche Zugriffe prüft und wie Änderungen zurückgenommen werden. Vor erweiterten Rechten müssen auch Fehler- und Abbruchpfade getestet sein.