KI-AgentenAI Agents · Agentic Ai
WISSEN & PRAXIS

Guardrails

Guardrails begrenzen Eingaben, Ausgaben und Aktionen einer KI-Anwendung. Lerne technische und organisatorische Kontrollen kennen und erfahre, warum ihre Wirksamkeit anhand konkreter Fehlerfälle überprüft werden muss.

Technische und organisatorische Grenzen für zulässige Eingaben, Ausgaben und Aktionen.

Beispiel aus der Praxis

Beispiele sind Domain-Listen, Parameterprüfung, Budgets und Freigaben. Einzelne Filter garantieren keine vollständige Sicherheit.

Kontrollen an mehreren Stellen

Eine erlaubte Domainliste begrenzt mögliche Ziele, eine Parameterprüfung kontrolliert den einzelnen Aufruf. Zusätzlich kann eine menschliche Freigabe für bestimmte Wirkungen erforderlich sein. Diese Maßnahmen bearbeiten unterschiedliche Teile des Risikos.

Nachweise statt Etiketten

Frage bei einer Schutzmaßnahme, welche Aktion sie genau verhindert und wie ihr Ausfall erkannt wird. Teste auch zulässige Vorgänge, damit ein zu strenger Filter nicht unbemerkt die fachliche Arbeit blockiert.

Quellen und Prüfstand

Quellenabgleich mit KI-Unterstützung am . Anbieterangaben können sich ändern; die Recherche ist kein unabhängiger Produkttest. So arbeitet KI-AGT.

Passend weiterlesen

Wissen in die Praxis bringen