GEFAHREN & DATENSCHUTZ

Wenn KI handelt, braucht sie Grenzen.

Ein Agent kann auf E-Mails, Dateien, Datenbanken, Webseiten, APIs und Unternehmenssysteme zugreifen. Je weiter die Rechte reichen, desto größer die möglichen Folgen.

Risiken von KI-Agenten

KI-Agenten können falsche Antworten geben, Daten offenlegen oder unerwünschte Aktionen ausführen. Ordne Risiken nach Zugriffen und möglichen Folgen ein und leite daraus passende Kontrollen für deinen Einsatz ab.

Mehr erfahren

Datenschutz & DSGVO

Beim Einsatz von KI-Agenten müssen personenbezogene Daten und ihre Verarbeitungszwecke geklärt werden. Der Überblick ordnet Datenflüsse, Dienstleister und Löschkonzepte als Ausgangspunkt für die konkrete Prüfung ein.

Mehr erfahren

Sicherheit & Berechtigungen

Berechtigungen bestimmen, welche Daten und Aktionen einem KI-Agenten tatsächlich offenstehen. Erfahre, wie du Zugriffe begrenzt, Freigaben einplanst und die Einhaltung der Regeln unabhängig vom Sprachmodell kontrollierst.

Mehr erfahren

Autonome Aktionen

Autonome Aktionen verändern Daten oder lösen Prozesse ohne einzelne manuelle Schritte aus. Erfahre, wie du den Handlungsspielraum eines KI-Agenten begrenzt und Fehlerfolgen, Freigaben und Wiederholungen einplanst.

Mehr erfahren

Prompt Injection & Manipulation

Manipulierte Dokumente und Eingaben können KI-Agenten vom eigentlichen Auftrag ablenken. Erfahre, wie Prompt Injection funktioniert und welche technischen Grenzen, Prüfungen und Freigaben mögliche Folgen begrenzen können.

Mehr erfahren

Datenlecks & sensible Daten

Datenlecks entstehen, wenn vertrauliche Informationen unberechtigt gelesen oder weitergegeben werden. Prüfe bei KI-Agenten Eingaben, Werkzeugantworten, Ausgaben und Protokolle entlang des gesamten Arbeitsablaufs.

Mehr erfahren

Human-in-the-Loop

Menschliche Freigaben können riskante Agentenaktionen begrenzen, wenn sie konkret und verständlich sind. Lerne, welche Angaben eine Prüfung braucht und wie du Änderungen, Ablehnungen und offene Entscheidungen behandelst.

Mehr erfahren

Lokale vs. Cloud-Agenten

Lokale und cloudbasierte KI-Agenten unterscheiden sich bei Betrieb, Zugriffen und Datenwegen. Erfahre, warum der Ausführungsort allein wenig aussagt und wie du Modellverarbeitung und angebundene Dienste getrennt prüfst.

Mehr erfahren

EU AI Act & Compliance

Der EU AI Act knüpft Pflichten an Rollen und konkrete Einsatzgebiete von KI-Systemen. Erfahre, welche Angaben du für die Einordnung eines Agenten sammeln solltest und wo aktuelle offizielle Informationen zu finden sind.

Mehr erfahren

Welche Aktion birgt welches Risiko?

Allgemeine Orientierung. Die tatsächliche Bewertung hängt von Daten, Umfang, System und Schutzmaßnahmen ab.

Dokumente lesen

Mittel

Zugriffsrechte beschränken

E-Mails lesen

Mittel bis hoch

Nur notwendige Postfächer freigeben

E-Mails versenden

Hoch

Freigabe vor externem Versand

Datenbank lesen

Mittel

Read-only-Berechtigungen

Datenbank verändern

Hoch

Rollen, Backups und Audit-Logs

Dateien löschen

Sehr hoch

Explizite menschliche Bestätigung

Zahlungen auslösen

Sehr hoch

Zwingende separate Autorisierung

Webseiten verwenden

Szenarioabhängig

Domain-, Tool- und Aktionsgrenzen

Fünf Stufen der Kontrolle

01Informieren
02Vorschlagen
03Vorbereiten
04Nach Freigabe handeln
05Autonom handeln

Sicherheitscheck starten

Risiken entlang des Agentenablaufs prüfen

Sicherheit beginnt bei der konkreten Aufgabe. Erfasse, welche Informationen eingehen, welche Systeme verbunden sind und welche Aktionen tatsächlich ausgeführt werden dürfen. Die Artikel helfen, Manipulation, Datenweitergabe und unerwünschte Veränderungen getrennt zu betrachten.

Wähle Kontrollen nach den möglichen Folgen und teste ihre Wirksamkeit. Ein Hinweis im Prompt ersetzt keine technische Zugriffssperre. Rechtliche Themen brauchen zusätzlich die Prüfung des tatsächlichen Einsatzes; die Übersicht liefert dafür Orientierung und keine Zertifizierung.

Geplante Kontrollen durchgehen Berechtigungen begrenzen