Seminar AI Agent Security Monitoring, Audit und Incident Response

Bei autonomen Workflows reicht ein gewöhnliches Applikationsprotokoll nicht aus. Für Erkennung, Untersuchung und Revision müssen Ziele, Planungsschritte, Identitäten, Richtlinienentscheidungen, Tool-Aufrufe, Datenzugriffe und Resultate korreliert werden.

Zielsetzung

Das Seminar entwickelt ein Betriebsmodell, das sicherheitsrelevante Agentenaktivitäten sichtbar macht, verdächtige Muster erkennt und eine kontrollierte Reaktion bis zur Wiederinbetriebnahme ermöglicht.

Beobachtbarkeit und Audit

• Korrelation von Benutzer-, Agenten-, Sitzungs-, Modell-, Token- und Tool-Identitäten
• Protokollierung von Ziel, Plan, Policy-Entscheidung, Freigabe, Aktion und Wirkung
• Schutz von Logs gegen Manipulation sowie Aufbewahrung, Zugriff und Datenschutz
• Tracing mehrstufiger und agentenübergreifender Abläufe
• Kennzahlen für Fehlverhalten, Regelverletzungen, Privilegienausweitung und ungewöhnliche Autonomie

Erkennung und Reaktion

• Erkennungsfälle für Prompt-Angriffe, Tool Missbrauch, Token-Diebstahl und Datenabfluss
• Anzeichen für Memory Poisoning, manipulierte MCP-Komponenten und kaskadierende Fehler
• Playbooks für Sperren, Token-Widerruf, Tool-Isolation, Memory-Bereinigung und Agentenabschaltung
• Beweissicherung und Rekonstruktion nichtdeterministischer Abläufe
• Wiederanlauf, Nachtests, kontrollierte Freigabe und Verbesserungsmaßnahmen

Praktische Übungen

• Definition eines minimalen Telemetrieschemas
• Erstellung von Erkennungslogik für riskante Tool-Aufrufe und Berechtigungswechsel
• Bearbeitung eines Incidents mit kompromittiertem Agenten-Token
• Rekonstruktion einer mehrstufigen Angriffskette aus Auditdaten
• Entwurf eines Runbooks für Abschaltung und Wiederinbetriebnahme

Einordnung im Seminarprogramm

Das Seminar folgt idealerweise auf Architektur, IAM oder Kompakt. Es ergänzt Governance um betriebliche Nachweise und Red Teaming um Erkennungs- und Reaktionsfähigkeit.