Seminar Agentic AI Engineering – Red Teaming und Angriffssimulationen

Das Seminar vermittelt systematische Angriffssimulationen für Agenten, die Kontext verarbeiten, Werkzeuge aufrufen und über MCP oder A2A mit externen Systemen interagieren. Aktuelle OWASP-Risikokategorien für GenAI- und Agentenanwendungen werden in reproduzierbare adversariale Tests und verwertbare technische Befunde übersetzt. Die Teilnehmenden prüfen direkte und indirekte Prompt Injection, missbräuchliche Tool-Ketten, Datenabfluss, Identitätsverwechslung und Ressourcenmissbrauch und priorisieren Abhilfen nach Auswirkung und Ausnutzbarkeit.

Einordnung und Nutzen

Agentische Systeme verbinden probabilistische Modellentscheidungen mit deterministischen Softwarekomponenten. Deshalb behandelt das Seminar Architektur, Implementierung, Sicherheitsgrenzen und überprüfbare Qualität gemeinsam. Technische Entscheidungen werden an realistischen Fehlerszenarien und nicht nur am erfolgreichen Idealablauf bewertet.

Zielgruppe

AI Security Engineers, Penetration Tester, AppSec-Teams, erfahrene AI Engineers und Security Architects.

Voraussetzungen

Solide Kenntnisse von Web- und API-Sicherheit, Authentifizierung sowie Agentenarchitekturen; sichere Testumgebung erforderlich.

Seminarinhalte

• Aktuelle OWASP-Risiken auf Modell, Kontext, Memory, Tools und Protokolle abbilden
• Threat Modeling für autonome und teilautonome Aktionen
• Direkte und indirekte Prompt Injection reproduzierbar testen
• MCP- und A2A-Missbrauch, Tool Poisoning und gefährliche Parameterketten
• Datenexfiltration über Ausgaben, Tools und verdeckte Kanäle
• Memory Poisoning, Cross-Session- und Mandantenangriffe
• Identität, Berechtigungseskalation und Confused-Deputy-Szenarien
• Denial of Wallet, Endlosschleifen und Ressourcenerschöpfung
• Befunde belegen, Schweregrad bestimmen und Retests automatisieren

Praxisprojekt

In einer isolierten Laborumgebung greifen die Teilnehmenden einen absichtlich verwundbaren Agenten an, dokumentieren Angriffspfade und implementieren anschließend mehrschichtige Gegenmaßnahmen mit automatisierten Regressionstests.

Lernziele

Die Teilnehmenden prüfen direkte und indirekte Prompt Injection, missbräuchliche Tool-Ketten, Datenabfluss, Identitätsverwechslung und Ressourcenmissbrauch und priorisieren Abhilfen nach Auswirkung und Ausnutzbarkeit. Außerdem können die Teilnehmenden Architekturentscheidungen begründen, typische Fehlerbilder diagnostizieren und geeignete Tests sowie Kontrollpunkte für den eigenen Einsatzkontext festlegen.

Arbeitsweise

Kurze Theorieblöcke wechseln mit Demonstrationen, Entwurfsaufgaben und Übungen am System. Zwischenergebnisse werden gemeinsam überprüft; Alternativen, Grenzen und betriebliche Auswirkungen werden transparent diskutiert. Das Praxisprojekt verbindet die Einzelthemen zu einer konsistenten Lösung.