Sobald Modelle untrusted Inhalte lesen und zugleich Werkzeuge bedienen, können Daten zu Befehlen werden. Das Seminar zeigt, weshalb reine Prompt-Regeln nicht genügen und wie Eingaben, Kontext, Werkzeuge, Berechtigungen und Ausgaben gemeinsam kontrolliert werden.
Zielsetzung
Angriffsketten sollen früh erkannt und an mehreren Stellen unterbrochen werden. Dazu werden Inhalte klassifiziert, Befehls- und Datenkanäle getrennt, Werkzeuge begrenzt und sensible Ausgaben kontrolliert.
Angriffsmuster
- Direkte und indirekte Prompt Injection in Dokumenten, Webseiten, E-Mails und Tool-Rückgaben
- Zielmanipulation, Jailbreaks, verschachtelte Anweisungen und mehrstufige Payloads
- Manipulierte Tool-Beschreibungen, Ressourcen, Retrieval-Quellen und Abhängigkeiten
- Persistente Memory- und Kontextvergiftung, Cross-Session-Wirkung und schleichende Verhaltensänderung
- Vergiftung von RAG-Quellen, Embeddings, Vektorspeichern, Zusammenfassungen und Benutzerprofilen
- Datenabfluss über Antworten, Tool-Parameter, URLs, DNS, Dateien und Nebenkanäle
Mehrschichtige Abwehr
- Trennung vertrauenswürdiger Steuerdaten von untrusted Inhalten
- Strukturierte Tool-Schnittstellen, strikte Schemas, Allowlisting und Parametervalidierung
- Minimale Berechtigungen, Datenfilter, Egress-Kontrolle und Zieladressbeschränkung
- Kontext- und Memory-Herkunft, Quarantäne, Ablaufzeiten und Freigabe vor Persistenz
- Mandanten- und Sitzungsisolation sowie getrennte Vertrauensstufen für kurz- und langfristigen Speicher
- Risikobasierte Bestätigung, Transaktionsgrenzen und unabhängige Ergebnisprüfung
Praktische Übungen
- Analyse einer indirekten Prompt Injection in einem Dokumentenworkflow
- Nachweis einer Tool-Poisoning-Angriffskette
- Entwurf eines sicheren Tool-Schemas und einer Ausgaberichtlinie
- Nachweis einer sitzungsübergreifenden Memory-Poisoning-Kette mit anschließender Bereinigung und Wiederfreigabe
- Test eines mehrschichtigen Schutzkonzepts gegen Datenabfluss
Einordnung im Seminarprogramm
Das Seminar ergänzt Architektur und MCP-Sicherheit durch tiefe Angriffspraxis. Red Teaming führt die Tests weiter; Secure Development überführt die Kontrollen in den Entwicklungsprozess.
Fachbereichsleitung / Trainerteam / Ansprechpartner
-
Lucas Beich
Telefon: + 49 (221) 74740055
E-Mail: lucas.beich@seminar-experts.de -
Paul Goldschmidt
Telefon: + 49 (221) 74740055
E-Mail: paul.goldschmidt@seminar-experts.de
Seminardetails
| Dauer: | 3 Tage ca. 6 h/Tag, Beginn 1. Tag: 10:00 Uhr, weitere Tage 09:00 Uhr |
| Preis: |
Öffentlich oder Live Stream: € 1.797 zzgl. MwSt. Inhaus: € 5.100 zzgl. MwSt. |
| Teilnehmeranzahl: | min. 2 - max. 8 |
| Teilnehmer: | AI-Entwickler, Security Engineers, Plattformteams, Pentester, Applikationsverantwortliche |
| Voraussetzungen: | |
| Standorte: | Stream Live, Inhaus/Firmenseminar, Berlin, Bremen, Darmstadt, Dresden, Erfurt, Essen, Flensburg, Frankfurt, Freiburg, Friedrichshafen, Hamburg, Hamm, Hannover, Jena, Kassel, Köln, Konstanz, Leipzig, Luxemburg, Magdeburg, Mainz, München, Münster, Nürnberg, Paderborn, Potsdam, Regensburg, Rostock, Stuttgart, Trier, Ulm, Wuppertal, Würzburg |
| Methoden: | Vortrag, Demonstrationen, praktische Übungen am System |
| Seminararten: | Öffentlich, Webinar, Inhouse, Workshop - Alle Seminare mit Trainer vor Ort, Webinar nur wenn ausdrücklich gewünscht |
| Durchführungsgarantie: | ja, ab 2 Teilnehmern |
| Sprache: | Deutsch - bei Firmenseminaren ist auch Englisch möglich |
| Seminarunterlage: | Dokumentation auf Datenträger oder als Download |
| Teilnahmezertifikat: | ja, selbstverständlich |
| Verpflegung: | Kalt- / Warmgetränke, Mittagessen (wahlweise vegetarisch) |
| Support: | 3 Anrufe im Seminarpreis enthalten |
| Barrierefreier Zugang: | an den meisten Standorten verfügbar |
| Weitere Informationen unter + 49 (221) 74740055 |
Seminartermine
Die Ergebnissliste kann durch Anklicken der Überschrift neu sortiert werden.
