Seminar OpenEuroLLM: Sicherheit, Datenschutz und Governance

Ein offenes Modell und ein europäischer Betriebsort beantworten noch nicht alle Sicherheits- und Governance-Fragen. Dieses Seminar betrachtet ein OpenEuroLLM-Vorhaben als vollständiges System aus Daten, Modellartefakten, Infrastruktur, Anwendung und zuständigen Personen. Ziel ist ein überprüfbarer Ablauf von der Auswahl über Tests bis zur begrenzten Freigabe.

Ein fiktiver interner Wissensassistent dient als gemeinsamer Arbeitsfall. Seine Datenflüsse, Benutzergruppen und Schnittstellen werden erfasst und in konkrete Schutzanforderungen übersetzt. Technische Demonstrationen zeigen, wie vertrauliche Inhalte über zu breite Suchrechte, ungeschützte Endpunkte oder unbedachte Protokollierung offengelegt werden können.

Die europäische Herkunft eines Projekts ist keine pauschale Aussage über die Zulässigkeit einer konkreten Anwendung. Deshalb werden Modellbedingungen, Datenverwendung, Datenschutzaufgaben und Anforderungen aus der KI-Regulierung getrennt geprüft. Der Kurs vermittelt eine strukturierte technische und organisatorische Vorbereitung; Einzelfallentscheidungen werden den im Unternehmen zuständigen Stellen zugeordnet.

Lernziele

• Datenflüsse, Vertrauensgrenzen und Verantwortlichkeiten eines KI-Vorhabens erfassen.
• Technische Schutzmaßnahmen aus konkreten Fehlerszenarien ableiten und überprüfen.
• Bedingungen für Modell, Daten und ergänzende Komponenten getrennt dokumentieren.
• Einen Freigabeprozess mit überprüfbaren Nachweisen, Zuständigkeiten und Wiederholungsprüfungen aufbauen.

Inhaltsverzeichnis

1. Systemgrenzen und Rollen
2. Artefakte und Lieferkette
3. Datenverarbeitung und Zugriffsregeln
4. Schutztests und technische Begrenzungen
5. Regulatorische Einordnung als Prüfprozess
6. Freigabe und laufende Kontrolle

Seminarinhalte

Systemgrenzen und Rollen

• Benutzer, Fachverantwortliche, Betreiber und gegebenenfalls Anbieterrollen im konkreten Vorhaben unterscheiden.
• Datenbewegungen zwischen Endgerät, Anwendung, Retrieval, Inferenz und Protokollsystem aufzeichnen.
• Schutzbedarf für Eingaben, interne Dokumente, Modellartefakte und erzeugte Ausgaben bestimmen.

Artefakte und Lieferkette

• Herausgeber, Revisionen, Bezugswege und Prüfsummen der verwendeten Komponenten erfassen.
• Ungeprüften ausführbaren Modellcode, nicht nachvollziehbare Container und unkontrollierte Downloads behandeln.
• Bedingungen für Gewichte, Datensätze und Bibliotheken in einem getrennten Komponentenverzeichnis führen.

Datenverarbeitung und Zugriffsregeln

• Zwecke, Datenkategorien, Speicherdauer und zugriffsberechtigte Rollen beschreiben.
• Berechtigungen für Dokumentabruf, Modellendpunkt und Administration getrennt vergeben.
• Löschung, Protokollbegrenzung, Testdatenfreigabe und erforderliche Datenschutzprüfungen einplanen.

Schutztests und technische Begrenzungen

• Prompt Injection in bereitgestellten Übungsdokumenten und unberechtigten Zugriff auf Inhalte untersuchen.
• Überlange Eingaben, ungebremste Anfragen und unsichere Weiterverarbeitung generierter Ausgaben behandeln.
• Authentifizierung, Berechtigungsfilter, Ausgabeprüfung und Ressourcenlimits mit konkreten Testfällen prüfen.

Regulatorische Einordnung als Prüfprozess

• Anforderungen aus Datenschutz und KI-Regulierung nach Rolle, Zweck und konkreter Anwendung erfassen.
• Offene Prüfungen an fachlich zuständige Personen übergeben und Nachweise nachvollziehbar ablegen.
• Herstellerangaben, Projektziele, eigene Tests und rechtliche Bewertungen als unterschiedliche Nachweisarten behandeln.

Freigabe und laufende Kontrolle

• Mindestanforderungen, offene Restrisiken und Entscheidungskompetenzen für einen Pilotbetrieb festlegen.
• Vorfallmeldung, Abschaltung, Rücksetzung und erneute Freigabe nach Änderungen planen.
• Die Wirksamkeit technischer Maßnahmen durch wiederholbare Tests dokumentieren.

Praktische Übungen

1. Das Fallbeispiel in Komponenten und Datenflüsse zerlegen und pro Übergang einen Schutzbedarf festlegen.
2. Ein Komponentenverzeichnis mit Versionen, Bedingungen und verantwortlichen Personen erstellen.
3. Vorbereitete Fehlerszenarien mit unzulässigem Dokumentzugriff, manipuliertem Inhalt und übergroßer Anfrage auswerten.
4. Schutzmaßnahmen zuordnen, ihre erwartete Wirkung als Testfall formulieren und einen Kontrolllauf durchführen.
5. Eine Freigabevorlage mit Nachweisen, offenen Entscheidungen und Auslösern für eine Wiederholungsprüfung ausarbeiten.

Schulungsumgebung

Der Kunde stellt Arbeitsplätze und einen abgeschotteten Demonstrationsaufbau für den fiktiven Wissensassistenten bereit. Angriffs- und Schutztests bleiben auf die ausdrücklich dafür vorgesehenen Übungsdaten und Systeme begrenzt. Eine eigene GPU pro Teilnehmer ist nicht notwendig.