Seminar EU AI Act – Technische Kontrollen: Datenqualität, Logging und Human Oversight

Technische Kontrollen müssen zum vorgesehenen Zweck und zu realen Schadensszenarien passen. Mehr Logs oder ein beliebiger Mensch im Prozess erfüllen keine Anforderung. Das Seminar leitet messbare Kontrollen aus Risiko, Systemarchitektur und Entscheidungskontext ab.

Nutzen

Teams können Daten- und Leistungsanforderungen operationalisieren, Audit Trails datenschutzgerecht gestalten und menschliche Aufsicht mit verständlichen Informationen und echten Eingriffsmöglichkeiten ausstatten.

Lernziele

• Datenqualitäts- und Repräsentativitätskriterien messbar definieren
• Logging und Audit Trail mit Zweck, Zugriff und Aufbewahrung gestalten
• Human Oversight in Oberfläche, Prozess und Berechtigungen implementieren
• Genauigkeit, Robustheit, Drift und Gruppenleistung laufend überwachen

Zielgruppen

ML Engineering, Data Engineering, Softwareentwicklung, MLOps, Plattformbetrieb, Qualitätssicherung, technische Produktverantwortung und Human-Factors-Teams.

Voraussetzungen

Grundkenntnisse in Datenverarbeitung, APIs und Systembetrieb; ML-Metriken werden praktisch eingeordnet.

Seminarinhalte

Daten-Governance

• Herkunft, Nutzungsrechte und Lineage
• Relevanz, Repräsentativität und Vollständigkeit
• Fehler, Ausreißer, Labelqualität und Gruppenabdeckung

Qualitätskontrollen

• Schema-, Verteilungs- und Konsistenztests
• Trainings-, Validierungs- und Betriebsdaten
• Schwellenwerte, Ausnahmen und Freigabe

Logging und Nachvollziehbarkeit

• Ereignismodell und Korrelations-ID
• Modell-, Daten-, Prompt- und Konfigurationsversion
• Zugriff, Integrität, Aufbewahrung und Datenschutz

Transparenz und Aufsicht

• Leistungsgrenzen, Unsicherheit und Warnungen
• Aufsichtsperson, Kompetenz und Befugnis
• Übersteuern, Stoppen, Eskalieren und dokumentieren

Leistung und Robustheit

• zweckbezogene Genauigkeitsmetriken
• Fehlerkosten und Gruppenleistung
• Stress-, Randfall- und Resilienztests

Monitoring

• Drift, Qualitätsabfall und Datenänderungen
• Dashboard, Alarm und Reaktionsplan
• Feedback, Beschwerden und erneute Freigabe

Praxisanteil

Ein durchgängiges Lab implementiert Datenchecks, versionsgebundene Logs, Aufsichtsoberfläche und Monitoring. Drift und unrepräsentative Eingabedaten werden erkannt; Aufsicht und Betrieb reagieren anhand definierter Schwellenwerte.

Aktualitätsstand

Die Kontrollen sind für die Hochrisiko-Anforderungen ab Dezember 2027 und August 2028 ausgelegt und berücksichtigen die zehn europäischen Standardisierungsbereiche.