Seminar C2PA Content Credentials – Generative KI, AI Disclosure und ML-Pipelines

Bei KI-Inhalten reicht ein sichtbarer Hinweis allein nicht aus. Für technische Nachvollziehbarkeit müssen Erzeugung, verwendete Quellen, Modelle, nachgelagerte Bearbeitungen und Veröffentlichung als zusammenhängende Provenienzkette modelliert werden. Das Seminar verbindet die C2PA-Architektur mit realistischen Inferenz- und MLOps-Prozessen.

Seminarziel

KI- und ML-Pipelines können so entworfen werden, dass sie relevante Provenienzinformationen erfassen, Content Credentials erzeugen und nachfolgende Änderungen prüfbar fortschreiben. Datenminimierung, Schlüsselbetrieb und Interoperabilität werden von Anfang an berücksichtigt.

Zielgruppe

Für Teams, die generierte Bilder, Audio-, Video- oder Dokumentinhalte bereitstellen, KI-Modelle betreiben oder die Herkunft solcher Assets technisch bewerten müssen.

Seminarinhalte

Provenienz für KI-Ausgaben

• Erzeugung, Bearbeitung und Veröffentlichung als getrennte Actions
• Digitale Quelltypen für generativ erzeugte, zusammengesetzte und bearbeitete Inhalte
• AI Disclosure für Modellprovenienz, Fachdomäne und menschliche Aufsicht
• Regions of Interest zur genauen Lokalisierung KI-gestützter Änderungen
• Prompts, Referenzassets, Seed-Werte und Parameter über inputTo-Ingredients
• Umgang mit vertraulichen Prompts und personenbezogenen Metadaten

Credentials für Modelle und Datensätze

• Content Credentials für AI/ML-Modelle, Trainingsdatensätze und Ausgabedateien
• Modellversionierung, Fine-Tuning und Releasewechsel
• Nachweisbare Übergänge zwischen Datenaufbereitung, Training, Bereitstellung und Inferenz
• Grenzen der Aussagekraft bei unvollständigen oder fremden Vorstufen

Pipeline-Integration

• Signierung am geeigneten Vertrauenspunkt der Inferenzstrecke
• Manifestentwurf für Batch-, API- und interaktive Generierung
• Fortschreiben der Provenienz nach menschlicher oder automatischer Bearbeitung
• Prüfung vor Veröffentlichung, Export oder Übergabe an Plattformen
• Metriken, Fehlerbehandlung und Quarantäne bei ungültigen Credentials

Angriffe und Governance

• Manipulation von Modellen, Datensätzen, Software und Ausgaben
• Credential Stripping, falsche Behauptungen und irreführende Benutzeranzeigen
• Rollen für Modellbetrieb, Schlüsselverwaltung, Freigabe und Incident Response
• Policy-Regeln für Pflichtfelder, Aufbewahrung und Veröffentlichung

Praktische Übungen

• Manifest mit AI Disclosure für eine text-zu-bildbasierte Erzeugung entwerfen
• KI-Ausgabe signieren, prüfen und nach einer Bearbeitung mit einer neuen Historienstufe versehen
• KI-Bearbeitung über eine Region of Interest lokalisieren
• Fehlerfälle einer automatisierten Publish-Gate-Prüfung bearbeiten
• Kontrollpunkte für eine MLOps-Referenzpipeline festlegen

Methodik

Technische Einordnung, Pipeline-Modellierung, Manifestarbeit und praktische Prüfungen. Die Übungen können auf Bild-, Audio-, Video- oder Dokumentworkflows der Teilnehmerorganisation ausgerichtet werden.