Seminar Open Data Discovery Platform (ODD) – ML- und Vector-Store-Metadaten

Das Seminar überträgt bewährte Katalog- und Governance-Prinzipien auf ML- und Vector-Store-Assets. Experimente, Modellversionen, Trainingsdaten, Embeddings und Collections werden so beschrieben, dass Herkunft, Verantwortlichkeit, Reproduzierbarkeit und zulässige Nutzung nachvollziehbar bleiben.

Inhaltsverzeichnis

1. Lernziele
2. Zielgruppe
3. Kapitel 1: ML-Assetmodell und Identitäten
4. Kapitel 2: Lineage und Reproduzierbarkeit
5. Kapitel 3: Vector-Store-Metadaten
6. Kapitel 4: Governance und Nutzungsgrenzen
7. Praxisübungen
8. Voraussetzungen und Anschluss

Lernziele

• ML- und Vector-Store-Entitätstypen abgrenzen
• stabile Identitäten und Versionen definieren
• Trainings- und Quelldaten über Lineage verbinden
• Owner, Status und Nutzungsgrenzen dokumentieren
• Qualitäts- und Aktualitätsrisiken bewerten

Zielgruppe

ML Engineering, Data Science, MLOps, Datenarchitektur, AI Governance und Data Governance.

Kapitel 1: ML-Assetmodell und Identitäten

Inhaltsverzeichnis dieses Kapitels

1. Experiment und Run
2. Modell und Modellversion
3. Trainings-, Validierungs- und Testdaten
4. Status, Owner und Freigabe
5. Schritt-für-Schritt-Umsetzung

Experimente, Runs und Modelle werden nach Projekt, Umgebung und Version eindeutig geordnet.

1. Experiment und Run

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

2. Modell und Modellversion

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

3. Trainings-, Validierungs- und Testdaten

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

4. Status, Owner und Freigabe

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

Schritt für Schritt

1. ML-Arbeitsablauf und Artefakte erfassen
2. stabile Projekt- und Modellidentität festlegen
3. Run- und Versionsmerkmale bestimmen
4. Datenbezüge und Verantwortungen zuordnen
5. Kollisions- und Umbenennungsszenarien prüfen

Kontrollpunkte

• Ergebnis ist fachlich und technisch nachvollziehbar.
• Verantwortung, Voraussetzungen und Abhängigkeiten sind benannt.
• Fehlerfälle, Rückfalloptionen und Nachkontrolle sind dokumentiert.

Kapitel 2: Lineage und Reproduzierbarkeit

Inhaltsverzeichnis dieses Kapitels

1. Trainingsdaten und Feature-Bestände
2. Code-, Parameter- und Umgebungsbezug
3. Bewertungsdaten und Metriken
4. Modellfreigabe und Nutzung
5. Schritt-für-Schritt-Umsetzung

Die Herkunft eines Modells wird von Quelldaten über Transformationen bis zum Trainingslauf verfolgt.

1. Trainingsdaten und Feature-Bestände

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

2. Code-, Parameter- und Umgebungsbezug

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

3. Bewertungsdaten und Metriken

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

4. Modellfreigabe und Nutzung

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

Schritt für Schritt

1. freigegebene Modellversion auswählen
2. zugehörigen Trainingslauf identifizieren
3. Trainings- und Bewertungsdaten verknüpfen
4. Parameter, Metriken und relevante Versionen dokumentieren
5. Reproduzierbarkeit anhand eines Kontrolllaufs bewerten

Kontrollpunkte

• Ergebnis ist fachlich und technisch nachvollziehbar.
• Verantwortung, Voraussetzungen und Abhängigkeiten sind benannt.
• Fehlerfälle, Rückfalloptionen und Nachkontrolle sind dokumentiert.

Kapitel 3: Vector-Store-Metadaten

Inhaltsverzeichnis dieses Kapitels

1. Vector Store und Collection
2. Embedding-Modell und Dimension
3. Quelldokumente und Chunking
4. Aktualität, Löschung und Re-Indexierung
5. Schritt-für-Schritt-Umsetzung

Collections und Embeddings werden mit Quelle, Modell und Aktualisierungsprozess verbunden.

1. Vector Store und Collection

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

2. Embedding-Modell und Dimension

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

3. Quelldokumente und Chunking

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

4. Aktualität, Löschung und Re-Indexierung

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

Schritt für Schritt

1. Collection und geschäftlichen Zweck beschreiben
2. Embedding-Modell und technische Eigenschaften erfassen
3. Quelldaten und Transformationsschritte verknüpfen
4. Aktualisierungs- und Löschlogik dokumentieren
5. Re-Indexierungsbedarf bei Modell- oder Schemawechsel bewerten

Kontrollpunkte

• Ergebnis ist fachlich und technisch nachvollziehbar.
• Verantwortung, Voraussetzungen und Abhängigkeiten sind benannt.
• Fehlerfälle, Rückfalloptionen und Nachkontrolle sind dokumentiert.

Kapitel 4: Governance und Nutzungsgrenzen

Inhaltsverzeichnis dieses Kapitels

1. sensible Trainings- und Eingabedaten
2. zulässiger Zweck und Nutzerkreis
3. Modellstatus und Deprecation
4. Überwachung und Review
5. Schritt-für-Schritt-Umsetzung

ML-Assets erhalten klare Freigaben, Schutzanforderungen und Lebenszyklusregeln.

1. sensible Trainings- und Eingabedaten

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

2. zulässiger Zweck und Nutzerkreis

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

3. Modellstatus und Deprecation

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

4. Überwachung und Review

Der Themenbereich wird fachlich eingeordnet, anhand eines repräsentativen Plattformszenarios demonstriert und mit Qualitäts-, Sicherheits- sowie Betriebskriterien verknüpft. Abhängigkeiten, verantwortliche Rollen und typische Fehlannahmen werden dabei ausdrücklich dokumentiert.

Schritt für Schritt

1. Schutzbedarf von Daten und Modell bestimmen
2. zulässige Nutzung und Ausschlüsse dokumentieren
3. Owner und Genehmiger zuweisen
4. Review-Frist und Qualitätsindikatoren festlegen
5. veraltete Modell- oder Collection-Version kontrolliert deaktivieren

Kontrollpunkte

• Ergebnis ist fachlich und technisch nachvollziehbar.
• Verantwortung, Voraussetzungen und Abhängigkeiten sind benannt.
• Fehlerfälle, Rückfalloptionen und Nachkontrolle sind dokumentiert.

Praxisübungen

1. ML-Assetmodell für ein Beispielprojekt erstellen
2. Modell-Lineage bis zu Trainingsdaten dokumentieren
3. Vector-Store-Collection katalogisieren
4. Governance- und Deprecation-Regeln definieren

Voraussetzungen und Anschluss

Voraussetzungen: Grundkenntnisse zu ML-Lebenszyklen, Trainingsdaten und Vektordatenbanken.

Anschluss: Als technische Ergänzung eignet sich Integration mit dbt, Airflow, BI und ML.