Seminar RAG-Datenplattformen mit Open Source auf Kubernetes

Bei privaten AI-Diensten liegt der geschäftliche Wert häufig weniger im Basismodell als in kontrolliert erschlossenen eigenen Informationen. Eine produktive RAG-Plattform muss deshalb Datenherkunft, Zugriffsrechte, Aktualität, Löschung und Qualität ebenso beherrschen wie Vektorsuche und Promptzusammenbau.

Das Seminar erstellt eine durchgängige Datenstrecke von der Quelle bis zur nachvollziehbaren Antwort. Speicher- und Suchvarianten werden anhand von Betrieb, Skalierung, Sicherheit und Wiederherstellbarkeit verglichen.

Einordnung und Nutzen

Drei Tage sind notwendig, da Datenpipeline, Vektorspeicher, Retrievallogik, Sicherheitsmodell und Evaluation praktisch integriert werden. Kürzere Formate behandeln meist nur einen Demonstrationspfad ohne Betriebsreife.

Zielgruppe

• Data Engineering und AI Engineering
• Kubernetes-, Datenbank- und Plattformadministration
• MLOps, LLMOps und technische Informationssicherheit

Voraussetzungen

• Kubernetes-Grundkenntnisse
• Grundverständnis von Datenbanken und APIs
• Python-Grundlagen sind für einzelne Übungen hilfreich

Lernziele

• Eine versionierte RAG-Datenstrecke entwerfen und betreiben
• Vektorspeicher anhand technischer Kriterien auswählen
• Dokumentrechte bis in Retrieval und Antwort durchsetzen
• Retrievalqualität, Aktualität und Betrieb messbar machen

Seminarinhalte

RAG-Architektur und Datenverantwortung

• Quellen, Ingestion, Index, Retrieval, Prompt und Modell
• Datenherkunft, Eigentum, Klassifikation und Zweckbindung
• Online-, Batch- und ereignisgesteuerte Aktualisierung

Aufbereitung und Embeddings

• Extraktion, Bereinigung, Segmentierung und Metadaten
• Embeddingmodelle, Dimensionen, Normalisierung und Versionierung
• Duplikate, Sprachvarianten und reproduzierbare Verarbeitung

Speicher- und Suchkomponenten

• Objektspeicher für Originale und verarbeitete Artefakte
• pgvector, Qdrant und OpenSearch als Betriebsoptionen
• Indexstruktur, Filter, Hybrid Search und Skalierungsgrenzen

Retrieval und Antwortpfad

• Query-Aufbereitung, Kandidatensuche und Reranking
• Kontextbudget, Quellenmetadaten und Promptaufbau
• Caching, Zeitüberschreitungen und sichere Degradation

Sicherheit und Mandantentrennung

• Identität, Dokumentrechte und Metadatenfilter
• Namespace-, Netzwerk- und Secret-Grenzen
• Löschung, Sperrung und erneute Indexierung

Qualität und Betrieb

• Recall, Precision, Trefferqualität und Antworttreue
• Testkorpora, Regression und Freigabegates
• Metriken, Backup, Restore, Kapazität und Kosten

Praktische Übungen

• Aufbau einer versionierten Dokument-Ingestion
• Bereitstellung und Vergleich zweier Vektorspeicher
• Durchsetzung mandantenbezogener Metadatenfilter
• Evaluation eines Retrievalpfads mit anschließendem Update- und Löschszenario

Methodik

Die Übungen nutzen einen vollständigen lokalen Datenpfad. Architekturvarianten werden anhand gemessener Retrievalqualität und klarer Betriebsanforderungen bewertet.