Seminar Intensivseminar: Souveräne KI – Anwendungen, RAG und Agenten

Das Intensivseminar führt die vier Entwicklungsschwerpunkte lokale Modelle, RAG, Agenten und Fine-Tuning in einer gemeinsamen Anwendung zusammen. Europäische Modellartefakte werden auf passenden, vorbereiteten Laufzeiten genutzt. Darauf aufbauend entstehen eine Dokumentenpipeline, eine begrenzte Werkzeugsteuerung und ein kleiner Vergleich zwischen Ausgangsmodell und gezielter Anpassung.

Fünf Tage sind durch die vorbereitete Infrastruktur und eine bewusst begrenzte Fallstudie möglich. Die Inhalte fassen die Kernthemen der vier Einzelseminare zusammen; sie ersetzen nicht deren vollständige Installations-, Varianten- und Vertiefungsübungen. Fachliche Tests, Dokumentenrechte und kontrollierte Aktionen begleiten jede Erweiterung der Anwendung.

Zielgruppe

Erfahrene Python-Entwicklung, KI-Engineering, Data Engineering, Lösungsarchitektur und DevOps mit Entwicklungsverantwortung.

Voraussetzungen

Sichere Python-, API- und Containerkenntnisse sowie praktische Erfahrung mit einer einfachen LLM-Anwendung. Grundverständnis von Embeddings, Trainingsdaten und Berechtigungen wird vorausgesetzt.

Inhaltsübersicht

• Modellendpunkt und reproduzierbare Baseline
• Dokumentengestützte Anwendung
• Begrenzte Agenten und Werkzeuge
• Gezielte Anpassung mit LoRA
• Integration, Vergleich und Betriebsfähigkeit

Seminarinhalte

Modellendpunkt und reproduzierbare Baseline

• Vorbereitete europäische Modellartefakte, Nutzungsrechte, Tokenizer und Laufzeitkompatibilität prüfen.
• Lokale Inferenz konfigurieren und über einen geschützten Anwendungsclient aufrufen.
• Ressourcen, Modellparameter und einen festen fachlichen Testsatz als Baseline dokumentieren.

Dokumentengestützte Anwendung

• Freigegebene Dokumente aufbereiten und mit Metadaten in Qdrant indexieren.
• Mit Haystack eine Abfragepipeline einschließlich kontrollierter Dokumentfilter erstellen.
• Suchqualität, Dokumentbelege und nicht beantwortbare Fragen gegen den Testsatz prüfen.

Begrenzte Agenten und Werkzeuge

• Eine kleine Anzahl typisierter Werkzeuge an ein dafür geeignetes Modell anbinden.
• Parameterprüfung, Zeitlimits und begrenzte Aktionsrechte außerhalb des Modells durchsetzen.
• Eine menschliche Freigabe für eine simulierte Änderung sowie Negativtests für manipulierte Eingaben implementieren.

Gezielte Anpassung mit LoRA

• Einen vorbereiteten kleinen Datensatz prüfen und Anpassungsziel sowie Datentrennung festlegen.
• Einen kurzen, zur Hardware passenden LoRA-Versuch durchführen und vorbereitete Kontrollpunkte ergänzend auswerten.
• Ausgangsmodell und Anpassung vergleichen; Adapter und Laufzeitversion für eine kontrollierte Bereitstellung dokumentieren.

Integration, Vergleich und Betriebsfähigkeit

• Retrieval, Generierung und Werkzeugausführung mit getrennten Testfällen prüfen.
• Fehler, Berechtigungsprobleme und Ressourcenengpässe an der Gesamtanwendung diagnostizieren.
• Eine Änderung freigeben oder verwerfen und den Rückfall auf die vorherige Konfiguration praktisch ausführen.

Praxisübungen

1. Einen vorhandenen europäischen Modellendpunkt mit einer dokumentierten Testanfrage und einer reproduzierbaren Baseline abnehmen.
2. Eine RAG-Pipeline mit zwei Berechtigungsgruppen aufbauen und fehlende beziehungsweise unzulässige Dokumenttreffer testen.
3. Einen Serviceassistenten um kontrollierte Werkzeugaufrufe und eine freigabepflichtige simulierte Aktion erweitern.
4. Einen kurzen LoRA-Versuch mit vorbereiteten Daten durchführen und die fachliche Veränderung unabhängig bewerten.
5. Die integrierte Anwendung mit Qualitäts-, Rechte- und Fehlertests prüfen und eine problematische Änderung zurücknehmen.

Schulungsumgebung

Der Kunde stellt eine vorab eingerichtete Laborumgebung mit Python, kompatiblem Haystack, Qdrant, lokalen Modellendpunkten, Test-APIs und geeigneter GPU-Ressource bereit. Modellrevisionen, Embeddings, Trainingsdaten und Kontrollpunkte sind abgestimmt. Die Grundinstallation der Plattform erfolgt vor Seminarbeginn.

Zusammengefasste Einzelseminare

• Lokale KI mit Mistral AI und EuroLLM betreiben
• RAG-Wissensassistenten mit Haystack und Qdrant entwickeln
• KI-Agenten mit europäischen Modellen sicher entwickeln
• Fine-Tuning europäischer Sprachmodelle mit LoRA

Einordnung im Seminarprogramm

Die empfohlenen Lernpfade und ergänzenden Seminare stehen auf der Themenübersicht Souveräne europäische KI.