Seminar OpenEuroLLM: Kompakt: Von der Einordnung zum Pilotkonzept

Das Kompaktseminar verbindet die fachliche Einordnung von OpenEuroLLM mit ausgewählten praktischen Aufgaben. Es eignet sich für gemischte technische Projektteams, die zunächst klären müssen, welche Modelle, Daten und Betriebsbedingungen zu ihrem Vorhaben passen. Die Inhalte werden an einer vorbereiteten Auskunftsanwendung nachvollzogen.

Projektziele und verfügbare Artefakte werden zunächst getrennt betrachtet. Danach werden Modellaufrufe, mehrsprachige Antworten und dokumentengestützte Auskünfte im Labor erprobt. Änderungen an Eingaben und Suchparametern machen sichtbar, welche Verbesserungen ohne Modelltraining möglich sind und an welchen Stellen zusätzliche Daten- oder Anpassungsarbeit erforderlich wäre.

Ein eigener Schwerpunkt liegt auf der Beurteilung des beobachteten Verhaltens. Die Fallarbeit umfasst Aufgaben mit fehlenden Informationen, unterschiedliche Benutzerrechte und eine kleine Leistungsbetrachtung. Daraus entsteht ein Pilotkonzept mit begrenztem Umfang, überprüfbaren Kriterien und klaren Zuständigkeiten.

Die dreitägige Fassung behandelt sämtliche Themenfelder des Programms im Überblick. Technische Vertiefungen wie ein vollständiger Systemaufbau, eine eigene Trainingspipeline oder umfangreiche Betriebsoptimierung sind Bestandteil der passenden Einzel- und Intensivseminare. Ein kurzer vorbereiteter Anpassungsvergleich zeigt die Rolle des Fine-Tunings, ohne einen eigenen Trainingslauf vorauszusetzen.

Lernziele

• OpenEuroLLM-Artefakte und ihre technische Reife für eine erste Auswahl einordnen.
• Inferenz und Retrieval anhand einer vorbereiteten Anwendung nachvollziehen und gezielt verändern.
• Bedarf an Datenaufbereitung, Fine-Tuning und vertiefter Evaluation erkennen.
• Ein Pilotvorhaben mit Datenbedarf, Schutzmaßnahmen, Betriebsaufwand und Entscheidungskriterien planen.

Inhaltsverzeichnis

1. Projekt, Modelle und Einsatzentscheidung
2. Vorbereitete Inferenz praktisch erproben
3. Dokumentenwissen und Datenqualität
4. Anpassung und Bewertung
5. Sicherheit und Betrieb im Pilot
6. Pilotkonzept und Qualifizierungsbedarf

Seminarinhalte

Projekt, Modelle und Einsatzentscheidung

• Projektziele, Forschungsmodelle und geeignete Instruktionsvarianten unterscheiden.
• Anforderungen an Sprachen, Datenkontrolle und Antwortqualität anhand des Fallbeispiels formulieren.
• Offene Fragen zu Modellbedingungen, Abhängigkeiten und Ressourcen sammeln.

Vorbereitete Inferenz praktisch erproben

• Modellkennung und verwendeten Versionsstand im Labor nachvollziehen.
• Eingaben, Ausgabegrenzen und Antwortformate in einer bereitgestellten Oberfläche oder über Beispielaufrufe verändern.
• Sprachwechsel und typische fehlerhafte Antworten mit einem kleinen Kriterienraster untersuchen.

Dokumentenwissen und Datenqualität

• Den Weg vom Dokumentabschnitt über den Suchtreffer zur Modellantwort verfolgen.
• Suchparameter verändern und fehlende oder widersprüchliche Dokumentinformationen erkennen.
• Datenqualität, Sprachanteile und saubere Testbestände als Grundlage weiterer Entwicklung einordnen.

Anpassung und Bewertung

• Prompting, RAG und Fine-Tuning einer konkreten Aufgabenstellung zuordnen.
• Vorbereitete Ausgaben vor und nach einer begrenzten Anpassung vergleichen.
• Mindestqualität, kritische Einzelfehler und notwendige manuelle Prüfung festlegen.

Sicherheit und Betrieb im Pilot

• Zwei Benutzerrollen mit unterschiedlichen Dokumentrechten im Labor prüfen.
• Zugangsbegrenzung, Protokollierung und Umgang mit manipulierten Dokumenten betrachten.
• Messbare Antwortzeit, Ressourcenbedarf, Wiederanlauf und organisatorische Zuständigkeiten erfassen.

Pilotkonzept und Qualifizierungsbedarf

• Umfang, Testdaten und Zeitbudget eines ersten Vorhabens festlegen.
• Vorbereitung, technische Prüfung und fachliche Entscheidung den zuständigen Rollen zuordnen.
• Passende Einzel- oder Intensivseminare für die festgestellten Vertiefungsbedarfe auswählen.

Praktische Übungen

1. Eine Anwendungsidee auf ein prüfbares Pilotvorhaben begrenzen und zunächst die offenen Fragen festhalten.
2. Vorbereitete Modellaufrufe in mehreren Sprachen ausführen und Antworten nach einheitlichen Kriterien vergleichen.
3. Die Dokumentensuche verändern und den Zusammenhang zwischen Treffern und Antwortqualität überprüfen.
4. Eine Berechtigungsprüfung sowie einen vorbereiteten Anpassungsvergleich auswerten.
5. Ein Pilotkonzept mit Testfällen, Zuständigkeiten, Ressourcenannahmen und passenden Vertiefungsschritten ausarbeiten.

Schulungsumgebung

Der Kunde stellt Arbeitsplätze und eine vorbereitete Inferenz- und RAG-Demonstrationsumgebung bereit. Modelle, Dokumente und Vergleichsausgaben werden vorab festgelegt. Eine eigene GPU pro Teilnehmer und ein eigenständiger Trainingsaufbau sind nicht erforderlich.