Seminar Kubernetes als Basis für Private-AI-Plattformen

Kubernetes bildet die Steuerungsebene vieler moderner Private-AI-Plattformen. Der produktive Einsatz verlangt jedoch mehr als das Starten einzelner Pods: Netzwerk, Speicher, Identität, Ressourcen, Erweiterungen und Betriebsgrenzen müssen als zusammenhängende Plattform geplant werden.

Das Seminar führt von den Kubernetes-Kernobjekten zu einer minimalen AI-Plattform. Jede Architekturentscheidung wird praktisch umgesetzt und anschließend hinsichtlich Souveränität, Wartbarkeit und Mandantenfähigkeit bewertet.

Einordnung und Nutzen

Drei Tage sind für den Einstieg notwendig, weil Kubernetes-Grundlagen, Plattformdienste und eine funktionsfähige AI-Bereitstellung gemeinsam aufgebaut werden. Die Dauer vermeidet eine rein oberflächliche Produktschau.

Zielgruppe

• Linux- und Containeradministration
• Platform Engineering und Rechenzentrumsbetrieb
• MLOps- und AI-Infrastrukturteams

Voraussetzungen

• Sichere Linux-Grundkenntnisse
• Grundverständnis von Containern und Netzwerken
• Erste Erfahrungen mit YAML und Kommandozeile sind hilfreich

Lernziele

• Kubernetes-Ressourcen sicher lesen und verwalten
• Clusterkomponenten für private AI-Dienste auswählen
• Netzwerk, Speicher und Mandantenfähigkeit grundlegend konfigurieren
• Eine lokale Modellbereitstellung installieren und betreiben

Seminarinhalte

Kubernetes-Architektur

• API Server, Scheduler, Controller, etcd und Kubelet
• Deklarativer Zustand, Controllerprinzip und Erweiterungen
• Clusterformen für Labor, Rechenzentrum und mehrere Standorte

Workloads und Konfiguration

• Pod, Deployment, StatefulSet, Job und DaemonSet
• ConfigMaps, Secrets, Service Accounts und Probes
• Namespaces, Labels, Owner References und Lebenszyklus

Netzwerk und Zugriff

• CNI, Services, DNS und NetworkPolicies
• Ingress, Gateway API und TLS-Terminierung
• Egress-Kontrolle und interne Endpunkte

Speicher und Datenpfade

• CSI, StorageClasses, Volumes und Snapshots
• Block-, Datei- und Objektspeicher für Modelle und Artefakte
• Datenlokalität, Leistung und Schutzbedarf

Ressourcen und Mandantenfähigkeit

• Requests, Limits, Quotas und LimitRanges
• Scheduling, Affinitäten, Taints und Prioritäten
• RBAC, Projektgrenzen und grundlegende Policies

AI-Plattform-Baseline

• Operatoren und Custom Resources
• Einführung in Beschleunigerressourcen
• Installation eines Modellservers mit internem Service und Persistenz

Praktische Übungen

• Bereitstellung und Aktualisierung mehrerer Kubernetes-Workloads
• Einrichtung von Netzwerkzugriff, TLS und Egress-Begrenzung
• Konfiguration von persistentem Speicher, RBAC und Quotas
• Installation und Test eines lokalen Modellendpunkts

Methodik

Theorieblöcke werden unmittelbar in einem vorbereiteten Mehrknotencluster umgesetzt. Die Übungen bauen aufeinander auf und ergeben am Ende eine kleine, nachvollziehbar konfigurierte AI-Plattform.