Seminar Intensivseminar: Sicherheit, Betrieb und Freigabe KI-generierten Codes

Seminarbeschreibung

Eine funktional korrekte Änderung muss auch sicher, betreibbar und nachvollziehbar freigegeben werden können. Das Intensivseminar verknüpft diese Anforderungen an einer vorbereiteten Anwendung und Pipeline. KI-generierte Implementierungen und Änderungen an Prüfvorgaben werden auf ihre tatsächliche Wirkung untersucht.

Gebündelt werden die Fachthemen Sicherheit und Abhängigkeiten, Performance und Zuverlässigkeit, CI/CD-Prüfpipelines sowie Governance und technische Abnahme. Die Übungen verwenden einen gemeinsamen Änderungsstand und bereits vorhandene funktionale Tests. Dadurch entfällt mehrfacher Aufbau derselben Umgebung. Die Bandbreite möglicher Angriffs- und Lastszenarien wird auf repräsentative Fälle begrenzt.

Gemeinsam mit dem Intensivseminar zur funktionalen Qualität werden alle Fachthemen des Programms zusammengefasst. Für dieses Angebot wird eine tragfähige funktionale Testsuite vorausgesetzt. Der Besuch des funktionalen Intensivseminars ist eine geeignete Vorbereitung; gleichwertige Praxiserfahrung erfüllt dieselbe Voraussetzung.

Lernziele

• Sicherheits- und Betriebsrisiken einer KI-generierten Änderung systematisch bewerten.
• Komponentenbefunde, Laufzeitprüfungen und Lastmessungen nachvollziehbar auswerten.
• Wirksame Qualitätsgates gegen fehlerhafte und abgeschwächte Prüfläufe absichern.
• Eine technische Freigabe aus vollständigen, zum Änderungsstand passenden Nachweisen ableiten.

Inhaltsübersicht

• Schutzanforderungen und Sicherheitsreview
• Abhängigkeiten und Konfiguration
• Performance und Zuverlässigkeit
• CI/CD-Prüfkette
• Gates und Schutzregeln
• Governance und technischer Abnahmeentscheid

Seminarinhalte

Schutzanforderungen und Sicherheitsreview

Ein begrenztes Bedrohungsmodell bestimmt die relevanten Sicherheitsprüfungen. Die Untersuchung konzentriert sich auf Datenflüsse, Objektberechtigungen und Eingabeverarbeitung. Ein bestätigter Defekt wird ursächlich behoben und durch Sicherheitsregressionen geprüft.

• Vertrauensgrenzen und Missbrauchsfälle festlegen.
• Statische Befunde mit manueller Prüfung verifizieren.
• Erlaubte und verbotene Zugriffe nach einer Korrektur vergleichen.

Abhängigkeiten und Konfiguration

Ein Komponentenbestand verbindet direkte und transitive Bibliotheken mit Version und Herkunft. Generierte Paketvorschläge, Geheimnisfunde und unsichere Standardwerte werden untersucht. Befunde erhalten nachvollziehbare Zuständigkeiten.

• Tatsächlich vorhandene Pakete und APIs prüfen.
• Lockdateien, Scanumfang und Ausschlüsse untersuchen.
• Lizenz- und Herkunftsfragen an die zuständige Bewertung übergeben.

Performance und Zuverlässigkeit

Messbare Ziele bilden die Grundlage für ein kleines Lastprofil. Anschließend werden langsame Abhängigkeiten und problematisches Retry-Verhalten simuliert. Korrekturen werden unter vergleichbaren Bedingungen erneut gemessen.

• Antwortzeit, Fehlerrate und Durchsatz gemeinsam bewerten.
• Doppelte Seiteneffekte und Verstärkung einer Störung prüfen.
• Begrenzte Messdauer und Umgebungsabhängigkeit dokumentieren.

CI/CD-Prüfkette

Vorhandene funktionale Tests werden durch geeignete Sicherheits- und Betriebsprüfungen ergänzt. Berichte, Rückgabecodes und fehlgeschlagene Werkzeuge werden zuverlässig ausgewertet. Die Prüfkette ordnet jeden Befund einem konkreten Commit und Artefakt zu.

• Schnelle und umfangreiche Prüfprofile staffeln.
• Leere Testauswahl und fehlende Scanberichte erkennen.
• Reproduzierbare Umgebung und kontrollierte Werkzeuge verwenden.

Gates und Schutzregeln

Freigabebedingungen werden anhand der Risiken formuliert und durch Negativtests überprüft. Generierte Änderungen an Workflows, Ausschlusslisten und Testschwellen erhalten einen eigenständigen Review. Ausnahmen bleiben zeitlich und sachlich begrenzt.

• Ausfall und Umgehung eines Gates bewusst nachstellen.
• Runner-Berechtigungen und Geheimniszugriff begrenzen.
• Altbefunde, neue Befunde und befristete Ausnahmen trennen.

Governance und technischer Abnahmeentscheid

Rollen, Prüfkatalog und Nachweise werden an einem gemeinsamen Freigabefall angewendet. Die Entscheidung berücksichtigt bestätigte Fehler, fehlende Prüfungen und verbleibende Risiken. Eine wesentliche Änderung nach der Prüfung erfordert eine erneute Bewertung.

• Nachweise auf Vollständigkeit und richtigen Stand prüfen.
• Freigabe, Nacharbeit und zulässige Auflagen begründen.
• Zuständigkeit und Ablaufdatum für Ausnahmen festhalten.

Praxisübungen

1. Schutz- und Leistungsanforderungen für einen vorbereiteten generierten Dienst festlegen.
2. Sicherheits- und Komponentenbefunde prüfen und einen Defekt mit Regressionstests beheben.
3. Last- und Störungsszenario ausführen und eine Korrektur vergleichend messen.
4. Prüfberichte in die vorbereitete Pipeline integrieren und Gates gezielt zum Scheitern bringen.
5. Eine abgeschwächte Workflow-Änderung erkennen und korrigieren.
6. Die vollständige Fallakte technisch abnehmen oder nachvollziehbare Nacharbeit festlegen.

Arbeitsweise und Schulungsumgebung

Vorbereitete TypeScript-Anwendung mit Tests, Semgrep, Trivy, Grafana k6, Containerumgebung und GitLab CI. Scannergebnisse und längere Messreihen stehen ergänzend für die Auswertung bereit.