Seminar CUDA Programmierung Grundlagen: Kernels, Memory, Toolchain

Inhaltsverzeichnis

• Abstract
• Zielbild und Abgrenzung
• Zielgruppe und Voraussetzungen
• Lernziele
• Inhalte und Module
• Praxisübungen
• Agenda

Abstract

Dieses Grundlagenseminar führt in die praktische CUDA-Programmierung ein. Behandelt werden Kernel-Entwicklung, Thread- und Block-Organisation, Speicherverwaltung und die wichtigsten Teile der Toolchain. Der Fokus liegt auf robustem, wartbarem Code und dem sicheren Umgang mit Fehlern, Synchronisation und einfachen Optimierungen. Übungen entwickeln schrittweise eine kleine GPU-Bibliothek aus Elementaroperationen (Vektoroperationen, Reduktion, einfache Stencils) und verankern Best Practices für Build und Debug.

Zielbild und Abgrenzung

• Fokus: produktionsnahe CUDA C/C++-Programmierung
• Nicht-Fokus: spezielle Domänenbibliotheken, Deep-Learning-Framework-Interna

Zielgruppe und Voraussetzungen

• Zielgruppe: C/C++-Entwicklung, numerische Software, Performance-Teams
• Voraussetzungen: sicheres C/C++-Grundniveau, Pointer/Memory-Grundverständnis, Basiskenntnisse Build-Tools

Lernziele

• CUDA Kernel korrekt strukturieren und starten
• Speicherpfade (Host/Device) sicher verwalten
• Fehlerbehandlung, Synchronisation und Determinismus-Grundregeln anwenden
• Einfache Performance-Heuristiken (Coalescing, Occupancy-Grundlagen) nutzen

Inhalte und Module

• CUDA Programmiermodell: Kernel, Grid, Blocks, Threads
• Indexierung und Datenpartitionierung: 1D/2D/3D
• Speicherverwaltung: Device Memory, Transfers, Pinned Memory (Praxis), Unified Memory (Einordnung)
• Shared Memory und Register: Einsatzfälle, Grenzen
• Synchronisation: __syncthreads, atomare Operationen, Reduktionen
• Fehlerbehandlung: Return-Codes, Synchronisationspunkte, Debug-Basics
• Toolchain: Compiler/Build, Debug-Symbole, Versions- und Kompatibilitätsprinzipien
• Code-Organisation: Header/Translation Units, Kernel-Wrapper, API-Design
• Erste Optimierungen: Coalescing, Vermeidung von Divergenz (Grundniveau)

Praxisübungen

• Setup: Minimalprojekt und Build-Struktur
• Kernel 1: SAXPY/Vektoroperationen
• Kernel 2: 2D-Operation (z. B. Bildfilter/Stencil light)
• Kernel 3: Reduktion (Summe, Max) mit Atomics und mit Block-Reduktion
• Shared-Memory-Übung: Bank-Conflicts sichtbar machen (konzeptionell + Messung)
• Robustness: Fehlerpfade und Guardrails (Bounds, Checks, Synchronisationspunkte)

Agenda

• Tag 1
  • CUDA Modell und erstes Kernel-Projekt
  • Speicherverwaltung und Transfers
  • Übungen: SAXPY + Memory-Checks
• Tag 2
  • 2D/3D-Indexierung, Layout, Coalescing
  • Shared Memory und Synchronisation
  • Übungen: Stencil light + Shared-Memory-Variante
• Tag 3
  • Atomics, Reduktionen, deterministische Patterns
  • Code-Organisation und Build-Strategie
  • Optimierungsgrundlagen und typische Fehlerbilder
  • Übungen: Reduktion iterativ verbessern