Ich richte dein GPU-Cluster und deine AI-Infrastruktur ein, validiere sie und behebe Probleme

Du hast GPUs. Sie sollen zuverlässig als Rechenplattform funktionieren.

Ich baue und betreibe GPU- und HPC-Infrastruktur in der Produktion: Bereitstellung, Treiber- und CUDA-Stack-Validierung, Scheduling, Hochgeschwindigkeitsnetzwerke und Überwachung. Ich arbeite auf der Infrastruktur-Ebene. Ich bin kein ML-Ingenieur und werde auch keiner sein.

WAS ICH MACHE

GPU-Knoten aktivieren: NVIDIA-Treiber, CUDA-Toolkit und Runtime abstimmen, Persistenzmodus, MIG

Gesundheitsprüfung: DCGM-Diagnosen, Xid- und ECC-Fehleranalyse, Temperatur- und Stromchecks

Multi-Node-GPU-Kommunikation: nccl-tests All-Reduce-Benchmarking, NCCL-Tuning, Netzwerkpfad-Validierung

Scheduling: SLURM GPU-Partitionen und GRES, cgroups und Binden, oder Kubernetes mit dem NVIDIA-Geräte-Plugin und GPU-Operator

Überwachung: Prometheus, DCGM-Exporter, Grafana-Dashboards

Automatisierung: Ansible-Rollen, damit der Aufbau wiederholbar ist

BEVOR DU BESTELLST

Sende mir eine Nachricht mit der Anzahl der Knoten, GPU-Modell, Interconnect und was du beobachtest. Falls es etwas ist, das ich nicht wirklich beheben kann, sage ich es dir.

Du bekommst eine funktionierende Konfiguration, Benchmark-Ergebnisse, die zeigen, was sich geändert hat, und dokumentierte Anleitungen.