Ich erstelle eine Produktions-Docker-Image für dein GPU-AI-Modell
DevOps Engineer, GPU- und KI-Infrastruktur
Über diesen Service
Hi! Brauchst du ein funktionierendes, produktionsbereites Docker-Image für ein schweres AI- oder ML-Modell (Video- oder Bildgenerierung oder eine individuelle GPU-Pipeline)?
Ich erstelle Docker-Images, die einen echten Cold Start überleben, nicht nur eine Demo. Das bedeutet, alle CUDA-Erweiterungen, Model-Checkpoints und Abhängigkeiten einzubacken, sodass dein Image vollständig offline beim Inference läuft, ohne dass unerwartete Downloads die Produktion stören.
Was ich für dich tun kann:
- Ein Multi-Stage-Dockerfile mit fixierten CUDA- und PyTorch-Versionen erstellen
- - Individuelle CUDA-Erweiterungen aus dem Quellcode kompilieren, wenn pip-Pakete nicht ausreichen
- - Model-Checkpoints und Gewichte einbinden, sodass beim Runtime nichts heruntergeladen wird
- - Das Image unter einem echten, netzwerkisolierten Cold Start testen, nicht nur in einem warmen Container
- - Deployment und Troubleshooting bei GPU-Cloud-Anbietern, und den passenden Anbieter auswählen, falls dein erster Favorit nicht passt
Warum du mich wählen solltest:
- Reale Produktionsergebnisse: 21/21 Akzeptanztests bestanden, offline verifiziert beim Docker-Run ohne Netzwerk
- - Ich lese vendored Quellcode, um versteckte Abhängigkeiten zu finden, nicht nur die oberflächlichen Testergebnisse
- - Über 9 Jahre Erfahrung in DevOps und Infrastruktur, ich kümmere mich um die ganze Pipeline, nicht nur um das Dockerfile
Schreib mir zuerst mit den Details zu deinem Projekt.
Tools:
Docker
Frameworks:
Ansible
Cloud-Provider:
Google Cloud Platform
•
DigitalOcean
Programmiersprache:
Bash
•
Python
Expertise:
Entwicklung
•
Konfiguration

