Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich werde MLops, LLM- und GPU-Infrastruktur auf AWS und Kubernetes bereitstellen und verwalten
Senior AI DevOps Engineer: AWS, Kubernetes, ComfyUI APIs, DevSecOps
AI DevSecOps und Cloud-Infrastruktur-Ingenieur, 4 Jahre Erfahrung im Aufbau von Produktionssystemen. Ich liefere, was den meisten AI-Projekten fehlt: die Infrastruktur darunter.
Ich arbeite mit AWS u...
Über diesen Service
Ich bringe KI-Modelle in die Produktion und halte sie am Laufen. Ein Trainingsskript ist kein Produkt. Ein überwacht, versioniertes, autoskalierendes Service ist es.
WAS ICH BAUE
MLops-Pipelines: MLflow oder Weights and Biases Tracking, Model-Registry, automatisiertes Retraining und sicheres Rollout
LLM-Serving: vLLM, Ollama, TGI und Hugging Face Modelle hinter einer OpenAI-kompatiblen API
GPU-Infrastruktur: AWS EC2 g5 und g6, EKS mit GPU-Knoten, RunPod und Vast.ai, Spot-Instanzen und Autoscaling, um deine Kosten zu senken
Container: Docker, Kubernetes, Helm, GPU-Planung, Gesundheitschecks und Zero-Downtime-Rollout
CI/CD für Modelle und Code: GitHub Actions, Jenkins, ArgoCD und GitOps
Observability: Prometheus, Grafana, Request-Tracing, Latenz- und Kosten-Dashboards pro Token
Sicherheit: IAM Least Privilege, private VPC-Endpunkte, Secrets-Management und SSL
WAS DU BEKOMMST
Funktionierende Infrastruktur, die Terraform- oder Helm-Source, die du besitzt, Runbook-Dokumentation und ein Übergabegespräch, damit dein Team sie ohne mich betreiben kann.
Vier Jahre Erfahrung in DevOps und KI-Infrastruktur. Sag mir dein Modell, erwarteten Traffic und Cloud, und ich berechne die Größe und gebe dir vor deiner Bestellung eine realistische monatliche Kostenschätzung. Ich arbeite nach US-Zeitzone.
Tools:
Kubernetes
•
Docker
•
Amazon EKS
Frameworks:
Terraform
•
Ansible
Programmiersprache:
Bash
•
Go
•
Python
Expertise:
Installation
•
Migration
•
Debuggen
Meine weiteren Dienstleistungen im Bereich DevOps-Engineering
FAQ
Automatische Übersetzung
Welche Modelle kannst du bereitstellen?
Jedes offene Modell auf Hugging Face plus Llama, Mistral, Qwen, DeepSeek und deine eigenen Fine-Tunes. Für Bilder und Videos kümmere ich mich auch um Flux, SDXL und Wan. Sag mir das Modell und ich bestätige die GPU, die es braucht.
Brauche ich ein eigenes Cloud-Konto?
Ja, und das ist absichtlich so. Alles läuft in deinem AWS-, GCP- oder RunPod-Konto, damit du die Infrastruktur besitzt und die Abrechnung kontrollierst. Ich richte es ein und übergebe es dir.
Was kostet der Betrieb pro Monat?
Das hängt von der Modellgröße und dem Traffic ab. Vor deiner Bestellung gebe ich dir eine Größenabschätzung: GPU-Typ, erwartete Nutzung und eine monatliche Spanne. Spot-Instanzen und Skalierung auf null reduzieren die Kosten meist erheblich.
Bekomme ich die Terraform- und Helm-Source?
Immer. Du erhältst das vollständige Repository, Dockerfiles, Terraform- oder Helm-Charts und API-Dokumentation, damit du oder ein anderer Entwickler es später warten können.
Kannst du eine bestehende Einrichtung reparieren, anstatt eine neue zu bauen?
Ja. Fehlerhafte Deployments, Out-of-Memory-Crashes, GPU-Knoten, die nicht geplant werden, unkontrollierte Cloud-Rechnungen und undocumented Infrastruktur gehören zu meinen Hauptaufgaben.
Machst du selbst gehostete LLMs vor Ort?
Ja. Ollama oder vLLM mit Open WebUI auf deinem eigenen Server oder GPU-Arbeitsstation, vollständig offline, ohne dass Daten dein Netzwerk verlassen.
Welche Überwachung bekomme ich?
Prometheus und Grafana mit Dashboards für Latenz, Durchsatz, GPU-Auslastung, Fehlerquote und Kosten pro Anfrage, plus Alerts, die dich erreichen, bevor deine Nutzer es bemerken.
Wie sind Ihre Arbeitszeiten?
Ich bin 24/7 erreichbar und arbeite US-Zeiten, sodass wir in deiner Zeitzone sprechen können. Ich antworte in der Regel innerhalb einer Stunde.
