Ich stelle selbst gehostete LLM, RAG, Ollama, VLLM und AI-Agenten auf VPS oder GPU-Server bereit

671 Fünf-Sterne-Bewertungen · 600+ Aufträge · 13+ Jahre in der Produktionsinfrastruktur

Ich setze Open-Source-LLMs und KI-Systeme auf deinen eigenen Servern ein, damit du nicht mehr pro Token zahlst und deine Daten intern bleiben.

Was ich einsetze

• Ollama, vLLM, llama.cpp, OpenWebUI
• Llama, Mistral, Qwen, DeepSeek, Gemma
• RAG mit Qdrant, Chroma, Weaviate, pgvector
• KI-Agenten über n8n, LangChain, LlamaIndex

Wo ich es einsetze

• Dein VPS: Hetzner, DigitalOcean, Contabo, OVH
• GPU-Server und Bare Metal: A100, L40S, RTX 4090
• AWS, GCP, Azure, RunPod
• Vor Ort und air-gapped Setups

Wie es funktioniert

1. Du schickst mir deine Server-Spezifikationen und das gewünschte Modell
2. Ich bestätige, was deine Hardware realistisch leisten kann
3. Ich setze es ein, optimiere und dokumentiere es

Was du bekommst

• Deployment mit Docker oder systemd, reproduzierbar
• Nginx Reverse Proxy mit SSL und API-Authentifizierung
• GPU- und VRAM-Optimierung, damit das Modell schnell läuft
• Monitoring, Logging und automatischer Neustart bei Fehlern
• Ausführliche Übergabedokumentation

Erfahrung

• Nobelpreis-Organisation, Starbucks, T-Mobile, Beasley Media
• Plattformen mit 45.000 gleichzeitigen Nutzern bei 40 Gbps

Schreib mir vor der Bestellung, und ich sage dir ehrlich, ob deine Hardware das schafft.