Ich stelle Ollama und Open WebUI auf deinem VPS für private KI bereit
DevOps-Ingenieur
Level 2
Hat hohe Leistungskriterien erfüllt und verfügt über eine nachgewiesene Erfolgsbilanz bei der Erfüllung von Kundenerwartungen.
Über diesen Service
Eine KI wie ChatGPT auf deinem eigenen Server zu betreiben bedeutet keine API-Kosten, keine Daten verlassen deine Infrastruktur und volle Kontrolle. Das bietet dir Ollama + Open WebUI – einen privaten, selbstgehosteten KI-Assistenten, der 24/7 auf deinem VPS läuft.
Ich habe diesen Stack schon viele Male bereitgestellt. Du bekommst ein funktionierendes System, keinen Tutorial.
Was ich liefere:
- Ollama installiert und läuft auf deinem VPS mit Docker
- Open WebUI hinter Nginx mit SSL und deiner eigenen Domain bereitgestellt
- Deine Wahl des Modells geladen und einsatzbereit (Llama 3, Mistral, DeepSeek, Gemma, Phi-3)
- HTTPS mit automatisch erneuerndem Let's Encrypt-Zertifikat gesichert
- Automatischer Neustart bei Serverneustart
- Funktioniert mit Hetzner, DigitalOcean, Vultr, OVHcloud oder jedem Ubuntu VPS
Warum dein KI selbst hosten?
Keine OpenAI-Abonnementgebühren. Keine Daten an externe Server gesendet. DSGVO-konform von Haus aus. Deine Dokumente, deine Gespräche, dein Server – niemand sonst sieht sie.
Ein Hetzner CX22 für 4€/Monat bewältigt Llama 3.2 3B problemlos. Für größere Modelle (70B+) empfehle ich dir im Voraus die passenden VPS-Spezifikationen.
Schick mir vor der Bestellung eine Nachricht mit deinem VPS-Anbieter und verfügbarem RAM. Ich bestätige dir, welche Modelle auf deinem Setup gut laufen.
Cloud-Provider:
DigitalOcean
Cloud-Computing-Ressource:
Azure Container Instances
•
Cloud SQL
