Ich installiere Ollama und öffne WebUI auf eigenem VPS als sicheren privaten AI-Server


Über diesen Service
Automatische Übersetzung
Wenn du einen Chat im Stil von ChatGPT möchtest, ohne Firmendaten an Dritte zu senden, läuft das Modell auf deiner eigenen Maschine. Genau das macht dieses Gig.
Ich installiere Ollama mit der Open WebUI Oberfläche auf deinem Server, auf deiner eigenen Domain mit SSL, und richte Benutzerkonten ein, damit dein Team sich richtig anmeldet, anstatt einen einzigen Link zu teilen.
Was du bekommst:
Eine private Chat-Oberfläche unter deiner eigenen Adresse, Modelle, die gezogen und einsatzbereit sind, und einen Server, der sauber neu startet und regelmäßig gepatcht wird. Im Standard-Paket installiere ich NVIDIA-Treiber und CUDA, falls dein Server eine GPU hat, was den Unterschied zwischen schnellen Antworten und langen Wartezeiten ausmacht.
Ich bin ehrlich zu dir bezüglich der Hardware, bevor du Geld ausgibst. Kleine Modelle laufen akzeptabel auf CPU. Alles im 30B-Bereich braucht eine echte GPU. Schick mir deine Server-Spezifikation, und ich sage dir, was tatsächlich läuft, anstatt dir ein Paket zu verkaufen, das enttäuscht.
Das Advanced-Paket fügt einen API-Endpunkt hinzu, den deine eigenen Apps aufrufen können, sowie Dokumentenuploads, damit du Fragen anhand deiner eigenen Dateien stellen kannst.
Schreib mir zuerst mit deinen Spezifikationen, wenn du dir unsicher bist.
Lerne Mehmud kennen
Server and Email Migration, n8n, Docker and Self Hosted AI Setup
- AusPakistan
- Mitglied seitJuni 2016
- Letzte Lieferung2 Jahre
Sprachen
Urdu, Englisch
Automatische Übersetzung
FAQ
Automatische Übersetzung
Welchen Server brauche ich dafür?
Für Modelle im Bereich von 7B bis 8B auf CPU sind 4 vCPU und 16 GB RAM ein Minimum. Für größere Modelle oder schnelle Antworten brauchst du eine NVIDIA GPU mit 16 GB oder mehr VRAM. Schick mir, was du hast, und ich gebe dir eine klare Antwort, bevor du bestellst.
Welche Modelle kannst du installieren?
Alles aus der Ollama-Bibliothek: Llama, Mistral, Qwen, Gemma, DeepSeek und mehr. Sag mir, wofür du es brauchst, und ich schlage dir eine passende Größe für deine Hardware vor.
Sind meine Daten wirklich privat?
Ja. Das Modell läuft auf deiner Maschine, und nichts wird an einen externen Anbieter gesendet. Es gibt keine API-Schlüssel für OpenAI oder andere. Das ist der ganze Grund, warum man self-hosted statt eines gehosteten Dienstes nutzt.
Kann mein ganzes Team es nutzen?
Ja. Open WebUI hat ordentliche Benutzerkonten und Admin-Steuerungen, sodass sich die Leute mit ihren eigenen Zugangsdaten anmelden, anstatt einen einzigen Link zu teilen. Das richte ich bei den Paketen Standard und Advanced ein.

