Ich installiere Ollama und öffne WebUI auf eigenem VPS als sicheren privaten AI-Server

S
ssoft786
S
ssoft786
Mehmud
Einige Informationen wurden automatisch übersetzt.

Über diesen Service

Automatische Übersetzung

Wenn du einen Chat im Stil von ChatGPT möchtest, ohne Firmendaten an Dritte zu senden, läuft das Modell auf deiner eigenen Maschine. Genau das macht dieses Gig.


Ich installiere Ollama mit der Open WebUI Oberfläche auf deinem Server, auf deiner eigenen Domain mit SSL, und richte Benutzerkonten ein, damit dein Team sich richtig anmeldet, anstatt einen einzigen Link zu teilen.


Was du bekommst:


Eine private Chat-Oberfläche unter deiner eigenen Adresse, Modelle, die gezogen und einsatzbereit sind, und einen Server, der sauber neu startet und regelmäßig gepatcht wird. Im Standard-Paket installiere ich NVIDIA-Treiber und CUDA, falls dein Server eine GPU hat, was den Unterschied zwischen schnellen Antworten und langen Wartezeiten ausmacht.


Ich bin ehrlich zu dir bezüglich der Hardware, bevor du Geld ausgibst. Kleine Modelle laufen akzeptabel auf CPU. Alles im 30B-Bereich braucht eine echte GPU. Schick mir deine Server-Spezifikation, und ich sage dir, was tatsächlich läuft, anstatt dir ein Paket zu verkaufen, das enttäuscht.


Das Advanced-Paket fügt einen API-Endpunkt hinzu, den deine eigenen Apps aufrufen können, sowie Dokumentenuploads, damit du Fragen anhand deiner eigenen Dateien stellen kannst.


Schreib mir zuerst mit deinen Spezifikationen, wenn du dir unsicher bist.

Lerne Mehmud kennen

Mehmud

Server and Email Migration, n8n, Docker and Self Hosted AI Setup

4,6(7)
  • AusPakistan
  • Mitglied seitJuni 2016
  • Letzte Lieferung2 Jahre
  • Sprachen

    Urdu, Englisch
I have been running Linux and Windows servers for 9+ years - AWS, Google Cloud, DigitalOcean and plain VPS. Most of my work is migration: moving sites and data between servers, and moving business email from one provider to another without losing mail. I also set up self-hosted automation and AI stacks - n8n, Docker, Ollama with Open WebUI - for teams who want to own their infrastructure instead of monthly SaaS bills. And I clean up hacked servers and harden them so it does not happen again. Tell me what you are running and where you want it. If it is not a job I should take, I will say so.

Automatische Übersetzung