Ich richte Ollama ein und öffne WebUI, damit du ein privates LLM lokal laufen lassen kannst

T
tzmughal
T
tzmughal
M Talha Zahid

Level 2

Einige Informationen wurden automatisch übersetzt.

Über diesen Service

Automatische Übersetzung

Möchtest du KI auf deinen Dokumenten verwenden, ohne Daten in die Cloud zu schicken? Ich richte Ollama und Open WebUI auf deiner Maschine oder deinem Server ein, damit dein Team privat mit einem lokalen Modell chatten kann – ganz ohne pro Nachricht anfallende API-Gebühren.


Was ich einrichte


- Ollama installiert und konfiguriert, mit einem Modell, das zu deiner Hardware passt (ich empfehle die Größe basierend auf deinem RAM und deiner GPU)

- Open WebUI mit Benutzerkonten, damit dein Team eine saubere Chat-Oberfläche hat, nicht eine Kommandozeile

- Ab Standard: deine Dokumente als Wissensbasis (RAG) hinzugefügt, sodass das Modell aus deinen Dateien antwortet

- Eine Setup-Anleitung: wie man es startet, Benutzer hinzufügt, Dokumente ergänzt und Modelle aktualisiert


Sicherheit, ganz einfach erklärt


Allein Ollama hat kein Login. Ich lasse eine Einrichtung nie unge schützt dem Internet ausgesetzt. Open WebUI-Konten kommen zuerst, und wir vereinbaren HTTPS und Zugriffskontrolle, bevor jeglicher Fernzugriff in Betrieb geht.


Was du brauchst


Ausreichend RAM für die Größe deines Modells. Als Richtwert läuft mit 16 GB RAM ein 7B bis 8B Modell gut, und eine GPU ist deutlich schneller. Sag mir dein Betriebssystem (Windows, Mac oder Linux), RAM und GPU in deiner ersten Nachricht und ich sage dir, was du vor der Bestellung erwarten kannst.

Lerne M Talha Zahid kennen

M Talha Zahid

AI Specialist, Data Analytics and Python Automation

4,8(164)

Level 2

  • AusPakistan
  • Mitglied seitOkt. 2021
  • ⌀ Antwortzeit1 Stunde
  • Letzte Lieferung3 Wochen
  • Sprachen

    Urdu, Englisch, Deutsch
I clean, analyse and automate data so businesses decide faster. Data Scientist and Analyst with 180+ Fiverr projects and Operations Analyst experience at Honda Downtown. Core work: Excel and Sheets, SQL, Power BI and Python automation. Recent work: RCM reporting (Excel, Power BI), denial prediction, a retail data warehouse, FinBERT sentiment, invoice extraction, NLP, n8n automation and Ollama LLM setups. I also remove Instagram fake, bot and ghost followers manually, one by one. Message me before ordering for an honest answer on fit and timing.

Automatische Übersetzung

Mein Portfolio