Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich werde LLMs auf deinem Mac laufen lassen und Open-Source-Apps selbst hosten
Amila Thushara
Über diesen Service
Automatische Übersetzung
Möchtest du KI auf deiner eigenen Hardware laufen lassen, privat, sicher und ohne monatliche API-Rechnungen?
Du bist hier genau richtig!
Ich richte selbstgehostete LLMs und Open-Source-KI-Tools auf deinem Mac Studio, Mac-Cluster, GPU-Server oder On-Premise-Maschinen ein, vollständig privat und einsatzbereit.
Was ich anbiete:
- Lokale LLM-Installation (Llama, Qwen, DeepSeek, Mistral, Gemma)
- Mac Studio & Mac Mini LLM-Setup mit MLX
- Mac-Cluster-Setup für große Modelle (exo, MLX)
- GPU-Server & On-Premise-LLM-Bereitstellung
- Private WebUI ChatGPT-Setup
- n8n KI-Automatisierung selbst hosten
- Privater RAG-Chatbot auf deinen eigenen Dokumenten
- Dify, Flowise & AnythingLLM Setup
- Sicherer Fernzugriff & Benutzerverwaltung
- Model-Quantisierung & Performance-Optimierung
Technologie-Stack:
LLM Laufzeiten: Ollama || llama.cpp || MLX || vLLM || LM Studio || exo
Open-Source-Apps: Open WebUI || n8n || Dify || Flowise || AnythingLLM || LocalAI
Hardware: Mac Studio || Mac Mini || NVIDIA GPU-Server || On-Premise
Tools: Docker || Linux || Tailscale || Nginx
Warum mich wählen?
- Schnelle Lieferung
- Kostenlose Beratung
- 100% privat, Daten bleiben auf deiner Hardware
- Komplette Dokumentation
- Support nach der Einrichtung
Lass uns noch heute dein eigenes KI-System laufen lassen!
Lerne Amila Thushara kennen
Amila Thushara
Senior Software Engineer POS, ERP and AI Powered Web Mobile Solutions
- AusSri Lanka
- Mitglied seitJuni 2020
- ⌀ Antwortzeit2 Stunden
Sprachen
Englisch
Senior Software Engineer building scalable POS, ERP, MVP, web & mobile apps with a focus on performance, security & maintainability. Skilled in microservices, API development, database optimization, system integrations & AI-powered features (chatbots, automation, LLM integrations). From idea validation to production launch & long-term support, I handle every project with ownership and a results-driven mindset. Let's build something reliable together — message me to discuss your project.
Automatische Übersetzung
Meine weiteren Dienstleistungen im Bereich KI-Entwicklung
FAQ
Automatische Übersetzung
Welche Hardware brauche ich, um eine lokale LLM auszuführen?
Kleine Modelle (7B bis 8B) laufen gut auf einem Mac mit 16GB+ RAM oder einem GPU mit 8GB+ VRAM. Größere Modelle (70B+) benötigen einen Mac Studio mit 64GB+ oder einen GPU-Server mit viel VRAM. Ich empfehle das passende Modell für deine Hardware.
Kannst du LLMs auf einem Mac Studio oder Mac Mini einrichten?
Ja. Apple Silicon Macs sind dank einheitlichem Speicher hervorragend für lokale KI geeignet. Ich nutze MLX, Ollama und llama.cpp, um die beste Geschwindigkeit auf M-Serie Chips zu erzielen.
Was ist ein Mac-Cluster und brauche ich einen?
Ein Mac-Cluster verbindet mehrere Macs, um Modelle zu laufen, die zu groß für eine Maschine sind, wie Modelle mit 400B+ Parametern. Mit Tools wie exo und MLX kombiniere ich deren Speicher, sodass sie als ein KI-System arbeiten.
Was ist Open WebUI?
Open WebUI ist eine private, ChatGPT-ähnliche Oberfläche für deine lokalen LLMs. Dein Team kann chatten, Dokumente hochladen und Gespräche verwalten – alles auf deiner eigenen Hardware mit Benutzerkonten und Berechtigungen.
Kannst du n8n für KI-Automatisierung selbst hosten?
Ja. Ich richte n8n auf deinem Server ein und verbinde es mit deinem lokalen LLM, sodass du E-Mails, Dokumente und Workflows automatisieren kannst, ohne pro Aufgabe zu bezahlen oder Daten zu teilen.
Sind meine Daten wirklich privat?
Ja. Alles läuft auf deinen eigenen Maschinen, sodass Prompts, Dokumente und Daten niemals dein Netzwerk verlassen oder an OpenAI, Google oder Dritte gehen.
Kann ich auf meine lokale KI aus der Ferne zugreifen?
Ja. Ich kann sicheren Fernzugriff mit Tailscale, VPN oder Nginx mit SSL einrichten, damit du und dein Team es von überall aus sicher nutzen könnt.
Ist ein lokales LLM so gut wie ChatGPT?
Moderne Open-Source-Modelle wie Llama, Qwen und DeepSeek sind für die meisten Geschäftsanwendungen sehr leistungsfähig. Ich helfe dir, das beste Modell für deine Bedürfnisse und Hardware zu wählen.
Wie greife ich auf meinen Rechner für die Einrichtung zu?
Über sicheren Fernzugriff, den du genehmigst, wie SSH, AnyDesk oder eine Bildschirmfreigabesitzung. Ich benötige niemals deine persönlichen Passwörter, und du kannst den Zugriff nach Abschluss widerrufen.
Nicht sicher, welches Paket zu deinem Setup passt?
Schreib mir vor der Bestellung mit deinen Hardware-Details. Ich empfehle das passende Paket oder sende dir ein individuelles Angebot.
