Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich werde lokale LLMs, Hermes-Agenten bereitstellen und API-Probleme beheben
Full Stack Entwickler, Linux SysAdmin, Automation Experte
Ich bin ein Bachelor-Student im Bereich Full-Stack-Webentwicklung an der Universität von Moratuwa und spezialisiere mich auf Linux-Server-Administration. Im Gegensatz zu normalen VA’s verwalte ich ech...
Über diesen Service
Benötigst du ein privates AI-Agent-Dashboard oder hast du Schwierigkeiten mit Local LLM API-Problemen? Ich richte es ein und behebe die Fehler!
Ich spezialisiere mich auf das Deployen von Local LLMs und AI-Agent-Plattformen (wie Hermes und Open WebUI) auf deinen Servern. Ich sorge dafür, dass deine AI-Modelle reibungslos laufen und stelle dir fehlerfreie, produktionsbereite API-Endpunkte bereit.
AI-Dashboard & Local LLM Einrichtung:
- Stelle Ollama, vLLM oder LM Studio sicher auf deinem Linux-VPS oder GPU-Server bereit.
- Richte AI-Agent-Plattformen & Dashboards (z.B. Hermes, Open WebUI, AnythingLLM) ein und konfiguriere sie.
- Konfiguriere benutzerdefinierte Modelfiles (Llama 3, Qwen, Mistral) für deinen speziellen Anwendungsfall.
- Erzeuge und konfiguriere sichere API-Schlüssel, damit deine Entwickler sie sofort nutzen können.
️ Fehlerbehebung & Troubleshooting bei AI:
- Behebe API-Verbindungsfehler, CORS-Probleme und Endpoint-Timeouts.
- Behebe GPU Out of Memory (OOM)-Fehler und CUDA-Abstürze.
- Behebe Docker-Container-Probleme und Reverse-Proxy (Nginx)-Fehler, die AI-Ausfälle verursachen.
Hinweis: Ich liefere voll funktionsfähige AI-Dashboards und API-Endpunkte. Die Integration in deine Web- oder Mobile-Apps programmiere ich nicht.
Schick mir deine Serverdetails oder dein aktuelles AI-Problem vor der Bestellung!
Tools:
Docker
Frameworks:
Npm
•
Terraform
•
Ansible
•
Andere
Programmiersprache:
Bash
•
JavaScript
•
PHP
•
Python
Expertise:
Installation
•
Debuggen
•
Konfiguration
Mein Portfolio
FAQ
Automatische Übersetzung
Stellst du Server- oder GPU-Hosting bereit?
Nein, ich stelle kein Hosting bereit. Du musst einen Linux-VPS oder GPU-Server (z.B. von Anbietern wie RunPod, Vast.ai, DigitalOcean, Hetzner usw.) kaufen und mir SSH-Zugang geben.
Programmierst du die AI in meine bestehende Web- oder Mobile-App?
Nein, ich spezialisiere mich auf die Infrastruktur. Ich richte das AI-Dashboard ein, konfiguriere das Local LLM und stelle dir einen voll funktionsfähigen API-Endpunkt sowie sichere API-Schlüssel bereit. Deine Entwickler können diese Schlüssel dann problemlos in deine App integrieren.
Was sind die Serveranforderungen, um ein Local LLM auszuführen?
Das hängt von der Modellgröße ab. Für grundlegende Tests (z.B. Llama 3 8B) reicht ein Linux-VPS mit 8GB-16GB RAM. Für schnelle Antworten und größere Modelle wird jedoch ein dedizierter GPU-Server (wie RTX 3090/4090 oder A100) dringend empfohlen.
Ich habe bereits eine AI-Setup, aber sie stürzt ständig ab. Kannst du das beheben?
Ja! Troubleshooting ist ein zentraler Bestandteil meines Services. Ich kann GPU Out of Memory (OOM)-Fehler, Docker-Container-Abstürze, CUDA-Probleme und Nginx-Reverse-Proxy-Fehler beheben. Schick mir einfach deine Fehlerprotokolle!
Sind meine Daten bei diesem Setup privat und sicher?
Absolut. Im Gegensatz zu Cloud-APIs (wie OpenAI) erfolgt bei Local LLMs 100% deiner Datenverarbeitung vollständig offline auf deinem eigenen Server. Ich konfiguriere auch SSL und Firewalls, um unbefugten Zugriff zu verhindern.
