Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich werde lokale LLMs bereitstellen, KI-Agenten einrichten und API-Probleme beheben
Full Stack Entwickler, Linux SysAdmin, Automation Experte
Ich bin ein Bachelor-Student im Bereich Full-Stack-Webentwicklung an der Universität von Moratuwa und spezialisiere mich auf Linux-Server-Administration. Im Gegensatz zu normalen VA’s verwalte ich ech...
Über diesen Service
Benötigst du ein privates AI-Dashboard oder hast du Schwierigkeiten mit Local LLM API-Problemen?
Ich richte es sicher ein und behebe die Fehler!
Ich spezialisiere mich auf das Deployen von Local LLMs und AI-Agent-Plattformen (wie Hermes und Open WebUI) auf Linux/GPU-Servern oder lokal auf deinem PC. Ich sorge dafür, dass deine KI-Modelle reibungslos mit produktionsbereiten API-Endpunkten laufen.
Was ich mache:
- Lokale LLM-Installation: Ollama, vLLM oder LM Studio auf deinem Linux-VPS/PC oder GPU-Server bereitstellen.
- AI-Dashboards: Open WebUI, AnythingLLM oder Hermes Agent einrichten.
- Individuelle Modelle: Modelfiles (Llama 3, Qwen, Mistral, GLM) für deinen speziellen Anwendungsfall konfigurieren.
- API-Sicherheit: Sichere API-Schlüssel für deine Entwickler sofort generieren.
Fehlerbehebung & Bugfixing:
- API-Verbindungsfehler, CORS-Probleme und Endpoint-Timeouts beheben.
- GPU Out of Memory (OOM)-Fehler und CUDA-Abstürze lösen.
- Docker-Container- & Nginx-Reverse-Proxy-Bugs beheben, die KI-Ausfälle verursachen.
Warum ich?
Als Linux SysAdmin & Full-Stack-Entwickler kümmere ich mich um die komplexe Infrastruktur, damit du dich auf den Aufbau deiner KI-Apps konzentrieren kannst.
Hinweis: Ich stelle funktionierende Server-Infrastruktur und APIs bereit. Ich programmiere keine KI-Integration in deine App.
Sende mir vor der Bestellung deine Serverdetails!
Tools:
Docker
Frameworks:
Npm
•
Terraform
•
Ansible
•
Andere
Programmiersprache:
Bash
•
JavaScript
•
PHP
•
Python
Expertise:
Installation
•
Migration
•
Konfiguration
Mein Portfolio
FAQ
Automatische Übersetzung
Stellst du Server- oder GPU-Hosting bereit?
Nein, du musst deinen eigenen VPS, Cloud-Server (AWS, DigitalOcean, RunPod) oder lokalen Linux-Rechner bereitstellen. Ich kümmere mich um die Software-Installation und das Deployment.
Was sind die Serveranforderungen, um ein Local LLM auszuführen?
Für grundlegende 8B-Modelle (wie Llama 3) benötigst du mindestens 8GB-16GB RAM. Ein Server mit einer dedizierten NVIDIA-GPU wird jedoch dringend empfohlen, um akzeptable Generationsgeschwindigkeiten zu gewährleisten.
Ich habe bereits eine AI-Setup, aber sie stürzt ständig ab. Kannst du das beheben?
Ja! Ich bin spezialisiert auf die Behebung von Docker-Container-Problemen, GPU OOM (Out of Memory)-Abstürzen und API-Timeout-Fehlern. Schick mir einfach die Fehlerprotokolle!
Sind meine Daten bei diesem Setup privat und sicher?
100% Ja. Alles wird lokal auf deinem Server bereitgestellt. Deine Prompts und sensiblen Daten werden niemals an OpenAI oder andere Dritt-APIs gesendet.
