Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich werde eine private lokale AI mit RAG und Feinabstimmung von LLMs erstellen
Chanaka
Level 2
Über diesen Service
Automatische Übersetzung
Benötigst du eine AI, die auf deinem eigenen Rechner oder Server läuft, anstatt private Daten an Drittanbieter-APIs zu senden?
Ich baue private, lokale AI-Systeme mit Open-Source-LLMs, RAG, Ollama und maßgeschneiderter Modellanpassung. Deine Lösung kann nach der Bereitstellung vollständig offline laufen, wenn das gewählte Modell und der Workflow dies unterstützen.
Ich kann bei folgenden Punkten helfen:
- Lokale LLM-Installation mit Ollama, llama.cpp oder vLLM
- RAG-Chatbots für PDFs, DOCX, TXT, CSV und Wissensdatenbanken
- Quellenangaben und dokumentenbasierte Antworten
- LoRA / QLoRA / PEFT Feinabstimmung für passende Anwendungsfälle
- Modellquantisierung und Hardware-Optimierung
- Vektordatenbanken wie FAISS, Chroma oder Qdrant
- API, Web-UI, Docker und Self-Hosting-Bereitstellung
- Bewertung von Genauigkeit, Retrieval-Qualität und Halluzinationen
Unsicher, ob du RAG oder Feinabstimmung brauchst? Ich empfehle dir den einfachsten Ansatz, der dein Ziel erreicht, anstatt ein Modell unnötig zu trainieren.
Du erhältst sauberen Quellcode, Installationsanleitungen und eine Lösung, die auf deine Hardware und Datenschutzanforderungen abgestimmt ist.
Für Feinabstimmung, große Datensätze oder Systemintegrationen kontaktiere mich bitte vor der Bestellung, damit wir Umfang, Daten und Rechenanforderungen klären können.
Lerne Chanaka kennen
Chanaka
Level 2
- AusSri Lanka
- Mitglied seitDez. 2022
- ⌀ Antwortzeit1 Stunde
- Letzte Lieferung2 Tage
Sprachen
Englisch
I'm a professional Pinescript coder with over 3 years of experience. As a Computer Science engineer, I have a strong background in coding and a passion for various fields. I offer Pinescript to Python conversion services and I can convert any Pinescript code logic into Python.
In addition, I also offer Pinescript coding services. I can code any strategy or indicator in Pinescript, whether it's a simple moving average or a complex system.
Automatische Übersetzung
FAQ
Automatische Übersetzung
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG ermöglicht es der AI, Informationen aus deinen Dokumenten oder deiner Wissensdatenbank abzurufen, wenn sie Fragen beantwortet. Feinabstimmung verändert das Verhalten des Modells durch Training an Beispielen. Für sich häufig änderndes Business-Wissen ist RAG oft die bessere Lösung. Ich kann deinen Anwendungsfall bewerten und die passende empfehlen.
Kannst du statt eines lokalen Modells OpenAI, Claude oder Gemini verwenden?
Ja, wenn dein Projekt von Cloud-Modellen profitiert. Dieses Gig spezialisiert sich jedoch hauptsächlich auf private, selbstgehostete und lokale AI-Lösungen.
Kann die AI vollständig offline laufen?
Ja, wenn das gewählte Modell und der Workflow lokale Inferenz unterstützen. Ich kann Lösungen mit Ollama, llama.cpp, vLLM und anderen selbstgehosteten Tools bauen, ohne nach der Bereitstellung auf OpenAI- oder Claude-APIs angewiesen zu sein.
Werden meine Dokumente an einen externen AI-Anbieter gesendet?
Nicht bei einer vollständig lokalen Bereitstellung. Das endgültige System kann Dokumente verarbeiten und Antworten lokal generieren. Wenn deine Daten hochvertraulich sind, liefere anonymisierte oder Beispiel-Daten während der Entwicklung oder organisiere die Lösung so, dass sensible Daten in deiner Umgebung bleiben.
Mit welchen KI-Modellen kannst du arbeiten?
Ich kann mit geeigneten Open-Source-Modellen wie Llama, Qwen, Mistral, Gemma, DeepSeek und anderen Hugging Face/GGUF-kompatiblen Modellen arbeiten, abhängig von deiner Hardware und deinem Anwendungsfall.
Kannst du mein eigenes Modell feinabstimmen?
Ja. Ich kann bei Bedarf Feinabstimmungen mit LoRA, QLoRA und PEFT durchführen. Die Anforderungen an die Feinabstimmung hängen stark vom Modell, Datensatz, GPU-Ressourcen und gewünschten Ergebnis ab. Kontaktiere mich bitte vor der Buchung eines Trainingsprojekts.
Welche Hardware brauche ich?
Das hängt von der Modellgröße und der benötigten Leistung ab. Schick mir dein Betriebssystem, RAM, CPU, GPU und GPU-VRAM, falls vorhanden. Ich kann dir ein passendes Modell und eine geeignete Quantisierungsstufe für deine Hardware empfehlen.
Kann die AI Fragen aus PDFs und Firmendokumenten beantworten?
Ja. Ich kann RAG-Systeme für PDFs, DOCX, TXT, CSV und andere strukturierte oder unstrukturierte Wissensquellen bauen. Gescannte PDFs, die OCR benötigen, könnten zusätzlichen Aufwand erfordern.
Kannst du diese AI in meine bestehende Anwendung integrieren?
Ja. Ich kann die AI über eine REST-API bereitstellen oder in eine bestehende Anwendung integrieren. Kontaktiere mich bitte zuerst für Integrationen, die auf einem bestehenden Code basieren.
Bekomme ich den Quellcode?
Ja, Quellcode ist im jeweiligen Paket enthalten.
