Ich werde ein Open-Source-LLM auf dein individuelles Dataset feinabstimmen
KI-Ingenieur, RAG-Systeme, LLM-Feinabstimmung, LangChain Python
Über diesen Service
Willst du ein Open-Source-LLM auf deine eigenen Daten anpassen? Ich erstelle maßgeschneiderte Feinabstimmungs-Pipelines, die die Modellleistung tatsächlich verbessern.
Kürzlich habe ich EdgeAlign abgeschlossen – eine vollständige SFT-zu-DPO-Ausrichtungspipeline auf Qwen3-0.6B mit LoRA-Adaptern und 4-Bit NF4-Quantisierung.
Ergebnisse:
- BLEU-Score: 3,70 (Basislinie) auf 10,22 (+176% Verbesserung)
- BERTScore: 0,7675 (Basislinie) auf 0,8149
- Ich habe 10 systematische Tests durchgeführt, bei denen LoRA-Rang, Lernrate und DPO-Beta variiert wurden
- Beide LoRA-Adapter auf HuggingFace veröffentlicht
Was du bekommst:
- Maßgeschneiderte Feinabstimmung auf dein Dataset (SFT und/oder DPO)
- LoRA-Adapter (leicht, einfach zu implementieren)
- Bewertungsmetriken (BLEU, BERTScore, Verlustkurven)
- Sauberen, dokumentierten Python-Code
- HuggingFace Model Card (Premium)
- Implementiertes Modell auf HuggingFace Hub (Premium)
Modelle, die ich feinabstimmen kann:
- Qwen (0,6B, 1,8B, 7B)
- LLaMA (1B, 3B, 8B)
- Mistral (7B)
- Phi-3 / Phi-2
- Gemma (2B, 7B)
- Jedes Open-Source-Modell auf HuggingFace
Was ich von dir brauche:
- Dein Dataset (JSONL, CSV oder Klartext)
- Aufgabenbeschreibung (Anleitung, Zusammenfassung, Klassifikation, Q&A usw.)
- Bevorzugtes Basismodell (oder ich empfehle dir eines)
Schreib mir vor der Bestellung, um die Details zu klären.
Programmiersprache:
Python
Datentyp:
Text
•
Tabellarische Daten
KI-Engine:
GPT
•
Llama
•
Falcon
•
Langchain
•
Andere
Mein Portfolio
FAQ
Automatische Übersetzung
In welchem Format muss mein Datensatz vorliegen?
Idealerweise JSONL mit Feldern für instruction/input/output oder CSV. Ich kann dir helfen, Rohdaten bei Bedarf in die richtige Struktur umzuwandeln – schick mir einfach eine Beispieldatei.
Was, wenn mein Dataset klein ist (unter 500 Samples)?
Kleine Datasets sind für LoRA-Feinabstimmung völlig in Ordnung. Schreib mir mit deiner Sample-Anzahl, und ich berate dich gern bei der besten Vorgehensweise.
Werde ich das fine-tuned Modell besitzen?
Ja – du erhältst das volle Eigentum an den LoRA-Adaptern und dem gesamten Code. Das Premium-Paket beinhaltet das Deployment auf deinem eigenen HuggingFace-Account.
Kannst du GPT-4 oder Claude feinabstimmen?
Nein – diese Modelle sind Closed-Source und können so nicht feinabgestimmt werden. Ich arbeite mit Open-Source-Modellen auf HuggingFace (LLaMA, Qwen, Mistral, Gemma, Phi usw.).
Welche Bewertungsmetriken bietest du an?
BLEU-Score, BERTScore, Trainings- und Validierungsverlustkurven sowie Vergleich der Beispielausgaben gegen die Baseline. Das Premium-Paket beinhaltet eine vollständige Ablationsstudie.
