Ich stimme dein LLM mit Lora und Qlora auf individuelle Daten ab

Feinabstimmung lohnt sich, wenn ein Modell in deinem Bereich sprechen, dein Format befolgen oder deine Terminologie konsequent verwenden soll. Es lohnt sich nicht, wenn du nur möchtest, dass das Modell Dinge nachschlägt. Ich sage dir vorher, was du wirklich brauchst, bevor du irgendetwas ausgibst.

Was ich mache:

LoRA- und QLoRA-Feinabstimmung von offenen Modellen: Llama, Mistral, Qwen, Gemma, Phi

Vollständige Feinabstimmung und Instruktionsanpassung, wenn deine Daten das rechtfertigen

OpenAI-Feinabstimmung über ihre API

Domänenanpassung für medizinische, rechtliche, finanzielle und technische Texte

RAG-Systeme, wenn Retrieval die bessere Lösung ist

Vorbereitung der Trainingsdaten, was meist darüber entscheidet, ob Projekte Erfolg haben oder scheitern

Stack: Hugging Face Transformers, PEFT, Unsloth, Axolotl, PyTorch, Weights and Biases für das Tracking

Du erhältst die trainierten Gewichte, gehostet dort, wo du sie haben möchtest, das Trainingsskript mit vollständiger Dokumentation, Evaluierungsergebnisse, die dein abgestimmtes Modell mit dem Basismodell vergleichen, damit du sehen kannst, was sich geändert hat, ein Inferenzskript und eine Anleitung für das Retraining, wenn deine Daten wachsen.

Für ein leichtes OpenAI-Feinabstimmung benötigst du ungefähr 50 bis 100 Beispiele, für offene Modelle 500 oder mehr. Qualität schlägt Quantität, und ich helfe dir beim Aufbau des Sets.