Ich werde ein LLM mit LoRA auf deinen Daten feinabstimmen und vollständig evaluieren

Bevor du jemanden bezahlst, um ein Modell feinabzustimmen: Etwa die Hälfte der Projekte, die mich erreichen, benötigen das nicht. Besseres Prompting oder Retrieval löst das viel günstiger, und ich sage dir das kostenlos, anstatt den Auftrag anzunehmen.

Wenn Feinabstimmung DIE Lösung ist – domänenspezifischer Wortschatz, ein bestimmtes Ausgabeformat, ein Ton, den das Basismodell nicht halten kann, oder die Reduzierung der Inferenzkosten – hier ist, was ich tue.

Ich bin ML- und Generative-AI-Ingenieur mit über 4 Jahren Erfahrung in der Produktion von KI. Ich habe GPT- und BERT-Familienmodelle um 30 % höhere Kontextgenauigkeit feinabgestimmt und arbeite derzeit an einem Foundation-Modell mit etwa 30 Milliarden Parametern.

WAS DU BEKOMMST

Eine ehrliche Einschätzung, ob Feinabstimmung Prompting schlägt

Datensatzdesign, Reinigung und Formatierung, wo die meisten Projekte scheitern

LoRA / QLoRA oder vollständige Feinabstimmung auf offenen Modellen

Ein Evaluierungs-Framework, das misst, was dir wichtig ist, nicht nur Verlustkurven

Vorher/Nachher-Zahlen auf einem gehaltenen Satz

Gewichte, Inferenz-Code und quantisierte Artefakte, die du besitzt

MODELLLE

Llama, Mistral, Qwen, Gemma, Phi, plus OpenAI-gehostete Feinabstimmung · PyTorch, Hugging Face, PEFT, Unsloth, Axolotl

Schreib mir, was das Modell tun soll und welche Daten du hast, auch wenn sie unordentlich sind oder du dir nicht sicher bist, ob genug vorhanden ist.