Ich stimme eigene LLMs für deinen speziellen Anwendungsfall feinab

Fine-tuning ist am besten für Stil, Ton, Format und spezielle Aufgaben. RAG ist besser für faktisches Erinnern über große Wissensbasen. Oft funktionieren beide zusammen. Schreib mir mit deinem Anwendungsfall, und ich sage dir ehrlich, welche Methode passt — ich werde dir kein Fine-tuning verkaufen, wenn du es nicht brauchst.

Bequem bis zu 13B mit QLoRA auf einem einzelnen A100 oder 4090. Größere Modelle (30B-70B) benötigen Multi-GPU-Setups — schreib mir für ein individuelles Angebot. Ich arbeite mit Llama 2/3, Mistral, Mixtral, Phi, Gemma, Qwen und den meisten Open-Source-LLMs auf Hugging Face.

Du erhältst immer den vollständigen Trainingscode, die Konfigurationen und ein Notebook, das du erneut ausführen kannst. Ziel ist, dass du neu trainierst oder iterierst, ohne auf mich angewiesen zu sein. Ich füge detaillierte Kommentare im Code und eine README bei, die erklärt, wie man den Adapter lädt, Inferenz durchführt und das Training fortsetzt.

Kein ehrlicher Entwickler kann Metriken garantieren, bevor er deine Daten gesehen hat. Die Qualität hängt von der Datenqualität, -größe und der Schwierigkeitsstufe der Aufgabe ab. Bevor ich einen Auftrag annehme, schaue ich mir eine Probe deiner Daten an und setze realistische Erwartungen. Wenn es nicht geeignet ist, sage ich dir das gleich.

Compute wird separat berechnet. Für kleine LoRA-Aufträge bei ≤7B Modellen kann ich Colab Pro oder Kaggle nutzen. Für größere Aufträge stellst du Cloud-Credits (AWS/GCP/RunPod) bereit oder ich miete GPUs zum Selbstkostenpreis mit Belegen. Typische Kosten: 20-200 Dollar, abhängig von Modellgröße und Dataset.

Ich arbeite mit JSONL, CSV, Parquet, Alpaca, ShareGPT und den gängigsten Strukturen. Wenn deine Daten unordentlich oder in einem ungewöhnlichen Format sind, beinhalten die Standard- und Premium-Tiers Reinigung und Neugestaltung. Für Basic stelle bitte saubere und richtig formatierte Daten bereit.

Eine Revision ist ein zusätzlicher Trainingslauf mit angepassten Hyperparametern oder kleinen Datenänderungen (bis zu etwa 10 % des Datensatzes), basierend auf deinem Feedback. Revisionen beinhalten NICHT das Ändern des Basismodells, das Neudefinieren der Aufgabe oder große Dataset-Ersetzungen — diese benötigen einen neuen Auftrag.

Grundlegendes Deployment (Ollama-kompatibles GGUF auf einem einzelnen Rechner) ist als Extra verfügbar. Für vollständiges Produktions-Deployment mit API-Endpunkten, Autoscaling oder Cloud-Infrastruktur schau bitte in mein spezielles Deployment-Gig oder schreib mir für ein individuelles Angebot.