Ich repariere, debugge oder verbessere deine LLM- oder ChatGPT-API-Integration


Über diesen Service
Automatische Übersetzung
Deine LLM-Funktion funktioniert fast? Ich finde heraus, warum und behebe es.
Typische Probleme, die ich behebe:
- API-Aufrufe, die fehlschlagen, timeout haben oder kaputtes JSON zurückliefern
- Tool-Aufrufe und strukturierte Ausgaben, die das Modell ignoriert
- RAG-Chats, die die falschen Dokumente auswählen oder etwas erfinden
- Prompts, die im Test funktionieren, aber bei echten Nutzern nicht
- hohe Token-Kosten, langsame Antworten, Streaming-Bugs
Sende mir den Code und ein Beispiel, was schief läuft. Ich reproduziere es, behebe es und erkläre, was sich geändert hat. Funktioniert mit OpenAI und OpenAI-kompatiblen APIs; Python bevorzugt, TypeScript und Java sind oke.
Zu mir: Ich baue LLM-Systeme, die in der Produktion laufen: KI-Codierung medizinischer Dokumente für Krankenhäuser und einen Berichts-Generator, der etwa 170 LLM-Aufrufe pro Bericht mit Retry- und Caching-Mechanismen ausführt.
Lerne Filip Jukic kennen
AI Engineer for LLM agents, private LLMs and Python backends
- AusÖsterreich
- Mitglied seitSept. 2022
Sprachen
Deutsch, Kroatisch, Englisch, Französisch
Automatische Übersetzung
FAQ
Automatische Übersetzung
Mit welchen Modellen und APIs arbeitest du?
OpenAI (GPT) und jede OpenAI-kompatible API, einschließlich selbst gehosteter Open-Modelle auf llama.cpp. Falls du etwas anderes nutzt, schreibe mir vor der Bestellung.
Was brauchst du von mir?
Der Code (Repo-Einladung oder Zip), wie man ihn ausführt, und 2 oder 3 Beispiele, bei denen es schief läuft. Ein Test-API-Key reicht aus; ich benötige nie deine Produktions-Keys.
Was, wenn die Reparatur größer ist als das Paket?
Ich sage dir, was ich gefunden habe und was eine vollständige Behebung kosten würde, bevor ich weitere Arbeit starte. Du entscheidest, ob du den Auftrag verlängerst; nichts wird ohne dein OK hinzugefügt.
