Ich repariere, debugge oder verbessere deine LLM- oder ChatGPT-API-Integration

F
filipj93
F
filipj93
Filip Jukic
Einige Informationen wurden automatisch übersetzt.

Über diesen Service

Automatische Übersetzung

Deine LLM-Funktion funktioniert fast? Ich finde heraus, warum und behebe es.


Typische Probleme, die ich behebe:

  • API-Aufrufe, die fehlschlagen, timeout haben oder kaputtes JSON zurückliefern
  • Tool-Aufrufe und strukturierte Ausgaben, die das Modell ignoriert
  • RAG-Chats, die die falschen Dokumente auswählen oder etwas erfinden
  • Prompts, die im Test funktionieren, aber bei echten Nutzern nicht
  • hohe Token-Kosten, langsame Antworten, Streaming-Bugs

Sende mir den Code und ein Beispiel, was schief läuft. Ich reproduziere es, behebe es und erkläre, was sich geändert hat. Funktioniert mit OpenAI und OpenAI-kompatiblen APIs; Python bevorzugt, TypeScript und Java sind oke.


Zu mir: Ich baue LLM-Systeme, die in der Produktion laufen: KI-Codierung medizinischer Dokumente für Krankenhäuser und einen Berichts-Generator, der etwa 170 LLM-Aufrufe pro Bericht mit Retry- und Caching-Mechanismen ausführt.

Lerne Filip Jukic kennen

Filip Jukic

AI Engineer for LLM agents, private LLMs and Python backends

  • AusÖsterreich
  • Mitglied seitSept. 2022
  • Sprachen

    Deutsch, Kroatisch, Englisch, Französisch
I build LLM systems that run in production: agents with tool calling, RAG over your own documents, and self-hosted open-weight models (llama.cpp, sglang) so sensitive data stays on your own servers. Right now I'm building AI coding of medical documents for Austrian hospitals and an AI report generator for energy audits. Background: MSc in financial and actuarial mathematics (TU Wien), about 9 years as a software engineer at IBM and Zurich Insurance, in insurance and finance. Python, Rust, Java, TypeScript. Clear scope, fixed price, clean handover.

Automatische Übersetzung