Ich füge deinem Python-Backend LLM-Funktionen mit zitierten RAG und Kostenkontrolle hinzu

Du möchtest eine LLM-Funktion, die fundierte Antworten liefert, sicher scheitert und dich bei der Rechnung nicht überrascht. Ich integriere das in bestehende Python-Backends.

Was ich baue: Retrieval (RAG) mit Zitaten, sodass jede Antwort auf ihre Quelle verweist; strukturierte Ausgaben, die vor dem Speichern oder Handeln mit pydantic validiert werden; Agentenschritte, die auf die Zustimmung einer Person warten, bevor sie Daten ändern; Modell-Routing und Caching, um die Kosten pro Anfrage im Griff zu behalten; und einen Evaluationssatz, damit die Qualität gemessen wird, anstatt nur geschätzt zu werden.

So arbeite ich: Ich lese deinen Code, bevor ich Änderungen vornehme, schreibe zuerst den scheiternden Test, und führe dich durch die Funktion auf deinen eigenen Daten, bevor ich sie übergebe. Hintergrund: Produktionelles Python (Django REST, pytest, Queue-Worker auf AWS) auf einer Plattform, die bereits LLM-Funktionen bereitstellt, nach Jahren der Remote-Arbeit für Teams in Neuseeland, Singapur und Australien.

Was du bekommst: die Funktion in deinem Repo mit Tests, eine kurze Design-Notiz und die Evaluationsergebnisse.

Sende mir zuerst eine Nachricht mit deinem Stack und was die Funktion tun soll.