Ich werde ein LLM in dein bestehendes Java Spring Boot oder Go Backend integrieren

G
gaurav_sinha_31
G
gaurav_sinha_31
Gaurav S
Einige Informationen wurden automatisch übersetzt.

Über diesen Service

Automatische Übersetzung

Du hast einen Spring Boot- oder Go-Service, der bereits Traffic, Tests und einen Release-Prozess hat, und jetzt möchte jemand KI darin integrieren. Jeder KI-Freelancer, mit dem du gesprochen hast, arbeitet nur mit Python und will dein Backend neu schreiben oder eine separate Python-Service an die Seite setzen, ohne einen Plan, wie es bei Fehlern reagiert.


Ich bin zuerst Backend-Entwickler. Spring Boot, Kafka, Kubernetes und Go in der Produktion für eine Top-US-Investmentbank und einen US-Versicherungsanbieter – und ich habe LLM-Services in diese Live-Systeme integriert, innerhalb ihrer Change-Control- und Compliance-Prozesse.


Deshalb kann ich ein Modell in dein System integrieren, ohne die Teile zu zerstören, die schon funktionieren.


WAS ICH TUE

Entscheide, ob das LLM in-process oder als separater Service laufen soll, definiere den Fehlerpfad, wenn das Modell langsam ist oder ausfällt, füge Timeouts, Retry-Mechanismen und Circuit Breaker hinzu und halte das Ganze in CI testbar, ohne bei jedem Lauf eine bezahlte API aufzurufen.


Der letzte Punkt wird oft ausgelassen, und genau deshalb kann ihre KI-Funktion nicht getestet werden.

Lerne Gaurav S kennen

Gaurav S

Backend AI Systems Engineer

5,0(1)
  • AusIndien
  • Mitglied seitFeb. 2024
  • ⌀ Antwortzeit2 Stunden
  • Letzte Lieferung2 Jahre
  • Sprachen

    Englisch, Hindi
Backend engineer with nearly four years of production experience building event-driven systems and shipping LLM-backed services into live products at a US investment bank and a US insurance provider. I specialize in what most AI work skips: putting a model inside a service that already has traffic, tests and a release process it cannot break. Retrieval quality, evaluation harnesses, defined failure behavior. Spring Boot, Go, Python, Kafka, Kubernetes, AWS, LangChain, LangGraph, RAG, vector databases, QLoRA. Available full time.

Automatische Übersetzung

Mein Portfolio

Meine weiteren Dienstleistungen im Bereich KI-Entwicklung