Ich erstelle und stelle Infrastruktur und Pipelines für Produktions-AI-Agenten bereit
Über diesen Service
Automatische Übersetzung
Dein Agent arbeitet in einem Notebook oder auf einer VM. Jetzt muss er reale Nutzer überleben: lange Jobs, API-Limits, Token-Rechnungen und die Frage um drei Uhr morgens, warum er falsch geantwortet hat. Ich werde ihn in die Produktion überführen und sichtbar machen.
Was du bekommst:
- Dein Agent oder RAG-App, deployed auf Cloud Run, ECS oder Kubernetes
- Vektor-Datenbank: Qdrant managed oder self-hosted, mit Backups
- Queue und Worker, damit lange Agentenläufe HTTP-Timeouts überstehen
- Tracing pro Anfrage: Prompt, Tools-Aufrufe, Latenz und Token-Kosten
- Secrets-Manager, Least Privilege IAM, privates Networking, Ratenbegrenzung bei LLM-Aufrufen
- Eval-Schritt in CI, damit sich ein Prompt-Change nicht ausliefern lässt, wenn die Qualität sinkt
- Terraform für alles, plus Runbook
Warum ich: Ich baue diese Systeme, nicht nur hoste sie. Markdex ist meine Open-Source-RAG-Engine auf Qdrant, Loki MCP Server ist mein Observability-Tool für Agenten, StatusHarbor ist mein eigenes SaaS in Produktion. 16 Jahre Backend- und Infra-Erfahrung.
Wie es funktioniert:
- Du schickst das Repo und sagst, wo es heute läuft
- Ich schicke einen Plan und eine monatliche Kostenschätzung innerhalb von 24 Stunden
- Ich deploye zuerst auf Staging, du testest, dann wechseln wir auf
- Übergabe-Call und Dokumentation
Du bringst eine funktionsfähige App. Den Agenten zu bauen ist mein anderes Gig, ich kombiniere sie gerne.
Lerne Slava kennen
Senior Software Engineer Technical Lead
- AusAlbanien
- Mitglied seitJan. 2018
- Letzte Lieferung2 Monate
Sprachen
Englisch
Automatische Übersetzung
Mein Portfolio
Meine weiteren Dienstleistungen im Bereich KI-Entwicklung
FAQ
Automatische Übersetzung
Braucht meine App eine bestimmte Programmiersprache?
Nein. Typische Sprachen sind Python, TypeScript und Go. Wenn es in einem Container läuft, kann ich es deployen. Falls noch nicht containerisiert, gehört das Containerisieren zum Basic-Paket.
Welche Vektordatenbank verwendest du?
Qdrant standardmäßig, gemanagt oder self-hosted in deiner Cloud. Wenn du bereits pgvector, Pinecone oder Weaviate betreibst, halte ich, was du hast, es sei denn, es gibt einen klaren Grund zum Umzug.
Kannst du das Modell selbst hosten?
Nur, wenn es sich lohnt. Für die meisten Produkte ist eine gehostete API mit Ratenbegrenzung und Caching günstiger und simpler. Wenn du eine harte Anforderung an Self-Hosting hast, sag es im ersten Meldung und ich erstelle dir dafür ein separates Angebot.
Was bringt mir das Tracing?
Jede Anfrage zeigt Prompt, abgerufene Chunks, Tool-Aufrufe, Latenz und Token-Kosten. Wenn ein Nutzer eine falsche Antwort meldet, öffnest du genau jenen Lauf statt zu raten.
Wer zahlt für Cloud- und LLM-Nutzung?
Du, in deinen Accounts. Ich arbeite über eine IAM-Rolle oder einen Service-Account, den du widerrufen kannst, und ich schicke dir vorab eine Kostenschätzung, bevor etwas umgesetzt wird.
Kannst du auch den Agenten bauen oder reparieren?
Ja, das ist mein KI-Agenten-Gig. Wenn du beides brauchst, schreib mir zuerst, dann erstelle ich ein einziges Angebot statt zwei.
Wie handhaben Sie die Sicherheit?
API-Schlüssel leben in deinem Cloud Secrets Manager, nie im Repo. Ich arbeite über eine IAM-Rolle oder ein Service-Konto, das du jederzeit widerrufen kannst. Spuren werden vor der Speicherung von PII bereinigt und Tool-Aufrufe laufen gegen eine Allowlist. Ein vollständiger Penetrationstest oder Compliance-Audit liegt außerhalb des Umfangs.
