Ich erstelle eine OpenAI-kompatible LLM-Gateway mit Routing und Kostenverfolgung
Über diesen Service
Automatische Übersetzung
Lerne Han Q kennen
Senior Flutter and AI Engineer for IoT Apps
- AusChina
- Mitglied seitMai 2024
Sprachen
Chinesisch, Englisch
Automatische Übersetzung
Mein Portfolio
FAQ
Automatische Übersetzung
Sind Anbieter- und Hosting-Kosten enthalten?
Nein. Die Nutzung der Provider-API und das Hosting werden von dir separat bezahlt, es sei denn, der Umfang gibt etwas anderes vor. Die Kostenverfolgung basiert auf verfügbaren Nutzungsdaten und konfigurierten Raten.
Wird jede OpenAI-API-Funktion unterstützt?
Das Paket deckt vereinbarte Chat-Endpunkte und Funktionen ab. Die Fähigkeiten des Anbieters unterscheiden sich, daher legen wir vor dem Auftrag fest, welche Modelle, Streaming, Tools und weitere Funktionen unterstützt werden.
Welche Modellanbieter können integriert werden?
Die Unterstützung durch Anbieter hängt vom vereinbarten Paket und von verfügbaren API-Adaptern ab. Bitte nenne die Anbieter, Modelle und die benötigten Endpunkte vor der Bestellung, damit Kompatibilität und Routing bestätigt werden können.
Ist die Bereitstellung inklusive?
Basic umfasst Einrichtungshinweise, aber keine Bereitstellung. Standard umfasst eine Hilfestellung bei einem Staging-Deployment; Premium umfasst eine Hilfestellung bei einem Produktions-Deployment. Der Käufer übernimmt hosting, Domain und Gebühren des Anbieter-APIs.
Kannst du die Modell-Ausgabe oder die Verfügbarkeit des Anbieters garantieren?
Nein. Modellantworten können falsch sein und Ausfälle oder Ratenbegrenzungen der Anbieter liegen außerhalb der Kontrolle des Gateways. Routing- und Resilienz-Funktionen hängen vom vereinbarten Umfang ab; Nutzungs-kosten-Figuren sind Schätzwerte, keine Rechnungen.

