Kategorien durchsuchen
Entdecken
Fiverr Pro
Deutsch
$
USD
Ich optimiere und beschleunige dein AI-Modell mit ONNX und TensorRT
Ricky
Über diesen Service
Automatische Übersetzung
Ist dein AI-Modell genau, aber zu langsam für den Einsatz in der echten Welt?
Ich optimiere Machine-Learning- und Computer-Vision-Inference-Pipelines, um Latenz zu reduzieren, Durchsatz zu verbessern und die Bereitstellung auf NVIDIA-GPUs, Edge-Geräten, APIs und Produktionssystemen zu vereinfachen.
Ich kann bei folgenden Dingen helfen:
Profiling von PyTorch-Modellen und Analyse von Inference-Flaschenhälsen
Export von PyTorch nach ONNX
Optimierung mit ONNX Runtime
Konvertierung in NVIDIA TensorRT Engine
FP16- und INT8-Optimierung, wo unterstützt
Latenz-, Durchsatz- und FPS-Benchmarking
Validierung der Ausgabe im Vergleich zum Originalmodell
Optimierung von Pre- und Postprocessing
Handling von dynamischen Eingaben und Batch-Größen
Dockerisierte Inference-Umgebungen
Integration in FastAPI für Model-Serving
Workflows für NVIDIA Jetson / GPU-Bereitstellung
YOLO- und Computer-Vision-Inference-Optimierung
Mein Fokus liegt nicht nur auf der Konvertierung des Dateiformats. Ich überprüfe, ob das optimierte Modell weiterhin korrekte Ausgaben liefert und messe die tatsächliche Leistungssteigerung.
Typische Deliverables können sein:
Optimierte Modell-/Engine-Dateien
Python-Inference-Skripte
Vorher/Nachher-Benchmark-Ergebnisse
Validierungsergebnisse der Ausgaben
Installationsanleitungen
Bitte schreibe mir vor der Bestellung.
Lerne Ricky kennen
Ricky
High Performance Python and AI Engineer, APIs, Vision, Optimization
- AusIndien
- Mitglied seitJuli 2023
- Letzte Lieferung2 Wochen
Sprachen
Hindi, Englisch
I'm a Python and AI engineer focused on performance and production machine learning.
I help clients solve technical problems such as slow Python/Pandas code, broken or incomplete FastAPI backends, custom YOLO computer-vision pipelines, and slow AI inference workflows.
My work includes:
- Python, Pandas, NumPy, Cython and C/C++ performance optimization
- FastAPI and Flask backend development and debugging
- REST APIs, databases, Docker and production deployment
- YOLO object detection, tracking and computer-vision pipelines
- PyTorch, ONNX and TensorRT inference optimization
Automatische Übersetzung
Mein Portfolio
FAQ
Automatische Übersetzung
Welche Modelle kannst du optimieren?
Ich arbeite hauptsächlich mit PyTorch-Modellen, inklusive Computer-Vision- und Deep-Learning-Modellen, die nach ONNX exportiert werden können. Die Kompatibilität hängt von der Modellarchitektur und den verwendeten Operatoren ab.
Ändern ONNX oder TensorRT die Vorhersagen meines Modells?
Das Ziel ist, das Verhalten des Modells zu bewahren. Ich validiere die optimierten Ausgaben gegen das Originalmodell und berichte über bedeutende numerische Unterschiede, die durch Konvertierung oder reduzierte Präzision entstehen.
Welche Geschwindigkeitssteigerung kann ich erwarten?
Es hängt vom Modell, der Hardware, der Batch-Größe, dem Preprocessing und dem aktuellen Flaschenhals ab. Ich benchmarke vor und nach der Optimierung, anstatt eine feste Geschwindigkeitssteigerung zu versprechen.
Unterstützt du FP16 und INT8 Quantisierung?
Ja, sofern das Modell und die Zielhardware sie unterstützen. INT8 kann Kalibrierungsdaten erfordern und Genauigkeitskompromisse mit sich bringen, daher validiere ich die Ergebnisse vor der Lieferung.
Kannst du YOLO-Modelle optimieren?
Ja. Ich kann YOLO-Modelle für ONNX/TensorRT-Workflows exportieren und optimieren und dabei helfen, die Echtzeit-Bild- oder Video-Inference zu verbessern.
Kannst du das optimierte Modell bereitstellen?
Ja. Premium- oder individuelle Projekte können FastAPI, Docker, NVIDIA Jetson, GPU-Server oder andere Bereitstellungs-Workflows umfassen.
Was, wenn mein Modell nicht nach ONNX exportiert werden kann?
Einige Modelle enthalten nicht unterstützte oder benutzerdefinierte Operatoren. Ich kann die Export-Fehler untersuchen und, wo praktikabel, inkompatible Komponenten modifizieren oder ersetzen. Komplexe benutzerdefinierte Operatoren erfordern möglicherweise ein individuelles Angebot.
