Ich optimiere und setze dein PyTorch-Modell mit ONNX und TensorRT ein
KI-, Computer Vision-Ingenieur
Über diesen Service
Dein Modell funktioniert, ist aber zu langsam oder zu schwer für den Produktiveinsatz? Ich konvertiere und optimiere es mit ONNX und TensorRT, damit es auf GPUs und Edge-Geräten schneller läuft und überprüfe, dass die Genauigkeit dort bleibt, wo sie sein soll.
Ich bin Computer-Vision-Ingenieur mit über 3 Jahren Erfahrung in der Bereitstellung von CV-Systemen in Produktion. Ich optimiere Modelle mit ONNX/TensorRT für Kioske und Mobilgeräte und stelle sie über FastAPI in Systemen bereit, die in 60+ Einzelhandelsgeschäften laufen.
Woran ich arbeiten kann:
- PyTorch-Modelle zu ONNX exportieren und Outputs mit dem Original vergleichen
- TensorRT FP16-Engines bauen und Speed-up messen
- Latenz und Genauigkeit vor/nachher benchmarken
- Häufige Exportprobleme beheben (nicht unterstützte Ops, dynamische Formen)
- Das optimierte Modell mit FastAPI + Docker bereitstellen
Was du bekommst:
- Optimierte Modelldateien + Inferenzcode
- Benchmark-Report (Latenz, Genauigkeit, verwendete Hardware)
- Klare Anweisungen, wie du es auf deiner Maschine ausführst
Bitte schreib mir vor der Bestellung mit deinem Modelltyp, Framework-Version und Zielhardware (GPU-Modell oder Edge-Gerät), damit ich den Umfang bestätigen kann.
Expertise:
Klassifizierung
•
Software-Entwicklung
•
Objekterkennung
Programmiersprache:
Python
Tools:
opencv
•
tensorflow
•
PyTorch
Frameworks:
PyTorch
