Ich entwickle Edge-AI-Hardware und stelle lokale LLM mit Phi 3 oder Ollama bereit

Überschrift: Bringe Intelligenz in dein Hardware mit Edge AI

Suchst du nach einer Möglichkeit, ein smartes Gerät zu bauen, das nicht auf teure Cloud-APIs angewiesen ist? Ich spezialisiere mich auf das Deployen von Local LLMs (Phi-3, Llama 3, Mistral) auf Edge Hardware wie dem Raspberry Pi 5 und dem Compute Module 4/5.

Was ich anbiete:

• On-Device LLM Deployment: Experten-Setup von Ollama und Phi-3 (3B bis 7B Parameter), optimiert für begrenzten RAM.
• Sprachsteuerung Integration: Aufbau von "Push-to-Talk"-Systemen mit hochpräzisem Speech-to-Text (STT) und natürlichem Text-to-Speech (TTS).
• Fortgeschrittene KI-Logik: Ich kann Modelle programmieren, um lange Eingaben zusammenzufassen, sie lokal mit Zeitstempeln zu speichern und bei Sprachbefehl wiederherzustellen.
• Hardware-Design: Prototyping mit RPi 5, wobei das finale CM5/Industrieprodukt im Blick bleibt (Strommanagement, Type-C-Ladung und Bluetooth).
• WiFi-Deployment: Systeme einrichten, die Modell-Updates und Laden via WiFi statt SD-Karten ermöglichen.

Mein Tech-Stack:

• Hardware: Raspberry Pi 5, CM4/5, ESP32, Mic/Speaker I2S/USB.
• KI-Modelle: Phi-3, Ollama, Whisper (STT), Piper/Coqui (TTS).
• Sprachen: Python, C++, Bash.

Warum du mich wählen solltest?

Ich schreibe nicht nur Code; ich verstehe den Übergang von einem "klobigen" RPi 5-Prototyp zu einem kompakten