Ich richte einen AI- oder MCP-Server auf deiner eigenen Hardware ein


Über diesen Service
Automatische Übersetzung
Dein eigener KI-Server, auf eigener Hardware – kein Abrechnungsmodell pro Token, keine Daten verlassen dein Netzwerk.
WAS DU BEKOMMST
- Ein Server mit Modell, installiert und lauffähig auf deiner Maschine: Ollama für Einfachheit, vLLM für Durchsatz
- Web-Chat-Oberfläche plus einen OpenAI-kompatiblen API-Endpunkt, damit bestehende Tools darauf zeigen können
- Ein MCP-Server, konfiguriert und verbunden mit deinen echten Tools (Dateien, Git, Datenbanken, Browser)
- Authentifizierung und Netzwerklaufwerk: Reverse Proxy, API-Keys, Firewall-Regeln, optionale VPN-Verbindung kein offener Port
- Ausführliche Installationsnotizen, damit du oder dein IT-Team ihn neu starten und warten könnt
WARUM ICH
Ich bin Netzwerktechniker mit über 10 Jahren Erfahrung im Betrieb Carrier-Grade-Servern und Netzwerken, und ich betreibe genau dieses Stack selbst: Docker auf einem NAS, ein Multi-Provider-Modell-Routing-Gateway, n8n-Automatisierung und MCP-Tools. Ich baue es auf deiner Box genau so auf.
Der Teil, den die meisten Leute falsch machen, ist nicht Ollama in einem Befehl zu installieren, sondern Zugriffssteuerung und Netzwerktrennung. Das ist mein Alltag.
WAS ICH NICHT MACHE
- Hardware verkaufen oder dir Rechenleistung vermieten
- Eine Modellintelligenz versprechen – das ist Aufgabe des Modells, nicht der Einrichtung
- Modell-Training und Feinabstimmung werden separat angeboten
Weißt du nicht, was deine Hardware leisten kann? Schreib mir vor der Bestellung.
Lerne Yuri kennen
I will fix your network issues and configure your router, switch and VLAN
- AusChina
- Mitglied seitDez. 2022
- ⌀ Antwortzeit1 Stunde
Sprachen
Chinesisch, Englisch
Automatische Übersetzung
