Ich richte Colibri ein, um Kimi GLM DeepSeek und große KI-Modelle lokal auszuführen

T
techyesa
T
techyesa
Khan
Einige Informationen wurden automatisch übersetzt.

Über diesen Service

Automatische Übersetzung

Möchtest du ein sehr großes KI-Modell auf deinem eigenen Computer laufen lassen, ohne jede Eingabe an eine Cloud-API zu schicken?


Ich installiere und konfiguriere Colibri, die Open-Source-Inferenz-Engine, die Mixture-of-Experts-Modellgewichte vom SSD streamt. Auf kompatibler Hardware kann sie kimi, Deepseek v4 Flash und GLM-5.2 744B lokal ausführen.


Je nach deinem Paket kann ich:

  • Hardware- und Speicherkompatibilität prüfen
  • Colibri auf Linux, Windows oder macOS installieren oder bauen
  • ein unterstütztes Modell konfigurieren
  • CPU, RAM, GPU, Cache und NVMe-Platzierung optimieren
  • CLI-Chat, das Web-Dashboard oder eine lokale API aktivieren
  • Diagnosen durchführen und einen Leistungstest machen


Wichtig: Das empfohlene GLM-5.2 int4 Modell benötigt etwa 372 GB freien Speicher. Eine GPU ist optional, aber eine schnelle NVMe-SSD ist wichtig. Langsamere Systeme könnten weniger als ein Token pro Sekunde generieren, daher kann ich keine Geschwindigkeit versprechen, bevor ich deine Hardware geprüft habe.


Bitte schreibe mir vor der Bestellung mit deinem Betriebssystem, CPU, RAM, GPU, Festplattentyp, freiem Speicher und Internetgeschwindigkeit. Ich bestätige die Kompatibilität und das passende Paket.

Lerne Khan kennen

Khan

Building Your Future: AI Websites, Automation, Chatbots and SaaS

5,0(3)
  • AusPakistan
  • Mitglied seitJuni 2025
  • ⌀ Antwortzeit7 Stunden
  • Letzte Lieferung8 Monate
  • Sprachen

    Englisch, Urdu
I'm an AI researcher and engineer who turns ideas and research papers into working AI applications. I build n8n workflow automations, custom AI agents, RAG and knowledge graph systems, and API integrations. I also work with PyTorch, LangGraph, semantic search, GGUF model quantization, and Streamlit MVPs. Send me your project requirements, and I'll help you choose and build the right solution.

Automatische Übersetzung

Mein Portfolio