Am 25. Oktober 2026 teilte OpenClaw DC mit, dass ein GSQ-RCO-Build von DeepSeek V4.1-Flash lokal auf einer 12GB-NVIDIA-GPU laufen kann, wenn er über die Strata-Laufzeit geladen wird.
Im OpenClaw-DC-Beitrag wird das Modell als MoE mit 763.2B Parametern beschrieben. Die berichtete Ausgabegeschwindigkeit liegt auf einer RTX 5070 bei rund 4–6 Token pro Sekunde. Der geringere VRAM-Bedarf geht mit höheren Systemanforderungen an anderer Stelle einher: etwa 46–64GB RAM, mindestens 239GB freier Speicherplatz sowie NVMe-Speicher, der einen Teil der Modelldaten verarbeitet.
Die wichtigste Einschränkung ist die Softwareunterstützung. Laut OpenClaw sind diese GGUF-Dateien derzeit kein Standard-Drop-in für llama.cpp, da das Paket andere Metadaten verwendet und eine Engram-Komponente separat hält. Für dieses Setup wird daher Strata als Laufzeit verwendet. Die berichtete Unterstützung beschränkt sich auf x86_64-Systeme mit Windows oder Linux und kompatiblen NVIDIA-RTX-GPUs der 30-, 40- oder 50-Serie; Macs werden nicht aufgeführt.
Für Teams, die lokale Inferenz bewerten, liegt die größere Aussage im Kompromiss hinter der 12GB-Schlagzeile: weniger VRAM, aber erhebliche Anforderungen an RAM, Speicherplatz und die Laufzeit. Die Transparenzseite von DeepSeek beschreibt diese quantisierte Veröffentlichung nicht. Angaben zu Leistung und Kompatibilität sollten daher weiterhin als von OpenClaw berichtet und nicht als breit bestätigt gelten.