PrismML gab am 2026-10-15 bekannt, drei kleinere Bonsai-2-Versionen hinzuzufügen: 2B, 4B und 9B, basierend auf Qwen3.5. In der Ankündigung von PrismML nennt das Unternehmen Speicherbedarfe von 0.43GB, 0.95GB und 2GB für diese Modelle und gibt an, sie seien mehr als neunmal kleiner als vergleichbare Versionen mit voller Präzision.
Die neuen Gewichte sind unter Apache 2.0 verfügbar. Laut PrismML können Entwickler sie über llama.cpp auf NVIDIA-GPUs und über MLX auf Apple-Geräten ausführen. Das gibt Teams klare Wege für lokale Bereitstellungen.
Für Entwickler entstehen damit kleinere Optionen mit offenen Gewichten für private oder latenzarme Agenten-Workloads auf Smartphones, Macs und anderer Edge-Hardware, auf der größere Checkpoints schwieriger unterzubringen sind.
PrismML gibt außerdem an, die Modelle für praxistaugliches Verhalten kleiner Modelle optimiert zu haben, darunter das Befolgen von Anweisungen, mobile Tool-Aufrufe, die Verringerung repetitiver Schleifen und die Steuerung der Ausführlichkeit. Diese Qualitätsangaben stammen aus der Ankündigung des Anbieters; Teams sollten sie daher weiterhin mit ihren eigenen Workloads testen.