PrismML a annoncé le 15 octobre 2026 l’ajout de trois versions plus petites de Bonsai 2 : 2B, 4B et 9B, basées sur Qwen3.5. Dans l’annonce de PrismML, l’entreprise indique des tailles de 0.43GB, 0.95GB et 2GB pour ces modèles, et affirme qu’ils sont plus de neuf fois plus petits que des versions comparables en pleine précision.
Les nouveaux poids sont disponibles sous licence Apache 2.0. PrismML indique que les builders peuvent les exécuter via llama.cpp sur des GPU NVIDIA et via MLX sur les appareils Apple, offrant aux équipes des voies claires de déploiement local.
Pour les builders, cela ajoute des options de modèles à poids ouverts plus petits pour des charges de travail d’agents privées ou à faible latence sur téléphones, Mac et autres matériels edge, où les checkpoints plus volumineux sont plus difficiles à intégrer.
PrismML indique également avoir optimisé les modèles pour des comportements pratiques de petits modèles, notamment le suivi d’instructions, les appels d’outils sur mobile, la réduction des boucles répétitives et le contrôle de la verbosité. Ces affirmations de qualité proviennent de l’annonce du fournisseur : les équipes devront donc les tester sur leurs propres charges de travail.