A PrismML anunciou em 15 de outubro de 2026 que está adicionando três versões menores do Bonsai 2: 2B, 4B e 9B, desenvolvidas com base no Qwen3.5. No anúncio da PrismML, a empresa informa tamanhos de 0.43GB, 0.95GB e 2GB para esses modelos e afirma que eles são mais de nove vezes menores que versões comparáveis de precisão total.
Os novos pesos estão disponíveis sob a licença Apache 2.0. A PrismML afirma que desenvolvedores podem executá-los com llama.cpp em GPUs NVIDIA e com MLX em dispositivos Apple, oferecendo às equipes caminhos claros para implantação local.
Para quem desenvolve, isso adiciona opções menores com pesos abertos para cargas de trabalho privadas ou de baixa latência com agentes em celulares, Macs e outros hardwares de borda, onde checkpoints maiores são mais difíceis de acomodar.
A PrismML também afirma ter ajustado os modelos para comportamentos práticos de modelos pequenos, incluindo seguir instruções, chamada de ferramentas em dispositivos móveis, redução de loops repetitivos e controle de verbosidade. Essas alegações de qualidade vêm do anúncio do fornecedor, então as equipes ainda devem testá-las em suas próprias cargas de trabalho.