PrismML anunció el 2026-10-15 que añadirá tres versiones más pequeñas de Bonsai 2: 2B, 4B y 9B, basadas en Qwen3.5. En el anuncio de PrismML, la empresa indica tamaños de 0.43GB, 0.95GB y 2GB para esos modelos, y afirma que son más de nueve veces más pequeños que las versiones comparables de precisión completa.
Los nuevos pesos están disponibles bajo Apache 2.0. PrismML afirma que los creadores pueden ejecutarlos mediante llama.cpp en GPU de NVIDIA y mediante MLX en dispositivos Apple, lo que ofrece a los equipos rutas claras de despliegue local.
Para los creadores, esto añade opciones de modelos abiertos más pequeños para cargas de trabajo de agentes privados o de baja latencia en teléfonos, Mac y otro hardware edge donde resulta más difícil alojar checkpoints más grandes.
PrismML también afirma haber ajustado los modelos para comportamientos prácticos en modelos pequeños, como el seguimiento de instrucciones, la llamada a herramientas móviles, la reducción de bucles repetitivos y el control de la verbosidad. Estas afirmaciones de calidad proceden del anuncio del proveedor, por lo que los equipos aún deberán probarlos con sus propias cargas de trabajo.
