Latenode

PrismML amplía Bonsai 2 con modelos abiertos de 2B, 4B y 9B

Los creadores obtienen opciones locales más pequeñas de modelos abiertos, con tamaños publicados y rutas de ejecución compatibles en hardware NVIDIA y Apple.

Modelos Bonsai 2 compactos para despliegues locales en dispositivos edge

PrismML anunció el 2026-10-15 que añadirá tres versiones más pequeñas de Bonsai 2: 2B, 4B y 9B, basadas en Qwen3.5. En el anuncio de PrismML, la empresa indica tamaños de 0.43GB, 0.95GB y 2GB para esos modelos, y afirma que son más de nueve veces más pequeños que las versiones comparables de precisión completa.

Los nuevos pesos están disponibles bajo Apache 2.0. PrismML afirma que los creadores pueden ejecutarlos mediante llama.cpp en GPU de NVIDIA y mediante MLX en dispositivos Apple, lo que ofrece a los equipos rutas claras de despliegue local.

Para los creadores, esto añade opciones de modelos abiertos más pequeños para cargas de trabajo de agentes privados o de baja latencia en teléfonos, Mac y otro hardware edge donde resulta más difícil alojar checkpoints más grandes.

PrismML también afirma haber ajustado los modelos para comportamientos prácticos en modelos pequeños, como el seguimiento de instrucciones, la llamada a herramientas móviles, la reducción de bucles repetitivos y el control de la verbosidad. Estas afirmaciones de calidad proceden del anuncio del proveedor, por lo que los equipos aún deberán probarlos con sus propias cargas de trabajo.

Cuando cambian los modelos y las APIs el flujo sigue en marcha

Conecta en un solo escenario los modelos y apps de noticias como esta. Si un proveedor cambia el enrutado, el precio o la disponibilidad, actualizas el flujo — no empiezas de cero.

Empezar gratis

Plan gratuito para siempre. No se requiere tarjeta de crédito.