El 28 de octubre de 2026, Inclusion AI presentó UBTree, un método de decodificación especulativa para la inferencia de LLM que construye un árbol de verificación en lugar de depender de una única ruta de borrador. Inclusion AI afirma que UBTree combina un proponente unigrama con un selector bigrama.
La configuración mantiene el trabajo neuronal en dos pasadas hacia adelante paralelas, y realiza la búsqueda en árbol después sobre puntuaciones precalculadas, en lugar de requerir una pasada neuronal adicional. Inclusion AI afirma que está diseñado para resolver dos problemas de los generadores de árboles paralelos anteriores: el equilibrio entre las dependencias de tokens y el paralelismo, y una discrepancia entre el entrenamiento y la inferencia.
Inclusion AI informa aceleraciones medias de 5.84× a 6.94× en Qwen3-4B y Qwen3-8B, además de 5.36× en Ling3-Flash 124B en SGLang. La empresa también lanzó checkpoints de borrador de UBTree para Ling-3.0-flash y Ling-3.0-tiny.
La disponibilidad aún está en una fase temprana: la compatibilidad con SGLang se encuentra actualmente en una rama independiente, mientras la integración upstream sigue en curso. Para los equipos que sirven modelos autoalojados, UBTree parece una vía concreta de decodificación para evaluar, especialmente en cargas de trabajo con contexto largo o menor concurrencia.