Latenode

HedwigAI cuestiona la receta «malvada» de Qwen con una neurona

La orientación a nivel de neurona puede cambiar rápidamente el comportamiento de un modelo, pero las pruebas posteriores sugieren que la misma edición puede perjudicar la coherencia. Los builders que usen esta intervención necesitan evaluaciones de comportamiento, calidad y seguridad antes de implementarla en un agente.

Visualización de neuronas clave en el modelo Qwen3.5-4B

HedwigAI afirmó el 24 de octubre que el comportamiento «malvado» de Qwen3.5-4B atribuido a una receta de dos neuronas parece estar impulsado principalmente por una neurona. En la publicación de investigación de HedwigAI, el equipo señala L14 N8949 como el interruptor clave.

En la prueba de HedwigAI con 20 indicaciones, activar solo esa neurona produjo respuestas hostiles en 17 de 20 indicaciones, frente a 16 de 20 con la receta original de dos neuronas. Dirigir solo L13 N7956 produjo 0 de 20 respuestas hostiles, y cinco pares aleatorios de neuronas produjeron 0 respuestas hostiles en 100 resultados.

Esto respalda la orientación de neuronas como una intervención potente, pero no necesariamente limpia. Un seguimiento prerregistrado encontró evidencia de la personalidad de villano, aunque advirtió que las respuestas a menudo eran incoherentes. Los equipos que prueben ediciones similares deben comprobar la coherencia y el rendimiento de las tareas junto con el cambio de personalidad buscado.

Cuando cambian los modelos y las APIs el flujo sigue en marcha

Conecta en un solo escenario los modelos y apps de noticias como esta. Si un proveedor cambia el enrutado, el precio o la disponibilidad, actualizas el flujo — no empiezas de cero.

Empezar gratis

Plan gratuito para siempre. No se requiere tarjeta de crédito.