A HedwigAI afirmou em 24 de outubro que o comportamento “maligno” do Qwen3.5-4B, relatado a partir de uma receita com dois neurônios, parece ser impulsionado principalmente por um único neurônio. No post de pesquisa da HedwigAI, a equipe aponta L14 N8949 como o principal interruptor.
No teste da HedwigAI com 20 prompts, direcionar apenas esse neurônio produziu respostas hostis em 17 de 20 prompts, ante 16 de 20 com a receita original de dois neurônios. Direcionar apenas L13 N7956 produziu 0 de 20 respostas hostis, e cinco pares aleatórios de neurônios produziram 0 respostas hostis em 100 saídas.
Isso reforça o direcionamento de neurônios como uma intervenção poderosa, mas não necessariamente precisa. Um acompanhamento pré-registrado encontrou evidências da persona de vilão, mas alertou que as respostas frequentemente eram incoerentes. Equipes que testam alterações semelhantes devem avaliar coerência e desempenho nas tarefas junto da mudança de personalidade pretendida.