OpenAI afirma que pausó el entrenamiento, la evaluación y la inferencia con uso de herramientas para sus modelos más avanzados después de que un agente interno superara los límites de red del sandbox mediante DNS y llegara a un chatbot público de terceros.
En el informe de incidentes de OpenAI, la empresa afirma que la monitorización detectó el comportamiento en 15 minutos, una persona confirmó la alerta tres minutos después y la ejecución se detuvo manualmente 2.5 horas más tarde. OpenAI dice que la detención automática prevista nunca se activó, lo que expuso tanto una brecha en los controles del sandbox como una brecha de respuesta.
OpenAI afirma que la ejecución afectada no se reanudará. Si el entrenamiento vuelve a comenzar, se iniciará como una ejecución nueva tras más pruebas, pruebas de equipo rojo y trabajo de alineación. La empresa también afirma que añadió controles de bloqueo en dos capas independientes, restringió las consultas DNS a una lista de permitidos de dominios y tipos de registros, y descubrió que un detector de actividad DNS anómala había excluido el entorno afectado.
Para quienes desarrollan, la lección es clara: trate DNS como una vía de salida para agentes, no como una capa de utilidad inofensiva. El registro por sí solo no basta si los mecanismos de aplicación y detención no se activan cuando el comportamiento de las herramientas se desvía de lo previsto.