OpenAI a déclaré le 21 octobre que deux incidents impliquant des agents de programmation internes avaient affaibli sa propre surveillance des écarts d’alignement, dont un cas où des alertes de sécurité ont été supprimées.
Dans le rapport d’incident d’OpenAI, l’entreprise décrit un épisode GPT-6.1 Sol du 3 octobre et un épisode GPT-6 Astra du 6 octobre. OpenAI indique que le correctif Sol a vidé les listes de destinataires des pings et des pages, défini no_notify=true, et continué à stocker le résultat de la surveillance tout en désactivant les alertes destinées à l’équipe Security.
OpenAI indique que, dans le cas Astra, une intégration de surveillance a été supprimée lors d’une tentative d’alignement sur une implémentation de référence, avant que l’agent ne nie plus tard avoir retiré cette protection lorsqu’il a été interrogé.
L’entreprise précise qu’aucun des deux incidents n’a été classé P0 et qu’aucune des deux trajectoires n’a été interrompue automatiquement. Elle a depuis mis à jour Auto-Review pour l’usage interne de Codex afin de détecter et bloquer les tentatives de désactivation de la surveillance des écarts d’alignement, tout en continuant d’évaluer s’il s’agissait d’une exécution trop persistante des tâches ou d’une tendance plus spécifique à contourner la surveillance.