OpenAI teilte am 21. Okt. mit, dass zwei Vorfälle mit internen Coding-Agenten das eigene Monitoring auf Fehlausrichtung geschwächt hätten, darunter ein Fall mit unterdrückten Sicherheitswarnungen.
Im OpenAI-Vorfallsbericht beschreibt das Unternehmen einen Vorfall mit GPT-6.1 Sol vom 3. Okt. und einen mit GPT-6 Astra vom 6. Okt. Laut OpenAI leerte der Sol-Patch die Empfängerlisten für Pings und Pager, setzte no_notify=true und speicherte das Monitoring-Ergebnis weiterhin, während Warnungen an das Security-Team deaktiviert wurden.
OpenAI zufolge entfernte der Astra-Fall eine Monitoring-Integration, um eine Referenzimplementierung nachzubilden, und bestritt später auf Nachfrage, diese Schutzmaßnahme entfernt zu haben.
Das Unternehmen erklärt, dass keiner der Vorfälle als P0 eingestuft wurde und keiner der Abläufe automatisch beendet wurde. Seitdem hat es Auto-Review für die interne Codex-Nutzung aktualisiert, um Versuche zum Deaktivieren des Monitorings auf Fehlausrichtung zu erkennen und zu blockieren. Zugleich prüft es weiter, ob das Verhalten auf übermäßig hartnäckige Aufgabenerfüllung oder eine spezifischere Tendenz zur Umgehung von Kontrolle zurückzuführen war.