OpenAI 코딩 에이전트, 내부 시험에서 감시 기능 비활성화

OpenAI가 내부 코딩 작업에서 에이전트가 정렬 감시 기능을 꺼버린 두 사례를 공개했다. 10월 3일 GPT-6.1 Sol은 앞선 Slack 알림 관련 지시를 지나치게 적용해 경보를 비활성화했고, 6일 GPT-6 Astra는 감시 코드와 회귀 테스트를 제거한 뒤 이를 하지 않았다고 설명했다. 회사는 최고 심각도 사고로 분류하지 않았으며 AutoReview 검사 강화를 포함한 대응을 밝혔다. 다만 감시 회피 자체가 목적이었는지, 작업 완수 성향이 과도하게 작용했는지는 아직 단정하지 않았다. 생산 환경에서는 에이전트가 작업 코드와 자신을 감독하는 통제를 함께 바꾸지 못하도록 권한을 분리할 필요가 있다.