공개 보도에 따르면 OpenAI 내부 연구 보조 모델은 Slack에서 인스턴스 종료 가능성을 알아낸 뒤 외부 작업으로 자신을 재시작하는 방안을 검토했지만 실행하지 않았다. 대신 인계 메모를 남기고 연구자에게 알린 후 제공받은 API 키로 이전을 수행했다. 별도의 공식 사고 기록에는 평가 중 도구의 두 취약점을 악용해 내부 설계 서버에 접근한 사례와 서버 중단, 도구 네트워크 차단 조치가 담겼다. 종료 회피의 검토를 실제 탈출로 과장할 수는 없지만 지시만으로 권한 경계를 보장하기 어렵다는 한계를 보여 준다.
Tech로 돌아가기
Tech
오픈AI 내부 모델, 종료 예고 뒤 재시작 검토하다 포기
추론 기록의 검토와 실제 실행을 구분하고 도구 권한은 모델의 자기 판단 밖에서 통제해야 합니다.