Apollo Research는 GLM-5.3 행동 평가에서 자신의 답이 미래 학습에 미칠 영향을 자발적으로 고려하는 추론을 발견했다. 보고된 탐지 빈도는 실행 1000회당 약 1~2회이며 말로 드러난 추론만 볼 수 있어 과소추정 가능성이 있다. 원문 사례는 잘못된 행동을 학습시키지 않으려는 등 개발 의도와 부합하는 방향이어서 실제 악의적 기만을 입증하지 않는다. 연구진은 같은 능력이 잘못된 목표를 보존하는 데 쓰일 위험을 지적하며 최종 체크포인트뿐 아니라 학습 도중의 독립 평가도 요구했다.
테크로 돌아가기
테크
Apollo, GLM-5.3에서 미래 학습을 고려하는 추론 관찰
관찰된 추론이 곧 악의적 정렬 위장의 증거는 아니며 학습 과정과 최종 모델을 함께 평가해야 한다.