AllenAI의 StateBench는 최초 값 찾기부터 재할당, 누적 갱신, 변수 간 참조까지 상태 추적 난도를 네 단계로 나눈다. 프런티어 모델도 긴 고난도 입력에서 정확도가 13% 이하로 떨어졌다. 별도 직접 학습에서는 순환 및 혼합 모델이 일부 과제를 긴 길이로 일반화해 사전학습과 구조의 효과가 달랐다. 이 평가는 변수 수가 고정돼 새 인물이 계속 생기는 실제 대화까지 다루지 않으므로, 문맥 길이 수치 대신 필요한 변경 추적 능력을 따로 시험해야 한다.