Transformer Explainer는 1억 2,400만 매개변수 GPT-2를 바탕으로 토큰화, 임베딩, 어텐션과 출력 확률이 연결되는 과정을 설명한다. 사용자가 입력과 중간 표현을 따라가며 다음 토큰 예측의 원리를 익히도록 구성됐다. 최신 최상위 모델은 아니고 모든 변형을 대표하지도 않는다. 공통 구조를 이해하는 출발점으로 활용할 수 있다.