Google의 TorchTPU 0.2.0은 TPU용 ATen 커널과 XLA 컴파일 캐시, torch.compile 및 분산 학습을 제공하는 공개 PyTorch 백엔드다. Python 3.11 이상과 TPU VM이 필요하며 설치 때 CPU용 PyTorch 인덱스를 지정해야 한다. Hugging Face는 Transformers와 Diffusers의 네이티브 TPU 실행을 지원해 별도 Optimum TPU가 필요 없다고 설명한다. TPU 테스트 통과율은 96.5%로, 모든 모델이 완전히 호환된다고 볼 수는 없다.
테크로 돌아가기
테크
TorchTPU 공개, PyTorch와 Hugging Face의 TPU 경로 확대
기존 모델 코드를 활용할 수 있지만 지원 연산과 설치 환경 및 남은 테스트 실패를 검증해야 합니다.