인텔이 Crescent Island 기반 추론용 GPU D시리즈를 공개했다. D270은 최대 480GB LPDDR5X 메모리, 350W 공랭 설계와 초당 1.5TB 대역폭을 제시하며 PyTorch 등 기존 소프트웨어 지원을 강조한다. 단일 카드에서 3000억 매개변수 모델, 8개 구성에서 1조 매개변수 모델을 다룰 수 있다는 설명도 내놨다. 다만 이 수치는 인텔이 제시한 구성 조건이며 제품은 샘플 단계여서 양산 공급이나 실제 서비스 성능이 입증된 것은 아니다.
Tech로 돌아가기
Tech
인텔, 최대 480GB 메모리의 추론용 D시리즈 GPU 공개
대형 모델 수용 규모는 업체 제시 조건이며 실제 서빙 지연과 비용은 별도 검증이 필요하다.