Nvidia와 Oracle은 OCI에 Vera Rubin NVL72 및 독립형 Vera CPU를 정식 제공한다고 밝혔다. 모델 실행 사이에 코드나 검색 도구를 처리하는 CPU를 GPU와 독립적으로 확장해 에이전트 작업의 대기를 줄이는 구상이다. 수 기가와트급 슈퍼클러스터 확대와 더 작은 NVL8 구성도 제시했지만 NVL8은 도입 계획 단계다. 업체의 CPU 벤치마크 수치는 OCI의 실제 개선률과 같지 않으며, 데이터나 외부 서비스가 병목이면 CPU 증설만으로 해결되지 않는다.
테크로 돌아가기
Oracle, Vera Rubin과 독립형 CPU로 AI 자원 확장
코드 실행용 CPU와 모델용 GPU를 따로 늘릴 수 있지만, 실제 병목과 총비용은 작업 전체에서 측정해야 한다.