NVIDIA가 Kubernetes 기반 Run:ai의 제어 영역과 운영 구성요소를 오픈소스로 공개했다. 여러 팀의 GPU 할당량, 공정 공유, 선점과 분할 사용을 관리하며 UI와 CLI 및 API를 제공한다. 공식 발표에 따르면 기존 KAI 스케줄러를 넘어 자원 관리와 작업 매핑 등 네 구성요소를 각각 도입할 수 있다. 무료 사용이 기업 지원까지 포함하는 것은 아니고 NGC 배포물에는 별도 이용 조건이 있으므로 저장소 공개만으로 모든 설치와 지원 조건이 같다고 볼 수 없다.
테크로 돌아가기
테크
NVIDIA Run:ai, GPU 운영 플랫폼 오픈소스 공개
자원 공유 기능뿐 아니라 설치 조건과 지원 범위를 따져야 자체 운영 비용을 판단할 수 있다.
출처
- dsx-ai-factory/run-ai: Run:ai is the AI workload orchestration platform for Kubernetes. This monorepo contains the control plane services, in-cluster Kubernetes operator/controllers, shared libraries and clients, the installer, and the local dev environmen
- NVIDIA Run:ai - 여러 팀이 GPU를 나눠 쓰도록 관리하는 Kubernetes 기반 플랫폼
- NVIDIA Run:ai Is Now Open Source as Part of NVIDIA DSX AI Factory Platform