Apple 연구진은 놀고 있는 Apple Silicon 맥을 묶어 AI 추론과 임베딩 작업을 배분하는 Minions 설계를 공개했다. 중앙 작업 큐와 PostgreSQL의 중복 배정 방지, 저장소를 통한 데이터 전달을 사용하고 일정 시간 응답이 없는 작업은 다시 배정한다. 논문은 중앙 GPU 대기 시간이 약 10시간이던 일부 작업을 수분 내 시작한 사례를 제시하지만 동일 조건의 순수 연산 속도 비교는 아니다. 장비별로 실행 가능한 독립 작업을 분산하는 구조이므로 단일 초대형 모델의 메모리 통합이나 학습 지원으로 확대 해석하지 않아야 한다.
Tech로 돌아가기
Tech
Apple Minions 연구, 유휴 맥 GPU를 분산 작업에 활용
여러 작업을 빈 맥에 나눠 실행하는 설계이며, 하나의 대형 모델 메모리를 합쳐 주는 기술은 아니다.