크리스티아노 아몬 퀄컴 CEO는 일부 AI 기업이 2028년까지 휴대폰에서 1000억 매개변수 모델을 상시 실행할 수 있는 성능을 요구한다고 밝혔다. 기업명과 확정 제품은 공개하지 않았다. 이 규모는 4비트 가중치만 약 50GB를 차지하고 추가 문맥 메모리와 전력, 발열 관리가 필요하다. 혼합전문가 구조도 활성 연산을 줄일 뿐 전체 저장 공간을 같은 비율로 줄이지 않는다. 개인화된 온디바이스 에이전트 수요를 보여 주지만 특정 회사의 휴대폰 출시로 단정할 수는 없다.
Tech로 돌아가기
Tech
퀄컴 CEO, 2028년 휴대폰용 100B AI 모델 구동 요구 공개
고객의 목표이지 구현 완료나 제품 출시 확정이 아니며, 메모리와 발열 제약을 해결해야 하는 단계입니다.