Redis 개발자 antirez의 DwarfStar 4는 DeepSeek V4 계열과 GLM 5.x, Qwen3.8 일부 모델을 실행하는 C 기반 엔진이다. Metal과 CUDA, ROCm을 지원하며 CLI, 로컬 API와 코딩 에이전트를 묶고 긴 입력의 캐시를 SSD에 저장한다. 하드웨어 문서상 64GB Mac은 Qwen Q2 경로, 96~128GB는 V4 Flash Q2가 주요 선택지이며 일부 모델은 SSD 스트리밍에 의존한다. 범용 GGUF 실행기가 아니고 모델별 플랫폼 지원과 속도가 달라 장문 작업 기준으로 확인해야 한다.
Tech로 돌아가기
Tech
DwarfStar 4, 대용량 메모리용 로컬 추론 엔진 제공
전용 양자화 모델과 하드웨어 조합이 필요하므로 메모리에 올릴 수 있는지와 SSD 의존도를 먼저 살핀다.