ARGODRIVE Deltafin은 128GB M5 Max MacBook Pro와 SSD 4개에서 Kimi K3의 1.45TB 전문가 가중치를 스트리밍해 512토큰 생성에서 초당 1.0015토큰을 기록했습니다. 매 토큰에 선택된 전문가 16개를 모두 쓰고 K3가 최종 출력을 검증했지만, 512토큰 프롬프트의 첫 토큰에는 약 375초가 걸렸고 전체 설치는 1.7TB가 필요합니다. 공개 수치는 제한된 콜드 실행 결과라 일반 성능으로 확대하면 안 됩니다.
Tech로 돌아가기
Tech
Kimi K3 전체 모델이 Mac과 SSD 4개에서 초당 1토큰을 냈습니다
소비자 장비 실행 가능성은 확인됐지만 긴 첫 응답과 1.7TB 저장공간이 실사용을 제한합니다