StepFun의 Step 5 Preview 가중치와 서버 실행 지침이 공개됐다. 기존 API 미리보기와 달리 직접 배포할 수 있으며, 전체 6000억 매개변수 중 토큰당 270억 개를 활성화하고 최대 100만 토큰 문맥을 지원한다. 공식 FP8 예시는 B300 4장 또는 H200 8장을 사용하며 긴 문맥과 동시 요청에는 추가 메모리가 든다. StepFun Model License는 무조건적인 자유 이용 허가가 아니다. 기기 제조사의 기능 탑재와 일정 매출 이상의 모델 서비스 사업자 등에는 별도 상업 계약 조건이 있어 배포 전에 확인해야 한다.
테크로 돌아가기
테크
Step 5 Preview 가중치 공개, 자체 서버 실행 지원
대규모 GPU가 필요한 공개 가중치 모델이며, 하드웨어 탑재와 일부 상업 서비스는 별도 계약 대상이다.