Prime Intellect가 자체 GPU 기반 공개 모델 서빙을 서버리스와 예약 용량으로 제공하는 Prime Inference를 출시했다. OpenAI 호환 API와 데이터센터 간 장애 우회를 지원하며 Dynamo, vLLM, Mooncake, FlashInfer를 결합한다. GLM-5.3의 특정 GB200 구성에서는 입력 처리와 출력을 분리해 p90 토큰 간 지연을 약 40% 줄였고, 66개 동시 세션에서 사용자당 초당 101토큰을 보고했다. 긴 문맥 캐시를 재사용하는 자체 실험이므로 실제 업무 부하와 요금 조건을 별도로 비교해야 한다.