DeepSeek이 자체 추론 프레임워크 DeepInfer를 Apache 2.0으로 공개했다. 현재 DeepSeek-V4.1-Flash와 NVIDIA SM100 및 Huawei Ascend 950을 지원하며 병렬 처리, 초안 기반 디코딩, 구조화 출력을 제공한다. 다만 공개 범위는 오프라인 추론으로 KV 캐시 시스템과 완전한 프리필 및 디코드 분리, 복제본 부하 분산은 별도 구축해야 한다. 배치 불변 추론과 결정적 샘플링은 NVIDIA 전용이다. 관련 보도도 성능 수치가 자체 측정임을 확인해, 실제 비용 절감은 운영 환경에서 검증해야 한다.