Microsoft가 Windows ML에 llama.cpp 기반 GGUF 실행과 작업별 API를 실험적으로 추가했다. 텍스트 생성은 GGUF와 ONNX를, 음성 인식은 ONNX Whisper를 다루며 OpenAI 호환 로컬 엔드포인트도 제공한다. 새 Runtime API는 CPU와 GPU, NPU를 단계별로 지정하는 파이프라인과 사전 컴파일을 지원한다. 기존 ONNX Runtime 경로는 계속 유지되며 이번 추가 기능은 정식 운영 보장이 아닌 실험 버전이므로 대상 기기에서 지원 범위를 확인해야 한다.