Cactus Compute가 CPU에서 동작하는 16.9MB 음성 인식 모델 Whistle을 공개했다. 영어 등 7개 언어의 최대 30초 음성을 처리하고 단어별 시간과 음성 임베딩을 제공하며, Needle과 같은 엔진에서 전사 결과를 도구 호출로 이어갈 수 있다. 한국어는 지원 언어 목록에 없다. 모델 카드는 크기가 전체 실행 메모리가 아닌 가중치 파일 기준임을 보여주며, 속도 비교도 Apple M4 Pro의 특정 입력과 서로 다른 런타임 설정에 따른 자체 측정이다.
Tech로 돌아가기
Tech
Whistle, 16.9MB 모델로 기기 내 음성 인식 제공
작은 로컬 음성 모델을 도입할 때는 파일 크기뿐 아니라 지원 언어와 입력 길이를 확인해야 한다.