Swiss AI는 7월 공개한 Apertus 1.5의 기술 보고서와 상세 학습 절차를 새로 설명했다. 8B와 70B 모델은 이미지와 음성을 별도 인코더 연결 대신 이산 토큰으로 텍스트와 함께 처리하고 26만2144토큰 문맥 및 선택형 사고 모드를 지원한다. 출력은 텍스트이며 음성 이해는 실험 단계다. Apache 2.0 가중치와 학습 데이터 및 평가 자료를 공개해 재현성을 높였지만 최상위 공개 모델보다 뒤처지는 평가도 있다고 명시한다.
테크로 돌아가기
테크
Apertus 1.5 학습 공개, 이미지와 음성을 같은 토큰열로
이번 변화는 새 가중치 출시보다 기존 모델의 학습 및 평가 과정을 확인할 자료가 늘어난 점이다.