2025년 공개 후 ICLR 2026에 채택된 C2C는 한 LLM의 KV 캐시를 다른 모델의 표현 공간으로 변환하고 합쳐 중간 텍스트 생성을 줄입니다. 논문 v2는 단일 모델 대비 평균 정확도 6.4~14.2% 향상과 텍스트 통신 대비 평균 2.5배의 지연 개선을 보고합니다. 공개 구현은 모델 쌍별 변환기와 사전학습 체크포인트를 제공하지만 README의 요약 수치는 논문과 다릅니다. 지원 조합과 평가 버전을 확인해야 하며 모든 에이전트에서 같은 개선이 보장되지는 않습니다.
Tech로 돌아가기
Tech
C2C 연구, 모델 간 텍스트 대신 KV 캐시 전달
학습된 캐시 변환기가 필요한 연구 방식으로 공개 API끼리 즉시 연결하는 범용 프로토콜은 아닙니다.
출처
- Cache-to-Cache: Direct Semantic Communication Between Large Language Models
- Direct Semantic Communication Between Large Language Models
- Cache-to-Cache: LLM 간 직접 의미 전달 (2025)
- thu-nics/C2C: [ICLR'26] The official code implementation for "Cache-to-Cache: Direct Semantic Communication Between Large Language Models" — GitHub