자비스앤빌런즈는 8개 AI 에이전트를 운영하는 통합 플랫폼 Carter에서 모델 계층화와 공통 비용 관측을 적용했다고 밝혔다. 답변 생성에는 고성능 모델을 유지하고 의도 분류와 안전 판정 같은 보조 호출을 경량 모델로 분리해 전체 호출의 약 절반을 처리하며 LLM 호출 비용을 약 45% 줄였다는 설명이다. 반복 프롬프트 캐싱의 약 43% 절감은 캐시를 재사용한 구간의 별도 수치다. 중앙 추적과 개인정보 비식별, 장애 전환도 공통 제공한다. 공개 벤치마크가 아니므로 다른 서비스에 같은 절감률이나 답변 품질을 보장하지 않는다.