사이먼 윌리슨이 LLM 명령줄 도구에서 TypeSafe의 Jev를 호출하는 llm-typesafe 0.1a0 플러그인을 공개했다. API 키를 등록하면 예 또는 아니요 질문의 확률, 후보 중 선택, 기준에 따른 점수 평가를 JSON으로 받을 수 있다. 예시에는 환불 요청 여부 판단과 문의의 담당 팀 분류가 포함된다. 일반 챗봇의 문장을 다시 파싱하는 부담을 줄이는 연결 도구이며, 반환 확률의 보정이나 분류 품질까지 플러그인이 보증하는 것은 아니다.
Tech로 돌아가기
Tech
llm-typesafe, 명령줄 LLM에 Jev 판단 모델 연결
긴 답변 대신 확률과 선택 점수를 받아 자동 분류 흐름에 연결할 수 있지만 업무별 정확도 검증은 필요합니다.