ProvenanceGuard는 MCP 도구 기록의 출처 식별자를 유지해 답변을 주장 단위로 나누고 근거와 인용 대상을 각각 확인하는 연구다. 의료 도메인 기록 281건을 활용했으며 보류 평가에서 차단 F1 0.802와 출처 정확도 0.858을 보고했다. 그러나 의미가 비슷한 여러 출처를 구분하는 어려운 평가에서는 출처와 관계의 정확도가 0.229로 낮아졌다. 수정 후 재검증도 보수적인 대체 답변에 의존할 수 있다. 단순 사실 일치 점수만으로 인용 품질을 보증하지 말고 주장과 원자료의 결속을 별도로 시험해야 한다.
Tech로 돌아가기
Tech
ProvenanceGuard, MCP 답변의 사실과 출처 연결 검증
어딘가에 맞는 정보가 있다는 것과 답변이 올바른 출처를 가리킨다는 것은 다른 문제다.