Perplexity는 Rust 기반 검색 엔진 Photon에서 검색과 순위화 단계의 p99 지연을 약 800ms에서 65ms로 줄였다고 보고했다. 이는 전체 API 응답 시간이 아니다. 이를 활용한 Fast Search는 1000요청당 1달러로 일반 검색의 5달러보다 낮으며 같은 응답 형식을 쓴다. 다만 업체 평가에서 어려운 꼬리 질의의 관련성과 답변 가능성이 낮아지는 교환이 있었다. Photon 자체는 공개 소스가 아니고 사용자는 호스팅 API를 이용한다. 단순한 반복 검색과 모호한 고난도 질의에 서로 다른 모드를 선택할 필요가 있다.
Tech로 돌아가기
Tech
Perplexity Photon, 검색 지연 줄이고 저가 모드 제공
빠른 검색은 반복 작업 비용을 낮추지만 어려운 질의의 관련성 손실까지 비교해야 한다.