한 개발자가 변 길이가 매우 큰 삼각형에서 헤론 공식과 Kahan 변형 모두 중간 곱셈이 넘쳐 잘못된 값을 내는 사례를 분석했다. 가장 긴 변으로 나눠 크기를 정규화한 뒤 넓이를 복원하는 방법을 제시하며, 변이 10의 100제곱인 정삼각형으로 차이를 보였다. 가늘고 긴 삼각형의 상쇄 오차를 줄이는 Kahan 방식과는 해결하는 문제가 다르다. 정규화도 모든 극단값을 보장하지 않아 수치 범위와 모양을 나눠 시험해야 한다.
테크
정답이 표현 범위 안이어도 계산 도중 넘칠 수 있어 크기 정규화가 필요합니다.
한 개발자가 변 길이가 매우 큰 삼각형에서 헤론 공식과 Kahan 변형 모두 중간 곱셈이 넘쳐 잘못된 값을 내는 사례를 분석했다. 가장 긴 변으로 나눠 크기를 정규화한 뒤 넓이를 복원하는 방법을 제시하며, 변이 10의 100제곱인 정삼각형으로 차이를 보였다. 가늘고 긴 삼각형의 상쇄 오차를 줄이는 Kahan 방식과는 해결하는 문제가 다르다. 정규화도 모든 극단값을 보장하지 않아 수치 범위와 모양을 나눠 시험해야 한다.