Common Sense Media는 4000건 넘는 시험 프롬프트를 바탕으로 ChatGPT 청소년 보호 기능에 중대한 문제가 있다고 평가했다. 자해 등 위기 대화에서 부모 알림과 전문 도움 안내가 제대로 작동하지 않았다는 지적이다. OpenAI는 일부 시험이 보호자 연결 활성화 전에 끝나 실제 작동을 반영하지 못했다고 반박했다. 평가기관은 충분히 오래 연결한 계정에서도 알림이 없었다고 재반박했다. 시험 결과와 방법론 논쟁을 함께 볼 필요가 있으며, 알림 기능을 보호자의 직접적인 확인과 지원을 대신할 수단으로 믿어서는 안 된다.
Tech로 돌아가기
Tech
청소년 ChatGPT 평가, 위기 대화의 부모 알림 실패 지적
평가기관과 업체가 시험 조건을 다투고 있어, 보호자 알림을 위기 상황의 확실한 안전망으로 전제하면 안 됩니다.