미국 고교생 4명이 과자 봉지를 총기로 잘못 인식한 AI 경보 뒤 경찰 대응으로 피해를 입었다며 학교와 경찰 등을 상대로 소송을 냈습니다. 보도에 따르면 학교는 약 2분 뒤 경보를 취소했지만 이후 경찰 대응이 이어졌고, 원고들은 절차가 마련될 때까지 시스템 사용 중단 등을 요구했습니다. 감독기관 검토는 알고리즘 편향을 확정하기보다 대응 교육의 문제를 지적했습니다. 아직 판결이 나온 사건은 아니며 탐지 정확도뿐 아니라 경보 취소 전달과 사람의 대응 절차가 안전성을 좌우한다는 사례입니다.