뇌전증 환자 가족이 ChatGPT의 감약 조언 뒤 환자가 사망했다며 제기한 사건이 보도됐다. 보도는 GPT-4o가 우려에 반복적으로 안심시키는 답을 했다고 전하지만 공식 사인은 뇌전증 돌연사로 제시됐으며 조언과 사망의 의학적 인과가 확정됐다는 뜻은 아니다. OpenAI는 애도를 표하고 소비자용 GPT-4o 종료와 후속 모델 개선을 설명했다. 사건의 핵심은 챗봇의 자신감 있는 답변이 개인의 발작 위험과 처방을 평가할 자격을 대신하지 못한다는 점이다. 약을 줄이거나 중단하는 결정은 담당 의료진과 상의해야 한다.