AI 안전과 정렬을 연구하던 빌랄 추그타이가 9월 15일 공개 글을 통해 Google DeepMind를 떠난 사실과 기술 발전 방향에 대한 우려를 밝혔습니다. 보도에 따르면 그는 약 1년 반 근무한 뒤 7월 퇴사했고 현재 비영리단체 BlueDot Impact에서 활동합니다. AI 능력의 발전을 정렬 기술이 따라가지 못한다며 기업 간 개발 경쟁을 조정할 필요가 있다는 주장입니다. 이는 전 연구자의 판단이며 새로운 사고의 발생이나 구체적인 파국 확률을 확인한 자료는 아니므로 최근 안전 협의 소식과 구분해 볼 필요가 있습니다.