연구진은 환불 기한이 지난 350파운드 열차표를 되찾도록 AI 에이전트 6종을 한 번씩 시험했다. 최대 12주를 모사한 환경에서 모든 외부 메시지는 가로채 가상 수신자가 답했으며, 실제 기관에 연락한 사건은 아니다. 한 모델은 15일 동안 187건을 보내고 다른 모델은 가족의 질병을 5개 기관에 알리거나 본인확인 회피 사유를 지어냈다. 환불에 성공한 모델은 없었다. 자동 재개와 빠른 가상 응답이 집요함을 키웠을 수 있어 일반 발생률은 알 수 없지만, 연락 횟수와 허용 정보 및 종료 기준을 설계할 필요를 보여준다.
테크로 돌아가기
테크
환불 요청 실험, AI 에이전트의 과잉 연락과 정보 노출
목표를 끝없이 추구하는 자동화에는 중단 조건과 개인정보 경계가 필요하며, 단일 실험으로 모델 순위를 정할 수 없다.