White Circle의 RISE 연구는 반복적인 공격 전략 평가로 상용 이미지 AI의 금지 콘텐츠 차단을 시험했다. Ars Technica가 정정한 본문에 따르면 사람이 확인한 성적 이미지 생성률은 DALL-E 3 약 13%, Nano Banana 2는 10% 미만, GPT-Image-2는 약 3%였다. 연구진은 후속 버전이 더 취약하다고 주장했지만 같은 수준의 상세 수치는 제시하지 않았고, Google과 OpenAI는 매체 질의에 답하지 않았다. 사전 공개 논문과 연구진 평가인 만큼 모든 사용 조건으로 일반화할 수 없으며, 배포 전 독립 평가와 지속적인 안전성 점검의 필요성을 드러낸다.
Tech로 돌아가기
Tech
White Circle 연구, 주요 이미지 AI의 금지 콘텐츠 차단 한계 지적
사람이 확인한 우회율은 모델마다 달랐으며 신규 버전이 더 취약하다는 주장도 별도 검증이 필요하다.