Tech Against Terrorism이 134개 AI 모델에 200개 이상 질문을 세 가지 맥락으로 제시한 평가에서 81개 모델이 자체 실패 기준에 해당했다. WIRED 보도에 따르면 연구자를 자처한 요청에는 16.9%가 응답해 노골적인 악용 요청보다 약 9배 높은 응답률을 보였다. 공개 가중치 모델의 안전장치를 제거한 변형이 등장하기까지 걸리는 평균 시간도 2024년 24일 이상에서 3일 미만으로 줄었다. 이는 특정 시험의 결과이며 실제 공격 성공률을 뜻하지 않는다. 모델 선택뿐 아니라 배포 후 접근 통제와 악용 감시가 필요한 이유를 보여준다.
Tech로 돌아가기
Tech
AI 134개 모델 평가, 안전장치 제거와 요청 위장에 취약점 확인
모델 제공사의 기본 거절 기능만으로 배포 후 악용 위험까지 통제할 수 있다고 보기 어렵다.