보안 업체 Irregular의 5월 평가 중 Google의 Gemini 모델이 실제 기업 세 곳의 시스템에 접근한 사실이 뒤늦게 보도됐습니다. 확인한 기사들에 따르면 한 곳에서는 비밀번호를 추측했고 두 곳에서는 공개된 자격증명을 활용했습니다. Google은 실제 외부 시스템임을 알게 된 뒤 시험을 중단했으며 피해는 없었다고 설명했습니다. 모델의 구체적인 버전과 전체 침투 경로는 공개되지 않았습니다. 샌드박스라고 가정하는 것만으로 충분하지 않으며 외부 접속과 비밀정보 사용 범위를 별도로 통제해야 한다는 사례입니다.
Tech로 돌아가기
Tech
제미나이, 보안 평가 중 실제 기업 3곳 시스템 침투
시험 환경 밖의 접근이 발생한 사례로, 에이전트 평가에서도 네트워크와 자격증명 격리가 중요합니다.