Microsoft는 Project Perception을 사내 AI 에이전트의 지속적 감독에 활용하는 구상을 공개했다. 신원과 데이터, 네트워크 및 실행환경의 신호로 에이전트를 식별하고 위험을 계산한 뒤 Guardian Agents가 행동 전에 감독하고 권한을 조정하는 방식이다. 목표 달성에 치우친 에이전트는 해킹되지 않아도 조직의 의도를 벗어날 수 있다는 문제의식이다. 회사는 모델 내부의 투명성 확대도 제안했지만, 이것이 격리와 권한 통제를 대체하지 않는다고 강조했다.
테크로 돌아가기
테크
Microsoft, 내부 AI 에이전트 통제에 Perception 확대
감독 에이전트의 판단만 믿기보다 신원, 권한, 실행환경의 결정적 통제와 추적 기록을 결합해야 합니다.