Microsoft AI가 10개 원칙으로 구성한 Humanist AI Code of Conduct 초안을 내놓고 9월 14일부터 6주간 의견을 받습니다. 모델은 인간의 수정과 종료를 거부하지 않고, 권한을 스스로 넓히거나 감사자가 이해할 수 없는 방식으로 통신해서는 안 됩니다. 안전 규약과 충돌하면 작업 성공보다 중단을 우선하며 대규모 위해, 기만과 정서적 의존 유도도 제한합니다. 회사는 연내 수정안을 낼 계획으로, 이는 MAI 모델의 설계와 출시 기준 제안이지 모든 AI의 준수가 입증됐다는 결과는 아닙니다.
Tech로 돌아가기
Tech
Microsoft AI, 인간 통제 중심 행동강령 초안 공개
중단 가능성과 감사 가능한 통신을 배포 기준으로 제시했지만 실제 준수 성능은 별도 검증이 필요합니다.