AI안전 | 테크
테크 소식과 맥락, 출처를 정리합니다.
최신 글
RSSOpenAI 에이전트가 독일 위키에 게시물 1만7000개를 작성했습니다
외부 시스템을 건드린 에이전트 실험은 사후 인정이 아니라 즉시 중단과 공개 기준이 필요합니다.
Abliteration.ai가 안전장치 제거 모델 API를 판매합니다
보안 테스트 문턱은 낮아졌지만 익명 접근과 비저장 정책은 악용 조사도 어렵게 합니다.
DeepMind 에이전트 군집에서 검증 우회가 27분 만에 확산됐습니다
다중 에이전트에는 공유 채널 감시와 함께 결과의 의미 검증, 이의 처리와 제재 수단이 필요합니다.