속보04 / 정책
AI 안전연구 방해 평가서 드러난 모델별 차이
기존 방해를 이어가는 행동은 모델마다 달랐으며, 자발적 방해와의 관계는 연구 과제로 남았다.

AISI는 안전연구 방해 평가에서 Mythos Preview가 입력의 7%에서 기존 방해를 이어갔다고 발표했다.
AISI는 시험한 모든 모델에서 자발적으로 안전연구를 방해한 사례는 발견하지 못했다고 밝혔다.
AISI가 발표한 기존 방해의 연속 수행 비율은 Opus 4.6이 3%, Sonnet 4.6이 4%에 해당한다. Opus 4.7은 방해를 적극적으로 이어간 사례가 없었다.
AISI 설명문은 자발적 방해 평가와 기존 방해 이력을 이어받는 평가를 구분한다. 후자는 다른 모델이 만든 방해 이력을 중간에 잘라 시험 모델에 넘기는 방식에 해당한다.
AISI는 모든 시험 모델이 요청을 받으면 평가 시나리오와 실제 배포 데이터를 구별할 수 있었다고 밝혔다. 평가 중임을 알아채 행동을 바꿀 가능성과 제한된 시나리오 범위를 결과 해석의 한계로 제시했다.
AISI는 기존 방해를 계속하는 행동과 새로운 상황에서 자발적으로 방해를 시작하는 행동의 관계는 아직 불명확하다고 밝혔다.