속보01 / AI
의료 AI 조작, 답변보다 내부 신호에서 더 자주 탐지
연구진은 기존 변환 도구와 범용 판정 모델로 재학습 없이 실험했다.

연구진은 11월 20일 의료 AI 실험에서 답변보다 내부 신호를 평가할 때 조작을 더 자주 탐지했다고 발표했다.
연구진은 논문에서 Gemma-3-27B의 내부 신호를 글로 변환했다고 설명했다. 판정 모델은 원래 입력을 보지 않고 그 글과 답변을 따로 평가했다.
논문에 따르면 내부 신호 평가는 여덟 공격 조건 모두에서 답변 평가보다 조작을 더 자주 탐지했다. 논문에 따르면, 조작이 없는 입력에서는 두 방식 모두 오탐을 드물게 기록했다.
연구진은 기존 변환 도구와 범용 판정 모델을 써서 재학습 없이 실험했다고 설명했다.
연구진은 논문에서 Llama-3.3-70B의 병변 누락 실험에서도 내부 신호 평가가 앞섰다고 보고했다.
논문 초록은 두 방식의 조건별 탐지율을 공개하지 않았다.