확인한 것만 기록한다.
2026-11-23 · 00:20 KST / 15:20 UTC한국어 | EN검색 /

속보01 / AI

대조 학습 뒤 AI 안전장치 우회 탐지 정확도 상승

별도 분류기 훈련 없이 새 입력이 유해·무해 대표점 중 어디에 더 가까운지 판별하는 방식이다.

독립적인 AI 평가 연구실을 상상한 장면으로, 뒷모습이 흐릿한 연구원이 서버에 연결된 여러 화면의 이미지 출력을 같은 조건에서 비교하고 있다. AI 생성 이미지

연구진은 11월 19일 AI 안전장치 우회 탐지 정확도가 대조 학습 뒤 9.1~18.0%포인트 올랐다고 발표했다.

논문에 따르면 연구진은 대조 학습으로 얻은 입력 특징을 우회 탐지에 사용했다. 탐지법 JDPI는 유해·무해 입력의 특징을 각각 대표점으로 요약했다. 새 입력은 어느 대표점에 더 가까운지에 따라 분류했다.

연구진은 별도 분류기 훈련을 생략해 비교 방식보다 유해 여부를 표시한 예시를 적게 썼다고 설명했다.

논문에 따르면 두 방식은 입력을 수치로 바꾸는 같은 인코더를 사용했다. 연구진은 유해·무해 판별력 지표 ROC-AUC 차이가 네 벤치마크 모두에서 0.017 이내라고 보고했다.

논문 초록은 무해 입력을 유해로 분류한 비율을 공개하지 않았다.