속보01 / AI
대조 학습 뒤 AI 안전장치 우회 탐지 정확도 상승
별도 분류기 훈련 없이 새 입력이 유해·무해 대표점 중 어디에 더 가까운지 판별하는 방식이다.

연구진은 11월 19일 AI 안전장치 우회 탐지 정확도가 대조 학습 뒤 9.1~18.0%포인트 올랐다고 발표했다.
논문에 따르면 연구진은 대조 학습으로 얻은 입력 특징을 우회 탐지에 사용했다. 탐지법 JDPI는 유해·무해 입력의 특징을 각각 대표점으로 요약했다. 새 입력은 어느 대표점에 더 가까운지에 따라 분류했다.
연구진은 별도 분류기 훈련을 생략해 비교 방식보다 유해 여부를 표시한 예시를 적게 썼다고 설명했다.
논문에 따르면 두 방식은 입력을 수치로 바꾸는 같은 인코더를 사용했다. 연구진은 유해·무해 판별력 지표 ROC-AUC 차이가 네 벤치마크 모두에서 0.017 이내라고 보고했다.
논문 초록은 무해 입력을 유해로 분류한 비율을 공개하지 않았다.