속보01 / AI
소규모 데이터 LIS의 안전 정렬 성능 개선 주장
연구진은 안전성과 과도한 거절을 함께 다뤘으며, 초록은 평가 모델과 벤치마크별 점수를 보고하지 않았다.

arXiv에 공개된 논문 해석 가능한 특징 기반의 데이터 효율적 LLM 안전 정렬의 저자들은 선별·합성으로 개선을 보고했고, 초록에 독립 재현 보고는 없다.
연구진은 희소 오토인코더(SAE)의 활성값으로 다양한 안전 특징을 담은 입력을 골랐다고 보고했다. 이어 여러 AI 에이전트의 적대적 합성으로 무해하지만 불필요한 거절을 유발하는 입력을 만들었다고 보고했다.
연구진은 Less is Safer(LIS)에 2.4K(n=2.4K, 안전 정렬용 학습 데이터) 표본을 담았다고 보고했다. 안전성과 과도한 거절을 평가하는 벤치마크의 종합 성능에서 더 큰 데이터셋들을 앞섰다고 주장했다.
저자들은 구성 요소를 빼고 비교하는 실험에서 한 유형의 데이터만 쓰면 최적 결과에 못 미친다고 보고했다. 언어모델이 표시한 SAE 안전 특징으로 입력을 거르는 방식도 제안 방식보다 성능이 낮았다고 보고했다.
초록은 독립 연구진의 재현 여부나 재현 시도를 보고하지 않았다.
연구진은 비교군인 TRIDENT-Core·TRIDENT-Edge·WildJailbreak보다 LIS가 작다고 보고했다. 기존의 대규모 미세조정 데이터는 안전 정렬 비용을 높이고 과도한 거절을 유발한다고 주장했다.
초록은 평가 모델 이름과 벤치마크별 점수를 보고하지 않았다.