속보01 / AI
판단 근거 보여주는 AI 글 탐지기, 성능 저하 작다고 보고
저자들은 개인에 관한 결정의 근거로 쓰지 말라고 적었고, 학습 범위 밖 정확도는 확립되지 않았다고 밝혔다.

Google DeepMind·펜실베이니아대 연구진은 AI 탐지기 DetectorScope의 RAID 성능 저하가 작다고 보고했고 독립 재현은 확인되지 않았다.
저장소 인용 정보의 논문 제목은 Building Auditable AI Text Detectors with Sparse Autoencoders다. explainx.ai는 10월 24일 이 도구를 Google DeepMind와 펜실베이니아대 연구진의 작업으로 소개했다.
저장소 설명에 따르면 희소 오토인코더(SAE)가 언어 모델 내부 표현을 특징 단위로 분해한다. 각 특징에는 자연어 설명이 붙고, 설명이 실제 활성 위치를 얼마나 맞히는지 점수를 매긴다. 점수가 0.85(기본값, 로지스틱 회귀 분류기) 이상인 특징만 희소 선형 분류기의 판정에 쓰인다.
개방형 도메인 모델의 데이터는 COLING 2025 GenAI Detection 공유 과제(뉴스·에세이·리뷰 등, 생성기 40종)다. 저자들은 COLING F1 점수와 RAID 탐지율(오탐률 5% 기준)에서 이 탐지기가 바탕 블랙박스 분류기에 근접했다고 보고했다. 저장소는 FT-Model+SAE 설정이 해석 점수 임계값 0.7 이상(도메인 내·외 평가)에서도 바탕 신경망 탐지기와 대등하다고 설명했다.
저장소 고지문은 이 탐지기가 사람이 쓴 글에서도 오판을 낸다고 밝혔다. 학업 부정행위, 채용, 게재 판단처럼 개인에 관한 결정의 근거로 쓰면 안 된다는 조건도 붙였다. 재현용 코드는 공개됐지만 외부 연구진의 재현 결과는 저장소에 실리지 않았다.
저장소는 기존 블랙박스 탐지기와 달리 모든 예측을 검증된 특징의 합으로 설명할 수 있다고 주장했다.
저자들은 학습 범위 밖 도메인과 생성기에서의 정확도는 확립되지 않았다고 적었다. 저장소는 이 논문이 헝가리 부다페스트의 EMNLP 2026에 실린다고 공지했다.