속보01 / AI
재게시 환경서 AI 조작 영상 탐지 한계 드러나

연구진은 11월 13일 arXiv에 공개한 연구에서 재게시 환경을 반영한 평가의 가짜 영상 탐지율이 15%를 넘지 못했다고 발표했다. 진짜 영상을 가짜로 잘못 판정하는 비율을 1%로 맞춘 결과였다.
연구진은 영상 10,000개로 구성한 평가 묶음 Reality Perception Gap(RPG)을 제시했다. 생성 영상과 부분 합성 편집본에 플랫폼 간 재게시 압축을 적용했다. 카메라의 광학적 흔적이 남은 실제 영상도 짝지었다.
논문 초록에 따르면 평가 대상은 탐지기 18개였다. 범죄·전쟁처럼 조작 영상이 사회적 피해를 일으킬 수 있는 내용도 포함됐다. 기존 탐지기는 대체로 정제된 영상으로 평가됐다고 연구진은 설명했다.
연구진은 대조 실험과 재인코딩 실험으로 실패 원인을 나눴다. 연구진은 생성기와 내용의 변화가 압축 전부터 탐지 성능을 떨어뜨렸다고 분석했다. 연구진은 재게시 압축이 흔적 기반 탐지기가 의존하는 미세한 단서를 지웠다고 분석했다.
연구진은 실제 배포 조건을 반영한 훈련을 대안으로 제시했다. 미세한 흔적과 시간 흐름, 의미 정보를 결합해야 한다는 제안이었다. 영상에 남은 단서로 조작을 가리는 방식의 한계도 제기했다.
논문 초록은 제안한 복합 탐지 방식의 성능 수치를 공개하지 않았다.