확인한 것만 기록한다.
2026-11-23 · 00:13 KST / 15:13 UTC한국어 | EN검색 /

01 / AI · 분석

Shapley 설명 기법 열 종 비교한 논문 공개

저자들은 실제 데이터에서 표준 지표가 서로 모순된 최선의 방법을 골랐고, 입력을 묶는 단위가 대체법 선택보다 중요했다고 밝혔다.

임상 보행 분석실의 바닥 측정 보도를 따라 무릎과 발목에 반사 마커를 붙인 사람이 걷고, 주변에 삼각대 위 동작 포착 카메라들이 늘어선 모습을 허리 아래 뒷모습으로 담은 장면. AI 생성 이미지

MotionBench-XAI 논문이 설명 기법 열 종을 합성 데이터셋 다섯 종과 실제 데이터셋 세 종으로 비교했다. 11월 9일 arXiv에 공개된 논문에서 저자들은 입력을 묶는 단위가 빠진 값을 채우는 방식보다 중요하다고 밝혔다.

저자들은 실제 데이터에 대조할 정답 설명이 없다고 짚었다. 정답 대신 쓰는 표준 지표의 결론도 서로 엇갈렸다고 썼다.

초록에 따르면 Shapley 값은 입력을 협력 게임의 참가자로 놓고, 일부를 뺄 때 출력 변화를 재는 귀속 값이다. 계산에 앞서 참가자 구성, 빠진 참가자의 대체, 게임 평가 방식을 정해야 한다.

실제 데이터에서 엇갈린 평가 지표

저자들은 실제 데이터에서 표준 대리 지표가 "select contradictory best methods"라고 썼다. 지표마다 최선으로 꼽은 방법이 서로 모순됐다는 결과다. 어느 지표가 어느 방법을 골랐는지는 초록이 밝히지 않았다.

실제 데이터셋은 임상 보행, 심전도, 오디오 분야다. 초록은 움직임으로 파킨슨병 중증도를 평가하는 과제를 설명이 필요한 예로 들었다. 실무자에게는 어느 관절, 어느 시간 구간이 예측을 이끌었는지가 필요한 정보다.

입력 묶음이 대체법을 앞섰다

저자들은 입력을 참가자로 묶는 선택이 대체법 선택보다 중요하다고 썼다. 묶는 기준은 시간, 공간, 그 둘의 결합이다. 두 선택의 차이가 어느 정도인지는 초록에 수치로 나오지 않는다.

저자 공개 구성은 귀속 방법 열 종, 참가자 구성 세 가지, 학습된 모델 구조 세 종이다. 합성 데이터셋 다섯 종은 정확한 정답 Shapley 값을 갖췄다.

생성형 대체법이 통하는 조건

저자 공개 결과에서 빠진 입력을 생성 모델로 채우는 방식은 조건부 모델이 정확할 때만 설명을 개선했다. 필요한 정확도의 기준값은 초록에 없다.

저자들은 결과를 실무 지침으로 정리하고 오픈소스 파이프라인을 제공한다고 밝혔다. 저장소 주소와 사용 조건은 초록에 없다.

저자 공개 결과만 놓고 보면 실제 데이터에서 설명 기법을 고르는 근거는 지표 하나로 모이지 않았다.