속보01 / AI
Apple SSR 논문, 턴당 추론 지연 90% 넘게 줄여
자유 서술 대신 미리 정한 후보를 고르는 방식으로 소형 모델의 추론 비용을 줄였고, 제품 적용 계획은 밝히지 않았다

Apple이 10월 15일 공개한 SSR 논문에서 소형 모델의 턴당 추론 지연은 90% 넘게 줄었다(회사 공개 수치). SSR(선택 기반 구조화 추론)은 자유 서술 추론을 미리 정한 후보 중 하나를 고르는 작업으로 바꾼 틀이다.
작동 방식. 논문에 따르면 SSR은 반복되는 상위 수준 추론을 재사용 가능한 자연어 후보로 미리 적어 둔 방식이다. 모델은 행동 단계인 턴마다 현재 맥락에서 각 후보의 가능도를 따져 하나를 고르는 구조다. 후보 문장이 정해져 있어 토큰 가능도는 공유 문맥 캐시 위에서 병렬로 계산했다.
논문은 여러 입력 형식을 다루는 멀티모달 검색 벤치마크 일곱 종에서 2B·4B 모델을 평가했다고 적었다. 문항당 전체 모델 추론 지연은 28–54% 줄었다(회사 공개 수치).
여러 강화학습 목표와 지도 미세조정에서 과제 성능을 희생하지 않고 효율을 높였다고 논문은 밝혔다. 논문은 평균 성공률이 같은 규모의 주요 검색 에이전트와 경쟁할 만한 수준이라고 밝혔다.
연구의 출발점은 멀티모달 에이전트가 행동마다 앞서 생성하는 자유 서술 추론이다. 논문에 따르면 소형 모델에서는 이 추론이 길어져도 행동에 주는 지침은 적고 추론 비용은 크다. 저자 명단에는 Carnegie Mellon University 소속 연구자도 포함됐다.
Apple은 논문 소개 페이지에서 SSR의 제품 적용 계획을 밝히지 않았다.