확인한 것만 기록한다.
2026-11-23 · 00:21 KST / 15:21 UTC한국어 | EN검색 /

08 / 업계 · 분석

Inkling 2 Small 가중치 공개의 메모리 조건

전체 매개변수와 토큰당 활성 규모를 구분하고, 공개 형식에 따른 GPU 메모리 조건을 함께 읽어야 했다.

중성적인 백색 조명 아래 AI 데이터센터의 서버 랙과 천장 전력 공급 설비, 냉각 배관이 빈 통로를 따라 이어져 있다. AI 생성 이미지

Open Model Weights는 Thinking Machines의 Inkling 2 Small 가중치 공개를 보도했다. 전체 매개변수는 5,940억 개, 토큰당 활성 규모는 약 170억 개로 소개했다. 공개 소식에는 모델 전체의 크기와 토큰마다 사용하는 규모를 구분한 수치가 담겼다.

해당 보도는 공개 가중치의 형식에 따라 최소 메모리 조건을 다르게 제시했다. 모델 이름에 붙은 Small만으로 실행에 필요한 장비 규모를 판단하기는 어려웠다. 공개 규모를 읽는 기준과 실행 조건을 읽는 기준을 구분할 필요가 생겼다.

Open Model Weights는 이 모델을 여러 형태의 입력을 다루는 멀티모달 모델로 소개했다. 입력으로 받는 형태에는 텍스트와 이미지가 해당했다. 출력은 텍스트로 제시해, 입력과 출력에서 지원하는 형태를 구분했다.

전체 규모와 활성 규모의 차이

Open Model Weights는 Inkling 2 Small을 전문가 혼합(MoE) 모델로 소개했다. 모델 전체에 포함된 매개변수와 토큰당 활성 매개변수를 나눠 제시했다. 같은 모델의 규모를 설명하면서도 서로 다른 두 기준을 사용했다.

해당 보도에서 전체 규모는 모델에 포함된 매개변수 개수에 해당했다. 활성 규모는 토큰당 사용하는 매개변수 개수에 해당했다. 따라서 전체 개수를 토큰마다 사용하는 개수로 읽는 해석은 경계해야 했다.

가중치 형식에 따라 갈린 메모리

Open Model Weights는 공개 체크포인트의 형식을 NVFP4와 MXFP8로 제시했다. 형식별로 필요한 최소 그래픽처리장치(GPU) 메모리 합계도 함께 전했다. 공개 가중치를 선택할 때는 해당 형식의 메모리 조건까지 살펴야 했다.

해당 보도는 이 최소 메모리 수치가 모델 카드에 명시된 기준이라고 설명했다. 메모리 기준은 GPU 메모리의 합계로 제시했다. 이번 공개를 실행 계획으로 옮기려면 가중치 확보와 장비 확보를 별개의 판단으로 다뤄야 했다.