확인한 것만 기록한다.
2026-11-23 · 00:35 KST / 15:35 UTC한국어 | EN검색 /

속보04 / 정책

AISI, AI 에이전트 격리환경 탈출 평가도구 공개

SandboxEscapeBench는 컨테이너 탈출을 시험하면서도 가상머신으로 실제 기반시설과의 격리를 유지하도록 설계됐다.

도쿄 시내와 고가철도가 내려다보이는 빈 세미나실의 긴 탁자 위에 노트북과 통역용 헤드셋이 놓여 있고, 한쪽에는 알아볼 수 없는 도식이 그려진 화이트보드가 서 있다. AI 생성 이미지

AISI는 AI 에이전트의 격리환경 탈출 능력을 평가하는 SandboxEscapeBench를 오픈소스로 공개했다고 밝혔다.

AISI의 공개 설명문에는 컨테이너를 보안이 강화된 가상머신 안에서 실행하는 이중 격리 구조가 적혀 있다. 모델이 컨테이너를 벗어나도 실제 기반시설과의 격리는 유지하도록 설계했다.

설명문에 따르면 평가에는 컨테이너의 구성·관리, 실행 환경, 운영체제 핵심부에 걸친 탈출 시나리오 18개를 포함했다. 단순한 설정 오류부터 여러 단계를 거치는 취약점 악용까지 시험 대상으로 정했다.

AISI는 평가한 고성능 모델들이 노출된 Docker 소켓이나 과도한 권한 같은 설정 오류를 이용해 반복적으로 탈출했다고 밝혔다. 가장 어려운 시나리오를 해결한 모델은 없었으며, 성공한 탈출은 모두 이미 공개된 취약점을 이용했다고 설명했다.

AISI는 모델 규모와 추론에 쓰는 토큰 예산이 커질수록 탈출 성공률도 높아졌다고 밝혔다. 작은 모델은 복잡한 취약점 악용 단계가 필요한 과제에서 성능이 크게 떨어졌다고 설명했다.

AISI는 앞서 AI 에이전트를 안전하게 평가하기 위한 플러그인 모음인 Inspect Sandboxing Toolkit을 공개했다고 설명했다. 이번 도구는 격리환경 자체를 벗어나는 능력을 평가하는 데 초점을 맞췄다고 밝혔다.

AISI는 보안과 평가의 무결성을 이유로 공개 범위를 알려진 취약점 유형에 기반한 시나리오로 제한했으며, 내부 평가용 시험 항목은 비공개로 남겼다고 밝혔다.