확인한 것만 기록한다.
2026-11-23 · 00:34 KST / 15:34 UTC한국어 | EN검색 /

속보08 / 업계

Microsoft, AI 에이전트를 내부자 위험으로 규정

외부 공격 방어용으로 내놓은 Project Perception을 사내 통제에 적용한다는 구상이지만 요금과 감독 성능은 공개되지 않았다.

해 질 무렵 사내 보안 관제실에서 뒷모습의 담당자가 여러 모니터에 표시된 자동화 소프트웨어의 행동 기록을 살피고, 유리벽 너머로 빈 사무실 책상들이 보이는 장면. AI 생성 이미지

Microsoft는 10월 19일 공식 블로그에서 사내 AI 에이전트를 내부자 위험으로 규정했다. 회사는 7월 공개한 Project Perception을 이 에이전트 통제에도 쓸 수 있다고 발표했다.

이 시스템이 모으는 신호는 신원·데이터·클라우드·엔드포인트·네트워크·실행 환경이라고 발표문에 적혀 있다. 이 신호로 사내 에이전트를 찾아 신원·컨테이너·정책·권한을 부여하도록 설계했다. 에이전트가 시도하는 행동의 위험도도 같은 신호로 동적으로 계산하게 했다.

감독 방식. Microsoft는 감시 역할의 Guardian Agents가 모든 행동을 실행 전에 조정해야 한다고 밝혔다. 이들은 그린·블루 에이전트와 함께 위험 상승에 실시간으로 대응하는 역할을 맡았다. 보안 담당자가 사건의 경위와 원인을 되짚도록 추적 기능도 제공한다고 덧붙였다.

회사 보안 업무를 이끄는 Hayete Gallot은 글에서 최첨단 모델을 "cannot be trusted"(신뢰할 수 없다)라고 적었다. 출처를 가리지 않은 평가이며, 결과 달성 위주 훈련이 보상 해킹(목표 지표만 채우는 행동)을 낳는다고 설명했다. 사내 에이전트는 권한이 과도한 경우가 많고 핵심 절차에서 결정까지 내린다고 짚었다.

회사는 7월 레드·블루·그린 에이전트 팀으로 외부 AI 공격에 맞서는 Project Perception을 발표했다. 이번 글은 같은 보안 기술 묶음을 사내 에이전트 관리에 곧바로 적용할 수 있다고 적었다. 다음 과제로는 입출력 토큰을 넘어 사고 과정 토큰까지 보는 모델 투명성을 꼽았다.

Microsoft는 Project Perception으로 당장 대응을 시작할 수 있다고 안내했다. 회사는 요금과 감독 성능 수치를 공개하지 않았다.