속보02 / IT
Amazon Quick, 에이전트 작업 별도 모델이 검토

AWS가 11월 5일 Amazon Quick의 에이전트 승인 기능 Smart Approvals를 설명했다. 기본으로 켜지는 기능이어서 회사는 관리자에게 사람 승인 대상 점검을 권고했다.
AWS에 따르면 사용자 설정이 Ask each time인 작업만 검토된다. 다른 통제가 사람 승인을 요구하거나 정책이 거부한 작업은 대상에서 빠진다. 별도 모델인 분류기는 작업을 사용자 요청과 대조해 자동 승인하거나 되돌린다.
호환성. AWS에 따르면 기본 거부가 설정된 프로필은 기능을 명시적으로 허용해야 한다. 사용자가 직접 끄면 대화와 예약 실행 전체에 적용된다. 이 경우 계정 수준 설정으로도 다시 켜지지 않는다.
자동 승인은 검토한 작업과 매개변수에 한해 한 번만 유효하다고 AWS는 밝혔다. 가져온 콘텐츠 속 지시로 에이전트를 돌리는 간접 프롬프트 주입도 점검된다. 다만 "Model review can still make mistakes"라고 회사는 적었다.
실행 환경. AWS는 검토 콘텐츠가 모델 학습에 쓰이지 않는다고 밝혔다. 승인 관련 권한 갱신은 AWS CloudTrail에 남지만 실행 증거는 되지 못한다. 이벤트 기록은 90일 보관되므로 더 긴 조사에는 별도 추적을 구성하면 된다.
AWS는 보안 경고 연구를 들어 확인 요청이 반복되면 주의가 떨어질 수 있다고 설명했다. 민감 데이터를 옮기는 작업은 커넥터 작업 권한으로 사람 승인을 강제하면 된다. 기능 확대 전에는 시범 팀에서 외부 발송 같은 고위험 사례를 시험하도록 권고했다.
분류기로 쓰인 모델의 이름과 오판율은 AWS 글에 나오지 않는다.