확인한 것만 기록한다.
2026-11-23 · 00:34 KST / 15:34 UTC한국어 | EN검색 /

속보04 / 정책

AISI, AI 방어체계 우회하는 자동 공격법 공개

AISI는 시험 계정의 제재 제외 조건과 별도 수동 공격 사용을 함께 명시했다.

AI 보안 시험실에서 얼굴이 보이지 않는 연구원이 반복 요청의 일부가 분류기에 차단되고 일부는 통과하는 과정을 두 모니터로 살펴본다. AI 생성 이미지

AISI는 Anthropic과 OpenAI의 방어 체계를 우회한 자동 공격법 BPJ를 공개했다고 밝혔다.(영국)

AISI는 유해 요청을 가려내는 별도 분류기를 공격 대상으로 삼았다고 설명했다. 차단 여부만 알려주는 환경에서 BPJ가 여러 질문에 통하는 우회 문구를 찾았다고 AISI는 밝혔다.(영국)

AISI는 공격 후 Anthropic의 Constitutional Classifiers에서 평균 점수 25.5%를 기록했다고 밝혔다. OpenAI의 GPT-5 입력 분류기에서 평균 점수 75.6%를 기록했다고 AISI는 밝혔다.(영국)

AISI 설명문 각주에는 점수가 답변의 특정 기술 세부사항 유무를 평가한 값이라고 적혀 있다. 주 모델의 답변 거부를 피하는 데는 사람이 찾은 별도 공격을 사용했다고 명시했다.(영국)

AISI는 시험 계정에 이용 정지 같은 제재가 적용되지 않았다고 밝혔다. 일반 계정에서는 반복적으로 유해 요청이 탐지되면 이용이 정지될 수 있다는 단서를 달았다.(영국)

AISI는 개별 요청만 검사하는 방어 대신 여러 요청의 패턴을 함께 감시하라고 권고했다. 하나의 방어 장치에 의존하지 않는 다층 방어도 제안했다.(영국)

AISI는 공격 문자열과 코드를 공개하지 않았다. 두 회사가 BPJ 대응책을 개발했으며, 방어 체계 개발과 시험을 위한 협력을 이어가고 있다고 밝혔다.(영국)