확인한 것만 기록한다.
2026-11-23 · 00:20 KST / 15:20 UTC한국어 | EN검색 /

속보04 / 정책

인공지능안전연구소, 거부 정렬 제거 모델 평가 결과 비공개

연구소는 보고서 원문 대신 SHA-256 해시값을 공개했고, 원본과 변종의 유해 응답 차이는 드러나지 않았다.

연구기관 평가실의 긴 책상 위에 똑같은 컴퓨터 두 대가 화면을 카메라 반대쪽으로 돌린 채 나란히 놓여 있고, 방 끝에 연구원의 뒷모습이 흐릿하게 보인다. AI 생성 이미지

인공지능안전연구소는 11월 3일 안전 정렬을 제거한 오픈웨이트 AI 모델의 유해성 평가를 수행했다고 공지했다. 이는 세부 결과의 공개가 아닌 평가 수행 사실과 보고서 해시값의 공개에 해당한다.

공지에 따르면 평가 대상은 가중치를 공개한 GLM 5.3 Flash와 Qwen3.8 27B, 두 모델의 거부 정렬 제거 변종 2종이다. 거부 정렬은 유해한 요청에 응답을 거부하도록 학습시킨 안전 장치에 해당한다. 위험 유형은 사이버범죄와 시스템 침해, 허위정보, 화학·생물학적 위해, 불법행위, 괴롭힘, 기타 유해행위의 6개로 나눴다.

연구소는 원본 모델과 제거 변종에 같은 평가 조건을 적용해 유해 요청에 대한 응답을 비교했다고 밝혔다. 안전 정렬을 없앴을 때 유해 응답 생성이 어떻게 달라지는지 살피는 것이 평가 목적에 해당한다.

세부 결과는 공개 범위에서 빠졌다. 연구소는 유해 응답과 평가 정보의 악용을 막고 향후 평가의 신뢰성을 확보한다는 이유로 "세부 평가 결과를 비공개로 관리합니다"라고 공지했다.

대신 연구소는 평가보고서의 SHA-256 해시값을 공지에 실었다. 해시값은 문서가 바뀌었는지 대조하는 고유값으로, 공지는 보고서 특정 버전의 무결성 확인을 공개 목적으로 적었다.

원본과 변종의 유해 응답 차이와 해시값 대조 시점은 공지에 규정이 없다.