01 / AI · 발표와 검증 · 분석
오픈AI, 위험 작업의 추가 출력 35초 내 차단
모델을 종료하지 않고 문제 작업의 실행 권한을 차단해 다른 연구를 유지하는 설계이다.

AI타임스는 오픈AI가 위험 작업의 추가 출력을 35초 내 차단하는 통제 시스템을 공개했다고 보도했다.
AI타임스 보도에 따르면, 모델이나 연구 프로그램 자체를 종료하지 않는 방식이다. 안전 문제에 대응할 때 연구 전체를 멈추는지 구분하는 대목이다.
같은 보도는 다른 연구에 영향을 주지 않도록 설계했다고 설명했다. 중단까지 걸리는 시간과 함께 차단의 범위가 이 설계를 읽는 기준이다.
추가 출력을 막는 권한 통제
AI타임스 보도에 따르면, 차단 대상은 문제가 발생한 작업의 실행 권한이다. 모델 자체의 종료와 작업에 부여한 권한의 차단을 구별한 구조이다.
같은 보도는 위험한 행동이나 보안 문제가 발견되면 대응하는 시스템이라고 설명했다. 대응의 목적은 해당 작업에서 추가 출력이 나오지 않도록 하는 것이다.
연구 작업을 추적하는 중앙 통제
AI타임스는 오픈AI가 공식 블로그에서 Control Room을 소개했다고 보도했다. 연구 인프라 전반에서 실행되는 작업을 추적하는 중앙 통제 시스템이다.
같은 보도에 따르면, 추적한 작업에 안전·보안 문제가 발생하면 해당 작업을 중단하는 방식이다. 이 설계의 초점은 연구를 이어가면서 문제가 발생한 작업의 권한을 끊는 데 있다.