속보04 / 정책
AISI, AI 정렬 연구 60개 과제 지원 결정
OpenAI와 Microsoft가 새 파트너로 참여하며 연구 지원 총규모는 £27m으로 늘었다.

AISI는 LawZero 등이 수행할 AI 정렬 연구 60개 과제의 지원을 결정했다고 밝혔다(글로벌). 다음 공모는 여름에 열겠다고 발표했다.
AISI 공고문은 AI 정렬을 인간의 의도를 따르고 감독과 통제를 유지하는 AI 개발 문제로 설명했다(글로벌). 모델의 능력과 자율성이 커지면 기존 방법이 통하지 않을 수 있다는 문제를 제시했다.
AISI는 지원금 £12m을 추가해 총규모를 £27m으로 늘렸다고 발표했다(글로벌). 새 파트너로 OpenAI와 Microsoft 등이 합류했으며, OpenAI의 출연액은 £5.6m이라고 밝혔다.
AISI는 관련성·실행 가능성·혁신성 등을 평가해 지원 과제를 선정했다고 밝혔다(글로벌). 선정 분야는 수학·학습이론·경제학·인지과학 등에 걸친다.
AISI는 LawZero의 Scientist AI가 정보 신뢰성 판단과 추론 점검을 다룬다고 설명했다(글로벌). 가설을 제안하는 구성 요소와 검증하는 구성 요소를 나눠 추론을 살펴보기 쉽게 만드는 구상이다.
AISI는 여름에 시작할 다음 공모의 정확한 접수 날짜를 공개하지 않았다(글로벌).