속보02 / IT
transformers v5.20.2 입력 결함 수정
generate 과정에서 일부 입력이 원래 타입을 잃어 멀티모달 모델에 문제를 일으키던 결함을 고친 패치다.

Hugging Face의 transformers가 10월 20일 v5.20.2를 공개했다. 릴리스 노트에 따르면 이번 패치는 멀티모달 모델에 문제를 일으키던 입력 타입 결함을 고쳤다.
문제는 prepare_inputs_for_generation 안에서 일어났다. 일부 입력이 원래 타입을 잃는 현상이었다. 릴리스 노트는 그 결과를 "leading to problems with multimodal models"라고 적었다.
릴리스 노트의 커밋 목록에서 이 수정은 #49731로 올라 있다. generate의 입력 딕셔너리 형 변환을 고친 커밋이다.
릴리스 노트 목록에는 #49688도 있다. bfloat16에서 전문가 병렬을 쓸 때 전문가 그래디언트가 영이 되던 문제를 고쳤다. 조건은 ep_size가 fsdp_size보다 작은 경우다.
시각언어모델(VLM) 쪽 수정은 #49677이다. 릴리스 노트에 따르면 텍스트 입력만 보고하던 모델이 입력 모달리티를 선언하게 됐다. #49684는 eager_mask에서 호스트와 장치 사이 복사를 피하도록 바꿨다.
호환성. 릴리스 노트는 호환성을 깨는 변경이나 이전 절차를 따로 적지 않았다.
영향을 받은 멀티모달 모델의 구체적인 목록은 릴리스 노트에 나오지 않는다.