확인한 것만 기록한다.
2026-11-23 · 00:33 KST / 15:33 UTC한국어 | EN검색 /

속보02 / IT

AWS, 자체 운영 언어 모델용 분산 캐시 스킬 소개

공유 캐시를 배포하기 전에 KVTrace로 도입 효과를 추정할 수 있다.

AWS는 11월 21일 언어 모델 자체 운영팀을 위한 분산 캐시 스킬을 소개했다. Amazon ElastiCache에 캐시를 배포하려면 Valkey 9.1 이상이 요구된다.

AWS 블로그에 따르면 Kiro, Claude Code, OpenAI Codex에서 이 스킬이 지원된다. 모델이 입력을 처리하면 키·값(KV) 상태가 생성된다. 이 상태는 공유 캐시에 저장돼 여러 서버에서 재사용된다.

AWS는 KVTrace로 배포 전 캐시 도입 효과를 추가 요금 없이 추정할 수 있다고 밝혔다. 수집한 캐시 사용 기록은 용량별로 재생된다.

실행 환경. AWS는 EFA 네트워크 인터페이스를 배포 요건으로 명시했다. 이 인터페이스에는 원격 직접 메모리 접근(RDMA) 쓰기 지원이 요구된다. 공유 캐시는 cache.i8ge.48xlarge 노드에 배포된다.

AWS는 캐시가 서버마다 분리된 환경을 예로 들었다. 이전 대화를 넘겨받은 서버에 해당 상태가 없으면 입력이 다시 계산된다.

AWS는 블로그에서 스킬 자체의 라이선스 조건을 밝히지 않았다.