스토리 추적 · 발행됨 · AI
연구진, RoCoKV 시험서 추론 속도 향상 보고
첫 항목 2026-11-20 14:00 · 마지막 항목 2026-11-20 14:00 · 항목 1건
타임라인1
- 2026-11-20 14:00RoCoKV: Accelerating LLM Inference Serving through Uncertainty and Redundancy Aware KV Cache Compression
arXiv cs.CL · rss.arxiv.org
본지 기사1