Kv缓存

科技人工智能

LRU缓存策略超越现有研究预期,多种优化方案均未能改进

研究者基于68,266条真实Claude Code会话请求和23,608条Mooncake请求进行了模拟实验,探索是否能在生产环境中的LRU缓存策略基础上实现性能突破。结果表明,三种优化方案的尝试均以失败告终,这与当前关于KV缓存的学术文献所暗示的LRU策略改进空间存在显著差异。