相位敏感性

科技人工智能

字节 Seed 团队发现 DeepSeek 模型长上下文性能波动问题

字节跳动 Seed 团队在 arXiv 发表研究论文,揭示了 DeepSeek 模型采用的分块 KV 缓存压缩技术存在的性能缺陷。该技术通过固定步幅将连续标记窗口压缩为更少缓存条目,但研究发现这一方案存在相位敏感性问题,导致长上下文检索性能出现周期性变化。