Sglang
科技人工智能
Cloudflare修复GLM-5.3模型跨请求KV缓存暴露漏洞
2026年9月，安全研究人员披露了Cloudflare Workers AI平台上GLM-5.3模型存在的租户隔离缺陷，该问题导致部分用户的长上下文请求中意外包含其他用户的数据 。这一跨请求KV缓存暴露漏洞的影响期间为2026年8月27日至9月9日，最终确认共有155个响应受到影响，这些请求的提示词长度均超过681,…
科技人工智能
"榨"出硅的极限：AI企业如何提升GPU利用率
在芯片短缺的背景下，AI行业正将焦点转向充分挖掘现有GPU的潜力。卡内基梅隆大学研究发现，GPU整体上有近20%的执行时间和约11%的能耗被浪费在等待上，推理场景问题更为突出——Azure Code负载有65%能耗消耗在空转上，OpenAI Chat类请求达52%。一台NVIDIA GB200 NVL72机柜采购成本…