开发者 Divyansh Agrawal 发布了名为 nesformer 的项目，该项目将 NES 6502 CPU 的逻辑编译进 Qwen3.5 模型的权重中 。这一实现基于 `Qwen3_5ForCausalLM` 检查点，所有权重均由编译器计算得出，未进行人工训练 。项目采用 MIT 许可证，并继承了此前 Di…
技术作者Jamie Dborin在Hacker News发表文章，详细阐述了Kimi模型所采用的Kimi Delta Attention（KDA）线性注意力机制的完整推导过程。文章从标准softmax注意力机制出发，通过逐步去除规范化步骤得到线性注意力形式，进而引入delta规则以解决线性注意力中的干涉问题。