一位技术开发者在Hacker News上发布了将35kb大规模预提示词从OpenAI/Anthropic等前沿LLM提供商迁移到自托管Ollama系统的技术笔记。在这一迁移过程中,他遇到了多项性能瓶颈。该35kb预提示词在128GB AMD Ryzen系统上立即消耗了总上下文窗口的14%。由于本地模型的上下文窗口限制…
Claude Code之父Boris Cherny近日在YC访谈中分享了关于AI产品迭代的新观点。他建议开发者每六个月应当删除系统提示词、工具和harness代码,通过逐行删除并测试的方式,采用消融实验找到模型真正需要的指令。这一建议源于Anthropic在7月24日发布的Claude 5上下文工程规则中,对Clau…