提示词优化

科技人工智能

开发者分享大规模预提示词迁移至本地Ollama的技术挑战与优化方案

一位技术开发者在Hacker News上发布了将35kb大规模预提示词从OpenAI/Anthropic等前沿LLM提供商迁移到自托管Ollama系统的技术笔记。在这一迁移过程中,他遇到了多项性能瓶颈。该35kb预提示词在128GB AMD Ryzen系统上立即消耗了总上下文窗口的14%。由于本地模型的上下文窗口限制…

科技人工智能

Claude Code之父:AI产品需要定期"解缚",系统提示词保质期仅半年

Claude Code之父Boris Cherny近日在YC访谈中分享了关于AI产品迭代的新观点。他建议开发者每六个月应当删除系统提示词、工具和harness代码,通过逐行删除并测试的方式,采用消融实验找到模型真正需要的指令。这一建议源于Anthropic在7月24日发布的Claude 5上下文工程规则中,对Clau…