本地部署
科技人工智能
开发者分享大规模预提示词迁移至本地Ollama的技术挑战与优化方案
一位技术开发者在Hacker News上发布了将35kb大规模预提示词从OpenAI/Anthropic等前沿LLM提供商迁移到自托管Ollama系统的技术笔记。在这一迁移过程中，他遇到了多项性能瓶颈。该35kb预提示词在128GB AMD Ryzen系统上立即消耗了总上下文窗口的14%。由于本地模型的上下文窗口限制…
科技数码硬件
小米 AI Cube 工程版迷你主机官宣：三芯协同架构支持大模型本地部署
小米在玄戒芯片技术沟通会上正式亮相了 AI Cube Prototype 迷你主机工程版。该产品采用玄戒 O3、玄戒 O100 和玄戒 D100 组成的三芯阵容，持续性能释放达 150W，支持 120B/3B 大模型本地部署。
科技创业公司
开发者分享Echologue：隐私优先的AI语音日记应用
一位开发者在Hacker News上分享了自己开发的应用Echologue，该应用旨在帮助用户克服坚持记日记的困难。这款应用以语音优先和隐私优先为核心设计理念，集成了AI对话、自动标签提取和意义提取等功能，同时支持语义检索能力，用户可以通过自然语言查询如"提醒我过去三个月的亮点和疯狂时刻"等内容。