开发者Niz推出了Pulse Local，一款Mac预算管理应用，其特色在于所有AI模型均在用户本地机器上运行。应用无需用户创建账户，也不会向外部服务器上传任何数据。用户可通过CSV方式导入银行数据，应用利用微调的Qwen3 0.6B模型和4B检查模型来处理关于支出的各类问题。
Y Combinator S25批次初创公司Magnitude推出了一款自优化推理引擎，专门为本地Agent运行设计。该引擎采用设备端编译调优、混合分页注意力等技术，在多个平台上相比llama.cpp实现了显著的性能提升。
欧洲前沿AI实验室Desert Ant Labs宣布推出18个本地运行的小型专用AI模型，可在手机、平板等设备上离线执行任务，无需调用云API。这些模型涵盖音频转录、音质增强和隐私脱敏等多项功能，每月100万活跃设备以下免费使用，不收取token费用。