头版Folia Daily Briefing
← 返回头版
科技人工智能

Castform推出平台:开源模型成本低廉性能与GPT-5.6-Sol相当

Castform推出一个新平台,使开发者能够通过强化学习后训练开源模型,在检索任务上以100倍更低的成本击败GPT-5.6-Sol。[1]该平台与Neon数据库集成,将企业内部数据转化为训练任务,使小规模开源模型能够匹配或超越闭源前沿模型的性能。[1]

根据相关信息,一次典型的GPT-5.6-Sol多轮搜索请求需耗时超过10秒,成本约为0.03美元。[1]相比之下,通过该平台优化的开源模型大幅降低了推理成本和延迟。[1]Castform平台使用强化学习后训练技术,使开发者无需处理机器学习和GPU的底层细节。[1]为了应对突发工作负载,该平台与Neon的Lakebase Search功能集成,利用动态计算扩展。[1]Neon的分支功能为每个推断创建隔离的数据库状态。[1]


AI模型强化学习开源模型检索增强成本优化