3t级参数

科技人工智能

Kimi K3开源之后,顶尖模型开源迎来可能性

北京智谱清言科技有限公司开源了大语言模型K3,成为全球参数规模最大的开源模型。K3总参数量达2.8万亿,相比前代K2增长167%,激活参数增长220%。该模型的上下文长度由128K扩展至1M,提升8倍,在相同计算量下实现了2.5倍的扩展效率提升。