【导语:随着中国企业在 AI 领域不断缩小与美国顶尖实验室的差距,字节跳动正训练一个超大规模 AI 模型。据透露,其参数多达 10 万亿,有望接近 Anthropic 最先进的 Mythos 系统,引发行业关注。】
据三位知情人士消息,字节跳动正在开展一个参数高达 10 万亿的 AI 模型的早期训练工作。这个规模相当惊人,其参数规模是目前已发布的最大中文模型——Moonshot 的 Kimi K3 的三倍,并且有望接近 Anthropic 最先进的 Mythos 系统。
其中一位知情人士指出,该模型目前正处于预训练阶段。在 AI 模型的训练过程中,预训练是非常重要的一环,通常需要三到六个月的时间。如果这一阶段进展顺利,后续还会进行微调并发布。不过,具体的模型规模要到后期才能最终确定。
编辑观点:字节跳动此举展现了其在 AI 领域的雄心,10 万亿参数模型若成功推出,将提升其在全球 AI 竞争中的地位,也为行业发展注入新动力。