腾讯发布新一代大模型“混元Turbo”：推理成本下降50% 效率提升100%

摘要： 9月5日消息，在腾讯全球数字生态大会上，腾讯集团副总裁、云与智慧产业事业群COO、腾讯云总裁邱跃鹏宣布发布新一代的大模型——腾讯混元Turbo。新一代的大模型基于MoE（Mixtu...

9月5日消息，在腾讯全球数字生态大会上，腾讯集团副总裁、云与智慧产业事业群COO、腾讯云总裁邱跃鹏宣布发布新一代的大模型——腾讯混元Turbo。

新一代的大模型基于MoE（Mixture of Experts）架构设计，相较于前一代产品混元Pro，在推理效率上实现了翻倍，达到了100%的提升，同时在推理成本上实现了显著降低，降幅达到50%。

此外，混元Turbo在解码效率方面也表现出色，有着20%的提升。

价格方面，混元Turbo相较于前一代产品降低了50%，输出价格为0.05元/千tokens，输入价格为0.015元/千tokens。

据了解，在中文大模型测评基准SuperCLUE发布《中文大模型基准测评2024年8月报告》中，混元新一代大语言模型预览版（Turbo-Preview）在理科、文科均居于第一名。

Hard任务上腾讯混元Turbo-Preview取得74.33分，是国内唯一超过70分的大模型，与ChatGPT-4o有微小差距。

目前，腾讯内部已有众多业务及场景接入了混元大模型，包括腾讯元宝、腾讯云、QQ、微信读书等。

腾讯旗下协作SaaS（软件即服务）产品也已全面接入腾讯混元大模型。