本文作者:访客

骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

访客 2024-10-22 10:51:04 54704 抢沙发
骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革摘要: 凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要...

凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要的AI智能体,人们与手机之间的互动将围绕着个人需求展开,现有的App生态将产生巨大的变革。

骁龙8至尊版搭载第二代Oryon CPU和增强的高通HexagonNPU,利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。

结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

高通宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署。通过利用终端侧AI加速,降低运营成本,进一步扩展生成式AI在终端侧的应用和普及。

此外,智谱也是高通在大模型方面的合作伙伴,智谱的GLM-4V端侧视觉大模型会面向骁龙8至尊版进行深度适配和推理优化,支持多模态交互。

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享

发表评论

快捷回复:

评论列表 (暂无评论,54704人围观)参与讨论

还没有评论,来说两句吧...