加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI

加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI

11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示,正努力围绕自主研发的统一系统架构GPU、MUSA软件平台,构建...
  • 1
  • 共 1 页