科技资讯 科技是第一生产力!
网站导航
  • 首页
  • 安卓系统
  • 科技
  • 下载
  • 影视
  • 游戏
  • 软件
  • 趣闻
  • 科学
  • 教程
  • 汽车
  • IT
  • 手机
首页 > 摩尔线程开源vLLM-MUSA

摩尔线程开源vLLM-MUSA

2024
11-06

加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI NEW

zhiyongz 人工智能 围观323次 0 条评论
加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI快科技11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示,正努力围绕自主研发的统一系统架构GPU、MUSA软件平台,构建完善好用的MUSA应用生态。vLLM是一个高效且易用的大模型推理和服务框架,支持创新的PagedAttention内存管理、连续批处理请求、CUDA/HIP图的快速模型执行、CUDA核心优化、分布式推理支持等,可显著提高大语言模型(LL... Read More >
摩尔线程开源vLLM-MUSA 国产GPU AI
首页 1 最后
  • 最近发表

    • 胰腺癌新药传来重大突破:数据显示九成患者病情得到控制
    • 宝马iX5上演续航奇迹:电量归零竟还能跑35公里!
    • 英特尔前CEO怒斥行业自满:摩尔定律没死 AI能效必须猛增10000倍!
    • AMD官方没有Mod来凑!大力水手5神级工具发布:神经渲染提速60%
    • 特斯拉Model 3被爆改成11座电动小巴:超充、FSD还能继续用
    • ASML总裁急了:切断光刻机售后也没用 中国工厂依然能造芯
    • 旗舰神U再战一年!曝华为Mate 90 Air搭载麒麟9020:Mate 80同款Soc
    • 黄仁勋据称将创办新的半导体公司 或将筹资500亿用于创业
    • 特斯拉Cybercab最新航拍图曝光: 车顶方形面板疑为集成星链
    • Win10一跑就蓝屏!内存检测一片红:病根可能在CPU
  • 标签

    特斯拉比亚迪马斯克华为AIOpenAI黑神话:悟空苹果王者荣耀台积电问界M9小米SU7余承东三星智驾IntelWindows 11DeepSeek人工智能天玑9400外星人小米汽车iPhone华为Mate 70蔚来
返回顶部  

备案号:蜀ICP备2021014123号

免责声明:如有文章侵权,请联系QQ:78260551 我们第一时间会删除侵权文章,谢谢!本站所有文章来源于网络或投稿,如涉投资、交易等和钱有关的请认真识别,建议下载国家反诈骗APP,天上不会掉馅饼,切记,切记!

| Power By Z-BlogPHPTheme By 淘宝运营