• 设为首页 设为首页 收藏 收藏本站
  • IT业界
    您现在的位置: 首页 > IT业界 > 重磅!PerfXLM+推理框架支持DeepSeek全系列模型!
  • 重磅!PerfXLM+推理框架支持DeepSeek全系列模型!

  • 发布时间:2025-02-07 13:12:33  来源:互联网   评论:0
  • 4.09K
  • 澎峰科技最新消息,公司自主研发的PerfXLM+推理框架已基于海光DCU,完成对DeepSeek全系列模型的深度适配与优化,AI大模型应用效能大幅提升。

    PerfXLM+推理框架通过底层架构优化,全面适配海光DCU算力平台,为DeepSeek模型提供了高性能支持。针对DeepSeek-R1-Distill系列等模型,框架结合海光DCU的并行计算能力,可显著降低资源消耗,在同等硬件条件下进一步提高了推理效率。

    另外,海光DCU作为关键“媒介”,采用兼容度最高的GPGPU通用加速计算架构,可支撑DeepSeek模型直接运行,大幅减少底层适配工作量,技术团队仅需聚焦模型精度验证与持续性能优化,即可实现高效部署。

    PerfXLM+推理框架目前已覆盖自然语言处理、多模态理解等核心场景,客户可基于海光DCU集群实现模型快速迭代与弹性扩展,满足各行各业的实时推理需求。

    并且,PerfXLM+推理框架通过模型量化、算子融合等核心技术,正在进一步挖掘海光DCU的异构计算潜力,为企业提供更高质量、低成本的AI推理服务。

    随着“框架+硬件+模型”的全栈能力构建完毕,国产厂商或将加速打破企业AI部署门槛。

    图片1.png

    上一篇:助推专利转化 发展新质生产力 第二届全国专利密集型产品展区开展
    下一篇:最后一页
  • 网罗天下
  • 重磅!PerfXLM+推理框架支持D
  • 助推专利转化 发展新质生产力
  • BOE(京东方)重磅亮相京东显示
  • 1799元起!OPPO K12正式开售
  • 超长续航十面耐摔,OPPO K12
  • AI时代 重塑未来 | 罗格朗
  • Best of Esports电竞高阶联
  • BOE(京东方)隆重召开创立30
  • 深耕自主行驶域控制器,联宝科
  • BOE(京东方)携手创维推出全球
  • 首页 | IT业界 | 互联网新闻 | IT评论 | IT人物 | 软媒动态 | IT趣事 | IT产经 | 通信 |
  • Copyright @ 2012 http://www.itwnews.com, All Rights Reserved 版权所有: 冀ICP备10016941
    欢迎广大网友来本网站投稿,网站内容来自于互联网或网友提供 客服QQ:527351258