英特尔:为DeepSeek大模型提供优化工具 降低部署门槛

英特尔:为DeepSeek大模型提供优化工具 降低部署门槛

否认曾经 2025-02-02 实时报 11 次浏览 0个评论

  来源:环球网

  【环球网科技综合报道】近日,DeepSeek推出了一款名为Janus Pro的先进AIGC(人工智能生成内容)模型,该模型以其卓越的性能和高精度引起了行业的广泛关注。

  2月2日,方面表示,英特尔® Gaudi 2D AI加速器针对Janus Pro进行了优化,为AI开发者提供了以更低的成本和更高的效率部署复杂任务的可能性,满足了行业对于推理计算能力的需求。

英特尔:为DeepSeek大模型提供优化工具 降低部署门槛

  据了解,DeepSeek Janus Pro首次采用了统一的Transformer架构,打破了传统AIGC模型依赖多路径视觉编码的限制,实现了理解与生成任务的一体化支持。通过优化训练策略和扩大模型规模,Janus Pro在文生图等功能上展现了显著的性能提升和稳定性,并推出了10亿参数和70亿参数两个版本,进一步巩固了其在性能和精度方面的竞争力。

  值得一提的是,Janus Pro在统一Transformer架构下,文生图模型的吞吐量不再仅仅依赖于加速器的高算力,而是充分利用HBM内存的高带宽和大容量。借助英特尔® Gaudi 2D提供的2.45TB/秒的高带宽和96GB HBM大容量内存,Janus Pro在处理批处理任务时表现出了显著的吞吐性能提升,能够大幅缩短了任务处理时间。结合英特尔Optimum-Habana框架的优化,仅需约10秒即可生成16张高质量图片,极大提升了文生图任务的效率。

  此外,DeepSeek的蒸馏模型也得到了至强和Gaudi平台的支持,有助于降低总体拥有成本(TCO),促进AI技术的普及。目前,英特尔的AI产品组合已针对超过500个开源AI模型提供支持,包括DeepSeek、Llama 3.1和通义千问等,同时致力于构建开放生态系统,为企业AI应用的实现提供坚实基础。(勃潺)

转载请注明来自个人开发测试用例,本文标题:《英特尔:为DeepSeek大模型提供优化工具 降低部署门槛》

每一天,每一秒,你所做的决定都会改变你的人生!
Top
网站统计代码