作者: 半岛官方下载入口 来源: 日期:2024-07-27 12:22
AIGC走红,大算力AI芯片顺理成章成为衡量各家AIGC业务能力的最重要标尺之一,得到空前关注。
英特尔Gaudi 2面世 性能不输H100还有中国“特供版”
AIGC走红,大算力AI芯片顺理成章成为衡量各家AIGC业务能力的最重要标尺之一,得到空前关注。为此,芯片龙头大厂也在大算力AI芯片领域加速产品与技术布局。
今日,英特尔在京举办“AI产品战略及Gaudi 2新品发布会”,除介绍英特尔在AI领域的产品布局之外,还发布了新一代深度学习加速器Habana Gaudi2,进一步强化在大模型算力领域的竞逐。
性能不弱于H100?
AIGC空前热潮下,大算力AI芯片领域竞争正在加强,英特尔Habana Gaudi 2的发布无疑将这一轮竞争推上新的高峰。英特尔公司执行副总裁、数据中心与人工智能事业部总经理Sandra L. Rivera表示,AI正在颠覆人们的生活,部署AI需要异构芯片的加持。
英特尔提供多元化硬件和软件产品技术组合,可将各种AI负载的推理和训练性能提升至新的水平,以满足对速度的需求。
此发布会上,英特尔重点推出了包括第四代至强可扩展处理器与Habana Gaudi 2深度学习加速器在内的产品组合。特别是Habana Gaudi 2深度学习加速器,根据Habana Labs首席运营官Eitan Medina的介绍,其可以为大语言模型和生成式AI提供非常优异的性能。
在MLPerf 去年11月发布的基准测试中,Gaudi2在计算机视觉和自然语言处理方面的表现优于英伟达 A100,在计算机视觉方面几乎与H100不分伯仲。
据悉,Gaudi 2由英特尔旗下公司Habana Labs开发。
Habana成立于2016年。2019年12月被英特尔收购后,一直致力于为数据中心客户提供用于本地和云基础设施系统的,高性能、高效率的深度学习训练与推理解决方案。
此前,英特尔即已推出第一代的Gaudi加速器,Gaudi2采用了与第一代 Gaudi相同的架构。按照产品路线图,2024年英特尔还将推出Gaudi 3的更新一代产品。而据英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立透露,在此基础上,英特尔将于2025年左右推出整合Gaudi加速器在内的新一代GPU,同时提高软件适配性与AI处理能力。
新产品将在用户产品迭代时进行更好的开发支持。
此外,基于一些外部因素,英特尔本次发布的产品还将提供对华销售的“特供版”。
但“特供版”与原版在性能上相差不多,仅在网口等方面进行了适当减配。
更加灵活的产品组合
本次发布会上,英特尔还特别强调了产品组合的重要性。目前,业内普遍认为生成式AI和大语言模型仅适宜在GPU上运行。
然而,最新的数据显示,基于英特尔产品组合的AI解决方案,能够为在封闭生态系统中寻求摆脱当前效率与规模限制的客户提供极具竞争力的选择。
Sandra L. Rivera表示:“最新由MLCommons发布的MLPerf结果验证了使用英特尔至强可扩展处理器和英特尔Gaudi深度学习加速器,可以在AI领域为客户带来更高的性价比。其中,至强的内置加速器使其成为在通用处理器上运行大量AI工作负载的理想解决方案,而Gaudi则为大语言模型和生成式AI提供了极具竞争力的优异性能。此外,英特尔的可扩展系统配备了经过优化的、易于编程的开放软件,可降低客户和生态伙伴在数据中心部署从云到智能边缘各种基于AI的解决方案的门槛。
”
陈葆立表示,至强处理器更适合处理中小模型以及推理运算,而Gaudi 2则适用于千亿参数 以上的大模型训练。通过适当的产品组合方案,可以给用户提供更多、更灵活的选择。
。本文来源:半岛官方下载入口-www.ecu-dim.com