Intel Vision 2022 : Intel 推出 Habana Gaudi2 与 Greco AI 处理器, Gaudi2 训练性能高于 NVIDIA A100 两倍

Intel 在 Intel Vision 大会宣布旗下 AI 深度学习处理器团队 Habana Labs 推出第二代 AI 深度学习处理器 Habana Gaudi2 与 Habana Greco ,两款产品皆基于 7nm 製程(听起来像是

Intel 在 Intel Vision 大会宣布旗下 AI 深度学习处理器团队 Habana Labs 推出第二代 AI 深度学习处理器 Habana Gaudi2 与 Habana Greco ,两款产品皆基于 7nm 製程(听起来像是委託台积电生产?), Habana Gaudi2 是锁定训练应用,号称在 ResNet-50 机器视觉模型和 BERT 自然语言处理模型的训练吞吐量高于 NVIDIA A100 80GB 两倍,而 Habana Greco 则是针对推论所规划的架构。

Intel 开放提供既有 Habana 客户使用 Gaudi2 处理器,同时与 Supermicro 合作,将在今年内推出 Supermicro Gaudi2 Training Server 伺服器,以及与 DDN 合作打造与之配合的 DDN AI400X2 储存方案。

照片中提到了Gaudi2 delivers ~2x vs. A100 on popular Vision & NLP models、ResNet50 Training Throughput、BERT Training Throughput,包含了图、组织、字形、牌、图

▲ Gaudi2 是专为推论开发的加速器产品,锁定机器视觉、自然语言类的 AI 训练应用

Habana Gaudi2 延续前一代的 Gaudi 架构,借助自 16nm 提升到 7nm 製程,同时提升记忆体与网络架构,还加入压缩媒体与谢仔仔系统的整合媒体引擎,使整体性能提升,另外借助封装技术将频宽达 2.45TB/s 的 96GB HBM2E 记忆体整合,并具备 24 个 100GbE RoCE RDMA NIC 供使用标準乙太网络进行扩充。

Habana Gaudi2 是作为瞄準 NVIDIA GPU 型加速技术的训练加速器产品,标榜更具经济效益且训练速度更快,尤以包括自驾车训练、医疗影像、产线检测以及自然语言等最具效益;另外 Intel 也提供 SynapseAI 软体,针对深度学习模型进行最佳化,可简化自主流 GPU 训练的模型进行移植的程序,仅需简单添加几行代码,但亦提供完整的进阶开发功能。

原创文章,作者:普拉斯,如若转载,请注明出处:https://www.53moban.com/369.html

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息