> 财经 >

英特尔面向中国市场推出全新Gaudi2处理器:总内存带宽2.4TB/s、

来源:IT之家 时间:2023-07-12 10:23   阅读量:6143   

感谢IT之家网友 西窗旧事 的线索投递!

,英特尔今日面向中国市场推出全新 Gaudi2 处理器,主要应用于加速 AI 训练及推理。

IT之家汇总该款处理器参数信息:

  • 24 个可编程 Tensor 处理器核心

  • 21 个 100Gbps以太网接口

  • 96GB HBM2E 内存容量

  • 2.4TB / 秒的总内存带宽

  • 48MB 片上 SRAM

  • 集成多媒体处理引擎

英特尔 Gaudi2 处理器的架构重点在于高效扩展,以满足大规模语言模型及生成式 AI 模型的需求;该处理器的每张芯片集成了 21 个专用于内部互联的 100Gbps 以太网接口。

在 Stable Diffusion 训练上,英特尔 Gaudi2 处理器展示了从 1 张卡至 64 张卡近线性 99% 的扩展性,从 256 个加速器到 384 个加速器可实现接近线性的 95% 扩展效果。

英特尔与浪潮信息合作的 AI 服务器 NF5698G7 就是基于 Gaudi2 处理器,NF5698G7 是专为面向生成式 AI 市场创新开发的新一代 AI 服务器,该服务器内部集成了 8 颗 Gaudi2 加速卡 HL-225B。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

关键词:

  
  • 2021年全国茶叶内销总量突破230万吨,内销总额达30

    2021年全国茶叶内销总量突破230万吨,内销总额达3000亿元
  • 九物互联:聚焦工业互联网,生产有价值的工业APP

    九物互联:聚焦工业互联网,生产有价值的工业APP