IBM 将在其公共云中提供英特尔 Gaudi 3 AI 芯片

IBM 将在其公共云中提供英特尔 Gaudi 3 AI 芯片

IBM公司宣布计划将其公有云平台上提供Intel的Gaudi 3人工智能处理器。Gaudi 3定位为英伟达H100图形处理器的替代品,后者是迄今为止最受欢迎的AI加速器。Gaudi 3基于台积电的5纳米节点技术,由两种计算模块构成:MMEs模块专门用于矩阵乘法计算,而TPCs模块则是针对其他类型的计算进行优化的。

Gaudi 3芯片包括64个TPC模块,是前一代的三倍多,同时拥有四倍于前代的MMEs模块。这种芯片的设计优化了并行计算能力,有助于提高AI模型的处理速度。Gaudi 3的逻辑电路由一个120GB的内存池支持,其时钟速率高于Intel前代AI处理器的RAM。在处理BF16数据时,Gaudi 3的顶级速度可达每秒1835万亿次浮点运算(TFLOPS)。

除了提升性能外,Gaudi 3还具有内置的以太网模块,可用于将AI服务器中的Gaudi 3处理器连接起来,并增加独立服务器之间的连接。Intel将芯片中以太网网络链接的带宽翻倍至每秒200吉比特。

IBM计划在明年年初通过IBM Cloud Virtual Servers for VPC提供Gaudi 3,同时也会将其加入到IBM的watsonx产品套件中,后者包含用于构建、部署和执行与AI模型相关的任务的软件工具。

来源:siliconangle

© 版权声明

相关文章

暂无评论

暂无评论...