首页 > 科技 >

使用英伟达H100 GPU,微软推出全新 ND H100 v5 虚拟机

发布时间:2023-03-14 09:33:49来源:
微软于今天宣布加强和英伟达的合作,将 GPU 从此前的 A100 升级到 H100,推出专门针对人工智能开发的全新的 ND H100 v5 虚拟机。

微软表示该虚拟机主要面向需要整合或开发人工智能的企业,附该虚拟机配置如下:

 

  •  

    8 块英伟达 H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互连

     

  •  

    在非阻塞(non-blocking)的胖树(Fat-Tree)架构网络下,每块 GPU 的

     

  •  

    NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s,每台虚拟机可以达到 3.2Tb / s。

     

  •  

    通过 NVSwitch 和 NVLink 4.0,每台虚拟机内的 8 个本地 GPU 之间的对分带宽为 3.6TB / s。

     

  •  

    采用英特尔第 4 代 Xeon Scalable 处理器

     

  •  

    使用 PCIe Gen5 连接 GPU,每个 GPU 带宽为 64GB / s

     

  •  

    16 通道 4800MHz DDR5 DIMM

     

 

微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务,而本次虚拟机是该服务的补充,它允许第三方通过 Azure 访问聊天机器人技术。

(责编: admin)

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。