智快网
快讯 行业 产业 汽车 科技 AI+ 热点

微软与英伟达合作推出强大AI虚拟机Azure ND H100 v5 VM

2023-08-08来源:智快科技编辑:

【智快网】8月8日消息,微软与英伟达合作,推出了Azure ND H100 v5 VM虚拟机预览版。经过数月测试,该虚拟机于今日正式发布,旨在协助企业更高效地处理生成式人工智能任务。

据了解,ND H100 v5 VM是迄今为止Azure中更强大且高度可伸缩的AI虚拟机系列。该虚拟机采用了多项创新技术,包括8块NVIDIA H100 Tensor Core GPU,通过下一代NV Switch和NV link 4.0相互连接。在无阻塞胖树网络中,每个GPU搭载400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand和每VM 3.2Tb/s的性能。此外,每个VM中的8块本地GPU之间通过3.8Tb/s对分割带宽的NV Switch和NV link 4.0进行互联。这样的配置使得AI模型的性能显著提升,相较上一代ND A100 v4 VM,性能有了明显提升。

此次推出的虚拟机还引入了第四代英特尔至强可扩展处理器和PCIE第5代主机到GPU互连技术,每个GPU的带宽达到64Gb/s。此外,新的虚拟机配备了16信道的4800 MHz DDR5内存。所有这些技术的结合,使得Azure ND H100 v5 VM成为强大的AI虚拟机,能够更高效地处理生成式AI任务。

据智快网了解,新的虚拟机使用NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络。目前,该虚拟机仅限于美国东部和西部的Azure企业访问。微软计划在明年为其虚拟机添加数十万块新的GPU,以进一步提升其性能和可扩展性。

除了正式宣布Azure虚拟机推出外,微软还宣布扩展其Azure OpenAI服务,新增加拿大东部、美国东部2(East United States 2)、日本东部和英国南部地区。现有的Azure OpenAI服务客户已超过11000名,本季度平均每天吸引100名新客户。这一显著的增长证明了微软AI服务在满足企业独特需求方面所带来的价值和可扩展性。

微软补充称,ChatGPT AI平台最强大的版本GPT-4也将适用于新的Azure OpenAI服务区域,为用户提供更强大的人工智能体验。这将为企业和开发者带来更多可能性,推动人工智能技术的不断创新与应用。

AMD携手合作伙伴共推AI PC发展 锐龙8040系列领航中国市场
【智快网】3月22日消息,AMD在昨日盛大举办的AI PC创新峰会上,携手众多合作伙伴、媒体及行业领袖,共同揭示了其在中国AI PC生态系统的强劲发展势头,致力于将前沿的AI计算技术带给广大消费者。AMD首席执行官Lisa Su

2024-03-22