> 自媒体 > (AI)人工智能 > 微软发布最强生成式 AI 虚拟机 扩大 Azure OpenAI 服务范围
微软发布最强生成式 AI 虚拟机 扩大 Azure OpenAI 服务范围
来源:PConline太平洋科技
2023-08-11 20:09:00
231
管理

【太平洋科技资讯】早前,微软与英伟达宣达成合作,发布了Azure ND H100 v5 VM虚拟机预览版。经过数月的测试后,微软在今日正式推出了这款虚拟机,并宣布扩展了其Azure OpenAI服务。

ND H100 v5 VM是Azure迄今为止最强大和高度可伸缩的AI虚拟机系列。该虚拟机支持的按需配置可达8至上千个通过Quantum-2 InfiniBand网络互连的NVIDIA H100 GPU,从而显著提高了AI模型的性能。相较于上一代的ND A100 v4 VM,这款虚拟机包含了一些创新技术。

首先,它搭载了8块NVIDIA H100 Tensor Core GPU,通过下一代NV Switch和NV Link 4.0进行互连。其次,在无阻塞胖树网络中,每个GPU搭载了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每个虚拟机的性能达到了3.2Tb/s。此外,每个虚拟机中的8块本地GPU之间通过3.8Tb/s的对分割带宽的NV Switch和NV Link 4.0进行互联。此外,该虚拟机还采用了第四代英特尔至强可扩展处理器,以及PCIE第5代主机到GPU的互连,每个GPU的带宽为64Gb/s。最后,它还搭载了16信道的4800 MHz DDR5内存。

这款新的虚拟机使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand网络,目前仅限于美国东部和西部Azure企业访问。微软表示,他们正在努力在明年为其虚拟机添加数十万块新的GPU。

除了推出这款Azure虚拟机,微软还宣布扩展其Azure OpenAI服务,在加拿大东部、美国东部2、日本东部和英国南部地区上线,ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

微软表示,Azure OpenAI服务的客户已经超过11000名,本季度平均每天吸引100名新客户。这一显著的增长证明了他们的服务为渴望利用人工智能潜力满足其独特需求的企业带来了价值和可扩展性。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
关于作者
国务院环卫工..(普通会员)
文章
500
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40335 企业收录2981 印章生成193486 电子证书831 电子名片53 自媒体26177

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索