微软正式上线最强生成式AI虚拟机、扩展AzureOpenAI服务

2023-08-08 09:24:16 来源: IT之家 阅读量:14828   

,微软今年 3 月和英伟达合作,宣布推出 Azure ND H100 v5 VM 虚拟机预览版;经过数月的测试之后,微软今天正式推出该虚拟机,帮助企业更高效处理生成式 AI 任务。

IT之家此前报道,ND H100 v5 VM,是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。

该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:

  • 8 块 NVIDIA H100 Tensor Core GPU,通过下一代 NV Switch 和 NV Link 4.0 互连。

  • 在无阻塞胖树网络中,每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

  • 每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。

  • 第四代英特尔至强可扩展处理器。

  • PCIE 第 5 代主机到 GPU 互连,每个 GPU 带宽为 64Gb / s。

  • 16 信道的 4800 MHz DDR5 内存。

新的虚拟机使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络,当前仅限于美国东部和西部 Azure 企业访问。

微软补充说,公司正在努力在明年为其虚拟机添加数十万块新的 GPU。

微软正式宣布该 Azure 虚拟机之外,还宣布扩展其 Azure OpenAI 服务,在加拿大东部、美国东部 2、日本东部和英国南部地区上线。

微软表示 Azure OpenAI 服务客户已经超过 11000 名,本季度平均每天吸引 100 名新客户。

这一显著的增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

微软还补充说,ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

相关阅读:

《微软 Azure ND H100 v5 VM 虚拟机预览发布:采用 8 至上千个 NVIDIA H100 Tensor Core GPU》

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

精选 导读

大摩:苹果产量或超预期增长,预计Q1业绩有“惊喜”

摩根士丹利分析师KatyHuberty指出,苹果本季度iPhone产量可能超预期增长,因为交货周期正在下降到“更正常的水平”。该分析师预计苹...

发布时间: 2021-12-23 17:04
行情   2021-12-23

中金:维持石四药集团跑赢行业评级目标价5.8港元

中金发布研究报告称,维持石四药集团“跑赢行业”评级,保持2021/22年归母净利润预测7.9/11.64亿元不变,目标价5.8港元。报告中称...

发布时间: 2021-12-23 17:03
行情   2021-12-23

实探中装建设元宇宙合作方鸿蒙时代:与华为无关已搬离注册地

12月22日,深交所对中装建设发布关注函,要求说明公司是否存在“楼宇智能大数据信息处理、AI可视化、元宇宙应用、智能建造系统、区块链等技术”...

发布时间: 2021-12-23 17:02
行情   2021-12-23

“疫”线女将:眼里有光心中有爱

“疫”线女将:眼里有光心中有爱题:“疫”线女将:眼里有光心中有爱曾灯光璀璨、游人如织的边陲小城因新冠疫情的再次暴发按下“暂停键”。内蒙古自治...

发布时间: 2021-12-23 16:48
要闻   2021-12-23

联通网络智能运维产品研发招标:华为、中软等11家企业入围

中国联通日前正式公布网络智能运维产品研发招标结果,华为、中软、软通动力、亚信科技等11家企业入围。传统网络故障的被动处理方式,从故障感知到信...

发布时间: 2021-12-23 16:35
酷玩   2021-12-23

热点 推荐

小米12Pro自研智能动态刷新率演示视频公布:支持新技能“滑动变速”,更

今日上午,小米手机官方表示,小米自研智能动态刷新率,是第二代低功耗2K屏幕的创新体验,第一次让小米12Pro拥有了滑动变速的新技能。小米表示...

发布时间: 2021-12-23 16:31
酷玩   2021-12-23

增速惊人!鸿蒙用户量半年突破2.2亿

C114讯12月23日下午消息在今日举办的华为动机旗舰新品发布会上,华为常务董事、消费者BGCEO、智能汽车解决方案BUCEO余承东公布了鸿...

发布时间: 2021-12-23 16:26
酷玩   2021-12-23

用户群聊从线上走到线下他趣成年轻群体社交困境破局者

伴随当下工作和生活节奏越来越紧凑,婚恋、交友等社交需求逐渐成为年轻人的刚性需求。为满足日益提升的社交需求,他趣用户从线上延伸到线下,通过组织...

发布时间: 2021-12-23 14:59
机器人   2021-12-23

京东会展云“云上服贸会”项目入选中国信通院“2021年数字孪生城市典型案

近日,2022中国信通院ICT+深度观察报告会隆重举办,京东会展云技术支持的中国国际服务贸易交易会数字平台项目入选“2021年数字孪生城市典...

发布时间: 2021-12-23 14:56
机器人   2021-12-23

华为Mate9手机推送鸿蒙HarmonyOS2.0.0.140:新增桌面

华为Mate9手机开始推送鸿蒙HarmonyOS2.0.0.140更新。更新包1优化了音量等基础体验,并新增了桌面图标放大功能。更新包2修复...

发布时间: 2021-12-23 14:41
机器人   2021-12-23
bd9