原標(biāo)題:微軟推出 ND H100 v5 虛擬機(jī):采用英偉達(dá) H100 GPU,滿足企業(yè) ChatGPT 生成式 AI 需求
3 月 14 日消息,微軟于今天宣布加強(qiáng)和英偉達(dá)的合作,將 GPU 從此前的 A100 升級(jí)到 H100.推出專門針對(duì)人工智能開發(fā)的全新的 ND H100 v5 虛擬機(jī)。

微軟表示該虛擬機(jī)主要面向需要整合或開發(fā)人工智能的企業(yè),IT之家附該虛擬機(jī)配置如下:
8 塊英偉達(dá) H100 Tensor Core GPU,通過下一代 NVSwitch 和 NVLink 4.0 互連
在非阻塞(non-blocking)的胖樹(Fat-Tree)架構(gòu)網(wǎng)絡(luò)下,每塊 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以達(dá)到 400 Gb / s,每臺(tái)虛擬機(jī)可以達(dá)到 3.2Tb / s。
通過 NVSwitch 和 NVLink 4.0.每臺(tái)虛擬機(jī)內(nèi)的 8 個(gè)本地 GPU 之間的對(duì)分帶寬為 3.6TB / s。
采用英特爾第 4 代 Xeon Scalable 處理器
使用 PCIe Gen5 連接 GPU,每個(gè) GPU 帶寬為 64GB / s
16 通道 4800MHz DDR5 DIMM
微軟先前在 Azure OpenAI 服務(wù)中宣布了 ChatGPT 相關(guān)服務(wù),而本次虛擬機(jī)是該服務(wù)的補(bǔ)充,它允許第三方通過 Azure 訪問聊天機(jī)器人技術(shù)。
來源:IT之家
IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000,定時(shí)推送,互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有,未經(jīng)授權(quán),轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年,直通硅谷,專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。
小何
小何
來自: 彭博社:六大中國(guó)手機(jī)品牌在全球挑戰(zhàn)三星蘋果霸主地位--IT時(shí)代網(wǎng)
小何
來自: 【人物】滴滴創(chuàng)始人程維回顧與Uber競(jìng)爭(zhēng):中國(guó)互聯(lián)網(wǎng)從來沒有輸過--IT時(shí)代網(wǎng)
小何
來自: 少年頭條對(duì)壘中年騰訊:解局兩代互聯(lián)網(wǎng)公司商業(yè)之戰(zhàn)--IT時(shí)代網(wǎng)