英偉達(dá)針對(duì)AI市場(chǎng)推出雙GPU產(chǎn)品H100 NVL 單卡顯存容量94GB
原標(biāo)題：英偉達(dá)針對(duì) AI 市場(chǎng)推出雙 GPU 產(chǎn)品 H100 NVL，最高使用 188GB HBM3 顯存
3 月 22 日消息，英偉達(dá)在 GTC Spring 2023 主題演講中，針對(duì)不斷增長(zhǎng)的 AI 市場(chǎng)，推出了全新的雙 GPU 產(chǎn)品 H100 NVL。H100 NVL 在頂部配備了 3 個(gè) NVLink 連接器，使用兩個(gè)相鄰的 PCIe 顯卡插槽。
英偉達(dá)表示在運(yùn)行大型語言模型(LLM)時(shí)，常規(guī)顯卡的顯存無法駕馭龐大的數(shù)據(jù)流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 顯存，單卡顯存容量 94GB。
H100 NVL 的功耗略高于 H100 PCIe，每個(gè) GPU 為 350-400 瓦(可配置)，增加了 50W。IT之家從報(bào)道中獲悉，總性能實(shí)際上是 H100 SXM 的兩倍：FP64 為 134 teraflops，TF32 為 1979 teraflops，F(xiàn)P8 為 7916 teraflops，INT8 為 7916 teraops。
內(nèi)存帶寬也比 H100 PCIe 高很多，每個(gè) GPU 為 3.9 TB / s，總和為 7.8 TB / s(H100 PCIe 為 2 TB / s，H100 SXM 為 3.35 TB / s)。
來源：IT之家
IT時(shí)代網(wǎng)(關(guān)注微信公眾號(hào)ITtime2000，定時(shí)推送，互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對(duì)IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。
熱門文章
精彩評(píng)論
小何華為現(xiàn)在牛的不只是設(shè)備商了，，華為的手機(jī)現(xiàn)在也是全球銷量不錯(cuò)，國(guó)內(nèi)也算是老大了，之前用小米，，現(xiàn)在都改華為了。。產(chǎn)品確實(shí)不錯(cuò)。- 小何三星手機(jī)在中國(guó)還有市場(chǎng)嗎？看看現(xiàn)在滿大街的vivo和oppo ，，華為，，小米線下店，，就是知道三星的市場(chǎng)基本沒有了。。
來自: 彭博社：六大中國(guó)手機(jī)品牌在全球挑戰(zhàn)三星蘋果霸主地位--IT時(shí)代網(wǎng)
- 小何滴滴打車現(xiàn)在也沒有之前那么火了，，補(bǔ)貼也少了。。
來自: 【人物】滴滴創(chuàng)始人程維回顧與Uber競(jìng)爭(zhēng)：中國(guó)互聯(lián)網(wǎng)從來沒有輸過--IT時(shí)代網(wǎng)
- 小何今日頭條要把騰訊的地方各頻道給霸占了。。
來自: 少年頭條對(duì)壘中年騰訊：解局兩代互聯(lián)網(wǎng)公司商業(yè)之戰(zhàn)--IT時(shí)代網(wǎng)