女人久久久,最近更新中文字幕在线,成人国内精品久久久久影院vr,中文字幕亚洲综合久久综合,久久精品秘?一区二区三区美小说

原創(chuàng)生活

國(guó)內(nèi) 商業(yè) 滾動(dòng)

基金 金融 股票

期貨金融

科技 行業(yè) 房產(chǎn)

銀行 公司 消費(fèi)

生活滾動(dòng)

保險(xiǎn) 海外 觀(guān)察

財(cái)經(jīng) 生活 期貨

當(dāng)前位置:科技 >

GPU供不應(yīng)求下,英偉達(dá)推出超級(jí)芯片GH200鞏固AI算力壟斷地位|硅基世界

文章來(lái)源:鈦媒體APP  發(fā)布時(shí)間: 2023-08-09 13:33:49  責(zé)任編輯:cfenews.com
+|-

英偉達(dá)創(chuàng)始人兼CEO黃仁勛(Jensen Huang)

受AI(人工智能)大模型熱潮影響,算力需求大增。在核心GPU(圖像處理器)加速計(jì)算芯片供不應(yīng)求下,英偉達(dá)加速推出新一代算力更快的芯片以持續(xù)鞏固“大模型軍火庫(kù)”地位。

北京時(shí)間8月8日晚23點(diǎn),在美國(guó)洛杉磯Siggraph計(jì)算機(jī)頂級(jí)會(huì)議上,英偉達(dá)CEO黃仁勛發(fā)布一系列專(zhuān)為大模型打造的最新算力產(chǎn)品。


【資料圖】

其中包括英偉達(dá)最新 AI 處理器GH200 Grace Hopper Superchip芯片,專(zhuān)為處理世界上最復(fù)雜的生成工作負(fù)載而生,今年5月起生產(chǎn),預(yù)計(jì)將于2024年第二季度交付;同而且英偉達(dá)還推出一種專(zhuān)為簡(jiǎn)化模型部署打造的新的統(tǒng)一軟件工具包NVIDIA AI Workbench,以及搭載全新L40S Ada GPU的新款服務(wù)器等。

“圖形和人工智能密不可分,圖形需要人工智能,AI 也需要圖形。”黃仁勛在演講中表示,我們用 AI 重塑計(jì)算機(jī)圖形的同時(shí),AI 也在徹底重塑 GPU。

事實(shí)上,隨著ChatGPT引發(fā)AI大模型需求熱潮,作為加速計(jì)算領(lǐng)導(dǎo)者,英偉達(dá)今年以來(lái)股價(jià)累計(jì)漲幅已超過(guò)210%,近三個(gè)月內(nèi)漲幅就達(dá)56%,過(guò)去7年股價(jià)增長(zhǎng)超40倍,目前市值沖破1.1萬(wàn)億美元。公開(kāi)數(shù)據(jù)顯示,英偉達(dá)占據(jù)全球80%以上的GPU服務(wù)器市場(chǎng)份額,同時(shí)擁有全球91.4%的企業(yè)GPU市場(chǎng)份額。

據(jù)投資者服務(wù)公司穆迪今年5月份發(fā)布的一份研究報(bào)告,英偉達(dá)在未來(lái)幾個(gè)季度將實(shí)現(xiàn)“無(wú)與倫比”的收入增長(zhǎng),其數(shù)據(jù)中心業(yè)務(wù)的收入將超過(guò)競(jìng)爭(zhēng)對(duì)手英特爾和AMD的總和。但摩根士丹利策略分析師斯坦利(Edward Stanley)在最新報(bào)告中稱(chēng),根據(jù)歷史背景,英偉達(dá)的股價(jià)飆升處于“后期”階段,摩根士丹利認(rèn)為這標(biāo)志著 AI 行業(yè)的“泡沫”。

GPU持續(xù)緊缺下,如今,英偉達(dá)產(chǎn)品價(jià)格已同比上漲超30%,英偉達(dá)A800單卡現(xiàn)貨近13萬(wàn)元一顆,eBay上H100售價(jià)高達(dá)4.5萬(wàn)美元。同時(shí),OpenAI的GPT-4大模型需要至少2.5萬(wàn)張英偉達(dá)A100 GPU芯片,而該公司目前至少已擁有1000萬(wàn)顆GPU芯片。

正如黃仁勛常說(shuō)的,“你GPU買(mǎi)的越多,你越省錢(qián)”。主要原因是新的GPU產(chǎn)品能顯著提升加速計(jì)算,比CPU性能更強(qiáng)、算力更大、功耗更低。

此次,英偉達(dá)發(fā)布全球第一款HBM3e GPU芯片——NVIDIA GH200 Grace Hopper Superchip(超級(jí)芯片),擁有72核Grace CPU和4PFLOPS Hopper GPU組成,使用高達(dá)141GB的高帶寬內(nèi)存HBM3e,提供每秒5TB的帶寬,容量比H100 GPU高1.7倍、帶寬達(dá)1.55倍。產(chǎn)品可以用于任何大型語(yǔ)言模型,降低推理成本。

不僅如此,黃仁勛這次還宣布推出新一代GH200 Grace Hopper超級(jí)芯片平臺(tái),該平臺(tái)能夠連接并擴(kuò)展多個(gè)GPU,雙GH200系統(tǒng)配置內(nèi)存容量增加3.5倍,帶寬增加3倍,包括一臺(tái)具有144核基于A(yíng)rm Neoverse的Grace CPU、8 PFLOPS的AI 性能和282GB最新HBM3e高帶寬內(nèi)存技術(shù)的服務(wù)器。如果將連接到CPU的LPDDR內(nèi)存包括在內(nèi),那么整體集成1.2TB內(nèi)存容量。

據(jù)悉,超級(jí)芯片將成為新型服務(wù)器計(jì)算設(shè)計(jì)的核心,可以處理更多信息并更快地訪(fǎng)問(wèn)信息,尤其是 AI 訓(xùn)練數(shù)據(jù)龐大,急需加速卡實(shí)現(xiàn)計(jì)算,在A(yíng)MD、英特爾努力追趕下,英偉達(dá)正在加速鞏固起 AI 算力技術(shù)優(yōu)勢(shì)。如果芯片能夠一次性加載模型并更新它,那么 AI 訓(xùn)練速度就會(huì)得到提升,節(jié)省電力并加快整個(gè)過(guò)程。

GH200將在新的服務(wù)器設(shè)計(jì)中提供,GH200用高速互連技術(shù)將CPU和GPU兩顆die“粘”在一起,通信速率比PCIe Gen5快7倍,而且機(jī)架裝上NVIDIA BlueField-3 DPU和ConnectX-7網(wǎng)卡等產(chǎn)品,由256塊GH200組成的NVIDIA DGX GH200 SuperPod,擁有高達(dá)1EFLOPS的算力和144TB高速內(nèi)存,成為英偉達(dá)生成式AI時(shí)代的最新AI超級(jí)計(jì)算機(jī)。

據(jù)透露,英偉達(dá)計(jì)劃銷(xiāo)售兩種版本:一種版本兩個(gè)可以集成到系統(tǒng)中的芯片提供給客戶(hù),另一種是結(jié)合了兩種Grace Hopper設(shè)計(jì)的完整服務(wù)器系統(tǒng)。

英偉達(dá)透露,NVIDIA GH200芯片已經(jīng)于今年5月投入全面生產(chǎn),預(yù)計(jì)將在2024年第二季度交付基于該平臺(tái)的系統(tǒng)。

此外,英偉達(dá)還公布了諸多產(chǎn)品:

面向生成式AI和大模型開(kāi)發(fā)、數(shù)據(jù)科學(xué)等場(chǎng)景,英偉達(dá)推出搭載RTX6000 Ada GPU的全新NVIDIA RTX工作站,提供高達(dá)5828TFLOPS的AI性能和192GB的GPU內(nèi)存,預(yù)計(jì)今年秋季發(fā)貨。最新采用4nm定制版工藝的三款新的桌面Ada GPU NVIDIA RTX 5000、RTX 4500和RTX 4000,提供最新的AI、圖形和實(shí)時(shí)渲染技術(shù)。截至目前,RTX 5000現(xiàn)已上市,售價(jià)為4000美元,英偉達(dá)與擁有200萬(wàn)用戶(hù)的全球最大AI開(kāi)源社區(qū)Hugging Face合作,在未來(lái)幾個(gè)月內(nèi)平臺(tái)推出由NVIDIA DGX Cloud提供支持的“訓(xùn)練集群即服務(wù)”,以簡(jiǎn)化為企業(yè)創(chuàng)建新的和自定義生成式AI模型。推出NVIDIA AI Enterprise 4.0軟件,把DGX Cloud中的所有功能放到該軟件中,以及NVIDIA AI Workbench,將生成式AI模型打包放到任何終端設(shè)備或云端。具有生成式AI和OpenUSD的NVIDIA Omniverse虛擬現(xiàn)實(shí)技術(shù)實(shí)現(xiàn)升級(jí),用于跨工具構(gòu)建、模擬和協(xié)作,利用OpenUSD框架和生成式 AI優(yōu)化和增強(qiáng)3D流程,為企業(yè)提供新的基礎(chǔ)應(yīng)用程序和服務(wù)。據(jù)悉,上周英偉達(dá)宣布與Pixar、Adobe、Apple和Autodesk共同成立OpenUSD架構(gòu)聯(lián)盟。

英偉達(dá)表示,上述這些新品旨在將英偉達(dá)過(guò)去十年的所有創(chuàng)新——人工智能、虛擬世界、加速、模擬、協(xié)作等結(jié)合在一起。

“為了滿(mǎn)足生成式 AI 不斷增長(zhǎng)的需求,數(shù)據(jù)中心需要具有特殊需求的加速計(jì)算平臺(tái)?!秉S仁勛表示,“這就是世界數(shù)據(jù)中心迅速轉(zhuǎn)向加速計(jì)算的原因?!?/p>

黃仁勛再次在演講中重申,“生成式 AI 時(shí)代即將到來(lái),如果你愿意的話(huà),那將是 iPhone 時(shí)代”。

(本文首發(fā)鈦媒體App,作者|林志佳)

關(guān)鍵詞:

專(zhuān)題首頁(yè)|財(cái)金網(wǎng)首頁(yè)

投資
探索

精彩
互動(dòng)

獨(dú)家
觀(guān)察

京ICP備2021034106號(hào)-38   營(yíng)業(yè)執(zhí)照公示信息  聯(lián)系我們:55 16 53 8 @qq.com 關(guān)于我們 財(cái)金網(wǎng)  版權(quán)所有  cfenews.com