“AI热潮”最大赢家之一、英伟达(dá)背(bèi)后的那个身(shēn)穿黑色皮(pí)衣的男人又来了。
前脚才交出亮眼(yǎn)业(yè)绩狂拉股价(jià),英伟达CEO黄仁勋后脚就(jiù)在昨日的COMPUTEX大会(huì)上宣布,“我们(men)已到达生成(chéng)式AI引爆(bào)点。从此,全(quán)世界(jiè)的每个角落,都会有计算需求。”
如今英伟达掌握着全(quán)球多家科技公司“算(suàn)力命脉”,而在(zài)这场大(dà)会上(shàng),黄仁勋激情演讲2个(gè)小(xiǎo)时,甩出了多(duō)项重(zhòng)磅新发布,包括算力“杀(shā)器”DGX GH200超级计算机、针对游(yóu)戏的(de)ACE代工服务(wù)、MGX服务(wù)器(qì)规(guī)范等内容。
算力(lì)“杀(shā)器”:DGX GH200超级计(jì)算机+GH200超(chāo)级芯片(piàn)
先看(kàn)“集成了(le)英伟达最先(xiān)进加速计(jì)算和网络技术(shù)”的DGX GH200人工智(zhì)能超级(jí)计算机(jī)。
这款超算专为大(dà)规模生成(chéng)式AI的负载(zài)所设(shè)计,由256块GH200超(chāo)级芯片组成,拥有(yǒu)1 exaflop超凡(fán)AI性能、144TB内存(cún)(是英(yīng)伟达(dá)目前DGX A100系统的近500倍)、150英里光纤、2000多个风扇(shàn)。
DGX GH200重达40000磅(bàng)(约(yuē)合18143千克(kè)),堪比四只(zhǐ)成(chéng)年大象的(de)体(tǐ)重。
预计DGX GH200将于今年年底投入问世,英伟达(dá)暂(zàn)未公布(bù)价格,而谷歌(gē)云、Meta与(yǔ)微软(ruǎn)将是首(shǒu)批用户。
同时(shí),英伟达(dá)也正在打造自家基于DGX GH200的大型(xíng)AI超(chāo)级计(jì)算机(jī)NVIDIA Helios,以支持其研究和开发团队(duì)的工作(zuò)。其中采(cǎi)用4个(gè)DGX GH200系统(tǒng)、1024颗(kē)Grace Hopper超级芯片(piàn),每个(gè)都(dōu)将与(yǔ)英伟(wěi)达Quantum-2 InfiniBand网(wǎng)络连接(jiē),带宽(kuān)高达(dá)400Gb/s,将于今年(nián)年底(dǐ)上线。
值得一(yī)提的是(shì),黄仁勋透露,DGX GH200集成的GH200 Grace Hopper超级芯片已进入全面生产。
“拉(lā)踩”CPU:成(chéng)本、功耗、处理数据量不如GPU
在(zài)本次大会上,黄仁勋(xūn)还“拉踩”了一波CPU。他(tā)从功耗、处理数据量(liàng)等(děng)方(fāng)面,指出(chū)使用GPU胜过CPU。
举例(lì)来(lái)说,花(huā)费1000万美元,可以建设一个有(yǒu)960颗CPU的数据(jù)中心,其可处理1X LMM(大语言(yán)模型)数(shù)据量,需(xū)要11GWh功耗;
同样成本下,也可以建设(shè)一个(gè)有48个GPU的数据中心(xīn),其(qí)可处理44X LLM数据量(liàng),仅(jǐn)需要(yào)3.2GWh功耗。
若只(zhǐ)想(xiǎng)处(chù)理1X LMM数据量,则只(zhǐ)需40万美(měi)元(yuán),便可(kě)拥有一个搭载2个GPU、功耗仅0.13GWh的数据中心。
“买越多,省越多(The more you buy, the more you save)。”黄仁勋再次表示。
同时(shí),他也列出了数据(jù)中心(xīn)成本(běn)公(gōng)式:数据(jù)中心总持有(yǒu)成本(běn)=f[成本(běn)(芯(xīn)片、系统、硬件生态系统)、吞(tūn)吐量(GPU、Algo软件、网(wǎng)络、系统软件、软件生(shēng)态系统)、使用率(Algo Lib, 软件生态系统)、采购运(yùn)营、生命(mìng)周期最(zuì)佳化、电力]。
ACE代工服(fú)务(wù):用AI激(jī)活(huó)NPC生命
游戏一直(zhí)是备受(shòu)关注的(de)一大(dà)AI应用(yòng)落(luò)地领域。英伟达也在大会(huì)上宣布,推出面向游戏的定(dìng)制AI模(mó)型(xíng)代(dài)工服务NVIDIA Avatar Cloud Engine(ACE)。
它能赋予(yǔ)非(fēi)玩家角色(NPC)更智能(néng)且不断进化的对(duì)话(huà)技能,中(zhōng)间件、工具和(hé如何加入如新直销模式 如新是合法直销吗)游戏开发者可使用(yòng)它来构建和部署定制的语音、对话和(hé)动画AI模型。
其(qí)中包括(kuò):英伟(wěi)达NeMo,使(shǐ)用专有数(shù)据构建(jiàn)、定制和部署语言模(mó)型;英(yīng)伟达Riva,用于(yú)自动语音识别和文本转(zhuǎn)语音实(shí)现(xiàn)实(shí)时语音对(duì)话;英伟达Omniverse Audio2Face,用于即时创建(jiàn)游戏(xì)角色(sè)表情动(dòng)画(huà),以(yǐ)匹配(pèi)任(rèn)何语音轨道。
开发人(rén)员可选(xuǎn)择集(jí)成(chéng)整个(gè)NVIDIA ACE for Games解决方案(àn),也可(kě)仅使用需要(yào)的组件。
新参考工(gōng)作流程:帮助(zhù)建设数字化(huà)智(zhì)能(néng)工厂
黄仁(rén)勋(xūn)表示,全球电子制造商正在使(shǐ)用(yòng)一种全新的综合(hé)参考工作流程推进工(gōng)业(yè)数字化工作,该工作流程结(jié)合(hé)了英伟达用于生(shēng)成式AI、3D协作、仿真和自主(zhǔ)机(jī)器的技术,包括:
英(yīng)伟达Omniverse,其连接了(le)顶级计算机辅助设计应(yīng)用以及生成式AI的(de)API和前沿框架;用于(yú)模拟和(hé)测(cè)试(shì)机器人的英伟达Isaac Sim应用程序;英伟达Metropolis视(shì)觉AI框(kuāng)架,用于自(zì)动光学检(jiǎn)测。
同时,黄(huáng)仁(rén)勋现场展示了(le)一个完全数字化的智能工厂(chǎng)的演示。
目(mù)前富士康工(gōng)业互(hù)联网、宜鼎(dǐng)国际、和硕、广(guǎng)达(dá)和纬创正在使用这一(yī)参考工(gōng)作流(liú)程,具体用例(lì)包括电(diàn)路(lù)板质保检(jiǎn)测点自(zì)动化、光学检测自动化、建设虚拟工厂、模拟协作(zuò)机器人、构(gòu)建及运(yùn)营数字孪生等(děng)。
MGX服务器规(guī)范:快速高效构建百(bǎi)余种服务器配置
英伟达发布NVIDIA MGX服务器规范,为
MGX支持英伟(wěi)达全(quán)系(xì)列GPU、CPU、DPU和(hé)网络适配器、各(gè)种x86、完(wán)整软件堆栈及Arm处理器,还可(kě)集成到云(yún)和企业数据中心(xīn)中。
华(huá)硕、和(hé)硕(shuò)、QCT、超微(wēi)(Supermicro)等都将采用MGX构建下一代加(jiā)速计算机,可(kě)将(jiāng)开发成本(běn)削减多达3/4,并将(jiāng)开发时间缩短2/3至仅需(xū)6个月。
其中,QCT和超微基(jī)于MGX的设计将(jiāng)于8月面世。超微昨日公(gōng)布的ARS-221GL-NR系统将(jiāng)采用Grace CPU,而QCT的S74G-2U系统将采用(yòng)Grace Hopper。
推出Spectrum-X网络平台 构建(jiàn)超大规模生成式AI如何加入如新直销模式 如新是合法直销吗超(chāo)级计算机(jī)Israel-1
另(lìng)外,黄(huáng)仁勋宣布推出NVIDIA Spectrum-X网络平台,旨在提高基(jī)于以太(tài)网的AI云(yún)的性能和效率。
相比传统(tǒng)以太网结构(gòu),Spectrum-X可实现1.7倍的(de)整(zhěng)体AI性能(néng)和能效提升,并具有高(gāo)度通用性,可用于各种AI应用(yòng)。它使用完全基于标准的以(yǐ)太网,并可与(yǔ)基于以太网的堆栈互操(cāo)作。该平台支持256个200Gb/s端口,通过单个(gè)交换机连接,或在(zài)两层leaf-spine拓扑中提供16000个端(duān)口,以(yǐ)支持AI云增长(zhǎng)和扩展,在保(bǎo)持(chí)性能(néng)的同(tóng)时(shí)最(zuì)大限度减少网络(luò)延迟。
全球领先云计算提供商正在采用Spectrum-X平台扩展(zhǎn)生(shēng)成式(shì)AI服务,而Spectrum-X、Spectrum-4交换(huàn)机、BlueField-3 DPU等(děng)已在戴尔(ěr)、联想等系(xì)统制造商处提供(gōng)。
此(cǐ)外,作为Spectrum-X参(cān)考设计的蓝图和测试(shì)平台,英(yīng)伟达正构建一台超大(dà)规模生成式AI超(chāo)级计算(suàn)机Israel-1。这台AI超算价值数亿美元,将采(cǎi)用(yòng)戴尔PowerEdge XE9680服务器(qì)、英(yīng)伟达HGX H100超级计算平台(tái)、内置(zhì)BlueField-3 DPU和Spectrum-4交(jiāo)换机的(de)Spectrum-X平(píng)台。
结语
“40年(nián)来,我(wǒ)们创造了PC、互联网、移动、云,现在是(shì)人(rén)工智能时代。你(nǐ)会创造(zào)什么?不管是什么,都要像我们一样追赶它。要奔跑(pǎo),不要走。要么为(wèi)了食物奔跑,要么作为食物奔(bēn)跑。”
在5月27日(rì)的台湾大学发表了毕(bì)业典礼演讲上,黄(huáng)仁勋再(zài)次强(qiáng)调了掌握(wò)AI技术的重要性(xìng):很多人(rén)担心,AI会抢走(zǒu)自己的工(gōng)作。但真正(zhèng)会(huì)抢走(zǒu)你饭碗(wǎn)的,是掌(zhǎng)握了(le)AI技(jì)术(shù)的人(rén)。
他表示,从各方面来看,AI的兴盛(shèng)是计算机产业的再(zài)生(shēng)契机。在下个十年,我们的(de)产业将使用新型AI电脑,取代价值(zhí)万(wàn)亿美元(yuán)的传统电脑。
而从昨(zuó)日大会上黄仁勋的展示中,人工智(zhì)能(néng)时代的(de)未来轮廓似乎已逐渐浮现。
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了