在持续已久的(de)“AI热潮”中,各(gè)家争相推出(chū)的大(dà)模(mó)型(xíng)、AI应用,都进一步推升了对算力(lì)狂(kuáng)热的需求。本周已有报道指出英伟达后续对AI顶(dǐng)级(jí)规格芯片需求明显(xiǎn)看增,紧急向台积电追加预订先进(jìn)封装(zhuāng)产能(néng)。
需求飙涨下,英伟达GPU价格自(zì)然也是水涨船高。据集微(wēi)网(wǎng)消息(xī),有代理(lǐ)商(shāng)透(tòu)露(lù),英(yīng)伟达A100价(jià)格从去(qù)年12月开始上涨(zhǎng),截至今(jīn)年4月上(shàng)半月,其5个月价格累(lèi)计涨幅达(dá)到37.5%;同期A800价格累(lèi)计(jì)涨幅(fú)达(dá)20.日本男生姓名大全霸气,日本男生的姓名0%。
同时,英伟(wěi)达GPU交货周期也被拉长,之前拿货周(zhōu)期(qī)大约为(wèi)一(yī)个(gè)月,现在基本都(dōu)需要三个月或更长。甚至(zhì),部分新订(dìng)单“可能要(yào)到12月才能交付”。
供需的(de)巨大鸿沟面前,在这一情形之下,众(zhòng)多客户也不得不“勒紧腰带(dài)”。上述文章指出,国内可用于训练(liàn)AI大(dà)模型的A100大约(yuē)有4万-5万个,供应相当吃紧(jǐn),一些云服务厂商已严(yán)格限制内部使用这些先进(jìn)芯片,以将其保留至需要强力运算的任务。
值得(dé)一提的是,类似的事(shì)情在微软内部也早(zǎo)已发生。3月已(yǐ)有外媒报(bào)道指出,微软(ruǎn)内部(bù)陷入AI服务器硬件短缺(quē)的窘(jiǒng)境,不日本男生姓名大全霸气,日本男生的姓名(bù)得不对AI硬件资源采取(qǔ)“配额供给”机制(zhì),限制公司内(nèi)部其他AI工具开(kāi)发团(tuán)队的资(zī)源用量(liàng)。
拉(lā)长时间线来看,有(yǒu)GPU业内人(rén)士指出,实际上(shàng)从(cóng)去年6月起,英伟达就已宣布上调A100价格,涨幅(fú)20%左右,渠道商在加紧囤货。至于(yú)英伟达(dá)A800,在ChatGPT火爆之前就已(yǐ)出现涨(zhǎng)价(jià),但反映(yìng)到市场则有一(yī)定的滞后性,赶上ChatGPT爆(bào)火(huǒ)这一时间点,更放大了这一现象。
“英伟达GPU涨价与ChatGPT有一定(dìng)的关联性,且交货周期(qī)也受到(dào)了连带的影响,导致市场上出现了众多炒卡(kǎ)的行(xíng)为。”
此外,在海外电商平台上,英伟(wěi)达新旗舰级GPU H100的价格在4月中旬就(jiù)已炒到了超过4万美元。
随(suí)着(zhe)如今各家科技巨头争相(xiāng)推出自家大模(mó)型,GPU需求(qiú)量仍在(zài)持(chí)续攀(pān)升。OpenAI指出,AI大模型(xíng)要持(chí)续取(qǔ)得(dé)突破,所需(xū)要消(xiāo)耗的(de)计算(suàn)资源每3~4个(gè)月就要翻一倍,资金(jīn)也需要通过指数级(jí)增(zēng)长获得匹配。
据财通证券测算,2023/2024/2025年大(dà)模型有望为GPU市场贡献69.88/166.2/209.95亿美元增(zēng)量。
其中在训练端,以(yǐ)目前主流的(de)训练端(duān)GPU英伟(wěi)达A100测算,假设ASP为1万(wàn)美元,202日本男生姓名大全霸气,日本男生的姓名3/2024/2025年全球训练端GPU需求市场规模预计分别为0.74/2.00/4.07亿(yì)美元;
在推理(lǐ)端,以目前(qián)英(yīng)伟达用于推理(lǐ)端(duān)计算的A10测算,假(jiǎ)设(shè)ASP为2800美元,2023/2024/2025年(nián)全(quán)球推(tuī)理端(duān)GPU需求市(shì)场规模预计分别为(wèi)69.14/164.2/205.88亿美元。
业内人(rén)士(shì)也表示,AI大模型(xíng)训练成本之一(yī)是基础(chǔ)算力,大概需(xū)要(yào)384-3000块左右的A100才能基(jī)本满足要求(qiú),如果价格持续上涨,无论是互联网、AI大厂、还是创(chuàng)业新贵(guì),要追加的投入都(dōu)可能远超(chāo)当初。
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了