腾众软件科技有限公司腾众软件科技有限公司

伊拉克是不是被灭国了

伊拉克是不是被灭国了 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的“AI热潮”中,各家争相(xiāng)推出的大模型(xíng)、AI应用,都进(jìn)一步推(tuī)升了对算力狂热的(de)需求(qiú)。本(běn)周已(yǐ)有报(bào)道(dào)指出英伟达后(hòu)续对(duì)AI顶级(jí)规格芯片需求明显看(kàn)增,紧急(jí)向台积(jī)电追(zhuī)加预订(dìng)先进封(fēng)装产能。

  需求飙涨下,英伟(wěi)达GPU价格自然也是(shì)水涨船(chuán)高。据集微网消息,有代(dài)理商透(tòu)露,英(yīng)伟达A100价格(gé)从去(qù)年12月开始上(shàng)涨,截至今年4月上半月(yuè),其5个月价格(gé)累(lèi)计涨幅达到37.5%;同期A800价(jià)格累(lèi)计涨幅(fú)达(dá)20.0%。

  同时,英伟达GPU伊拉克是不是被灭国了交货周期也被(bèi)拉长,之前拿货(huò)周期(qī)大约(yuē)为(wèi)一个月,现(xiàn)在基本都需要(yào)三个月或更(gèng)长。甚至(zhì),部(bù)分新订(dìng)单“可(kě)能要到12月才能(néng)交付”。

  供需的巨大鸿沟(gōu)面前,在这(zhè)一(yī)情形之下,众多客户也不得不(bù)“勒紧腰带”。上述(shù)文章(zhāng)指出,国内可用于训练(liàn)AI大模型的A100大约(yuē)有4万-5万(wàn)个,供应相当吃紧,一些云服(fú)务厂(chǎng)商已(yǐ)严(yán)格限制内部使用(yòng)这些先进芯(xīn)片(piàn),以将其保留(liú)至需要强力运算(suàn)的任务(wù)。

  值得(dé)一伊拉克是不是被灭国了提的(de)是,类似的(de)事情在微软内部(bù)伊拉克是不是被灭国了也(yě)早已发(fā)生。3月已(yǐ)有(yǒu)外媒报道(dào)指(zhǐ)出,微(wēi)软内部陷入(rù)AI服务器硬件短缺(quē)的窘境(jìng),不得(dé)不对(duì)AI硬件(jiàn)资源采取“配(pèi)额供给”机制(zhì),限制公司内(nèi)部其他AI工具开发(fā)团队的资源用量。

  拉长(zhǎng)时间线(xiàn)来(lái)看,有GPU业内人士(shì)指出,实际上从去(qù)年6月起,英伟达就已宣布上调A100价格,涨幅20%左右,渠道商在加紧囤(dùn)货。至于(yú)英伟达A800,在ChatGPT火爆之前就已出现涨(zhǎng)价,但(dàn)反映(yìng)到市场则有(yǒu)一定的(de)滞后性,赶(gǎn)上ChatGPT爆火这一时间点,更放大了这一现(xiàn)象。

  “英伟达GPU涨价与ChatGPT有一(yī)定的关联性(xìng),且交货周(zhōu)期也受(shòu)到了(le)连带的影响(xiǎng),导致市场上出现了众(zhòng)多(duō)炒卡的行为。”

  此外,在海(hǎi)外电商平台上,英伟达(dá)新旗舰级GPU H100的价格在4月中旬就已(yǐ)炒到(dào)了超过4万美元。

  随(suí)着如今各(gè)家科(kē)技巨(jù)头争相推出自家大模型(xíng),GPU需求量(liàng)仍在持续攀升。OpenAI指(zhǐ)出,AI大模型要持续取(qǔ)得(dé)突破,所需要消耗的计(jì)算(suàn)资源每3~4个(gè)月就要(yào)翻一(yī)倍,资金也(yě)需要通(tōng)过指数级增长(zhǎng)获得(dé)匹配。

  据财通(tōng)证券测算(suàn),2023/2024/2025年大模型有望(wàng)为GPU市场贡献69.88/166.2/209.95亿美元增(zēng)量。

  其中在训练端,以目前主(zhǔ)流的训(xùn)练端GPU英伟达A100测算,假设ASP为1万美元,2023/2024/2025年全球训练端GPU需求市场规模(mó)预计分别为(wèi)0.74/2.00/4.07亿美元(yuán);

  在(zài)推(tuī)理(lǐ)端,以(yǐ)目前(qián)英伟达用于推理端计(jì)算的(de)A10测算,假设ASP为2800美(měi)元,2023/2024/2025年全球推理端GPU需(xū)求(qiú)市场(chǎng)规模(mó)预计分别为(wèi)69.14/164.2/205.88亿美元。

  业(yè)内人士也(yě)表示,AI大模型训练成本之(zhī)一是基(jī)础算力(lì),大概需要384-3000块左右的(de)A100才能基本(běn)满足要求,如果价格持续上涨,无论(lùn)是互联(lián)网(wǎng)、AI大厂、还是创(chuàng)业新贵,要(yào)追(zhuī)加的投入都可能远超当初。

未经允许不得转载:腾众软件科技有限公司 伊拉克是不是被灭国了

评论

5+2=