• 客户留言

    您的意见 我们的进步
  • Email:

    szhg-888@163.com
当前位置 > 新闻资讯 > 行业新闻

国内半导体产业的完善发展,国产GPU,明年将成为国内市场主流。

2024-08-24

字节一掷千金500亿!大手笔采购30万张。国产GPU崛起!

原创 AI科技之窗1 AI科技之窗
 2024年08月22日 16:53 江苏

这次字节的专家透露了重磅信息,国产GPU超预期大采购,大家兴趣的可以读完哟。


图片

今天主要针对H20芯片采购量、供应链动态、算力需求及市场策略这几个方面来讨论。因为之前传闻字节、阿里采购100万张H20,还有窗口指导国产采购要求。目前确定的是字节采购国产卡提升到30万张,算下来要500亿左右。H20只采购了14万张。未来算力需求指数级增长。(应用与推理的爆发)

图片

01/H20-采购量及内部确认流程

“采购30万张


1、公司采购数量

最近市场上关于H20芯片采购量达到上百万张的传言。在其权限范围内和所了解的供应链、战略及入库等部门中,并未看到如此庞大的新增订单。因为现在限制H20的采购。算力的采购并非简单的下单行为,而是需要经过业务部门的资源确认和一系列复杂的流程。

公司年初或4、5月份时的目标采购量大约在20万张左右,而截至目前,实际采购量已增至约30万张,增加了约10万张订单。公司内部已入库的H20芯片数量已超过十几万张,接近14万至15万张,是目前国内H20线上存货最多的公司。未来还是采购国产为主。

2、采购策略

现在公司非常缺GPU,但受限于供应链情况和产能问题,实际能够获得的芯片数量仍有限。对于590GPU,公司也在积极追加订单,但交付情况仍不确定,供应紧张。需要等几个月才能大批量交付。

市场对于采购百万张传言,可能源于信息不对称或误解,现在跟进自身的采购行为更多是基于实际需求和供应链情况做出的合理决策。但有一点确定,随着市场需求的增长和国产供应链的逐步改善,采购量会进一步增加的。

02/国内-算力需求增长、业务规划

十倍的增长


1、算力的增长

随着文本模型、图片、语音、视频等各类服务的调用量不断增加,公司的算力需求也呈现出快速增长的趋势。特别是在文本模型推理方面,通过L40S等小型卡片的优化,算力效率得到了显著提升。未来推理需求还没发推测,可以肯定的是用户量上来,十倍十倍的增长

业务的不断拓展和用户规模的持续扩大,线上并发量显著增加。以视频模型为例,一个高峰时段的并发日活跃用户(DAU)可能需要数千张A800或同等级别的算力卡来提供模型推理服务。这种高并发需求算力规划上必须保持前瞻性和灵活性。

2、算力规划

公司会根据日活跃用户的数量和并发情况来合理配置算力资源,以确保在高峰时段能够提供稳定、高效的服务。同时还会通过混布等方式来优化算力资源的利用效率,降低成本。随着AI的不断发展和国内应用场景的不断飞速拓展,算力需求会迅速增长。供应链的不断改善和国产GPU的供应,未来英伟达会被挑战与抢占份额

03/国产-供应链动态与窗口指导影响

“部分企业有囤货行为”

1、窗口指导

在窗口指导之后,原本预期市场会减少对H20的采购量现在包括芯片生产、封装测试、物流配送等环节都面临着巨大的压力。

有部分企业可能会通过预先囤货来规避潜在的风险和制裁措施。而另一些企业则可能会通过加大研发投入和技术创新来提升自己的竞争力和市场份额。但是国内供应链未来更加稳定、高效地大厂提供算力。

04/国产-国产GPU采购情况

国产GPU准备采购30万张


1、国产卡超预期,采购30万张

年初时,公司设定的国产算力卡采购目标为20万张左右。后来需求的增加和内部项目的快速推进,现在公司已确定的采购量已达到30万张,增加了约10万张。

公司在选择国产算力卡供应商时,注重综合考量技术实力、产能稳定性、价格竞争力及售后服务等多方面因素。除了升腾、寒武纪等厂商外,公司也接洽其他厂商。

采取了分阶段、分批次的方式。首先确保关键项目和紧急需求的算力卡供应,同时与供应商保持密切沟通,确保订单的及时交付。

2、市场布局:

数据中心建设:公司计划将新采购的国产算力卡主要用于数据中心的建设和扩容。通过增加算力资源池,提升数据处理能力和业务响应速度,以满足日益增长的业务需求。计划将国产算力卡应用于多个领域,包括云计算、大数据分析、人工智能训练与推理等。通过优化资源配置,提升业务效率降低运营成本。还计划将国产算力卡作为市场拓展的重要武器。通过向合作伙伴寒武纪和客户推广国产算力卡的优势和性能,大力扶持国产卡,还要扩大市场份额,提升他们的品牌影响力。

公司未来会继续加大在国产算力卡采购上的投入力度。国产算力卡一定会在阿里更多领域得到广泛应用。

图片

字节在国产算力卡采购方面还是喜人的。首先公司内部才入库的H20有4万至15万张,也是国内线上存货最多的公司之一但确定的是加大对国产算力的采购需求,之前是采购20万张,但是因为需求增加,这次达到30万张了。国内半导体产业的完善发展,国产GPU已经逐渐取代英伟达了,明年就会成为国内市场主流。




© THE END 

转载请联系本公众号获得授权

[返回]

 jQuery鼠标滑过展开qq客服 -
点击关闭