5月15日消息,近日,有传闻显示,为了应对市场对于其高性能GPU需求的增长,英伟达已向台积电追加了1万片晶圆的订单,这也意味着到今年底前,台积电每个月需额外提供英伟达1000至2000片基于CoWoS技术的晶圆。
受ChatGPT掀起全球生成式AI热潮影响,中国的百度、阿里巴巴、腾讯、科大讯飞、商汤科技等众多相关业者也在积极布局,这也使得高性能GPU芯片因供不应求,价格水涨船高.
有报道显示,据英伟达的代理商透露,其A100芯片价格已经从去年12月开始上涨,截至今年4月上半个月,五个月价格累计涨幅达37.5%;同期,英伟达面向中国大陆市场的A800芯片的价格涨幅累计达到了20%。
另外,受去年美国限制高性能芯片出口中国的政策影响以及市场需求旺盛,使得GPU交货周期被拉长。此前拿货大约要等一个月,现在基本都得三个月,部分新订单甚至可能要到今年12月才能交付。
此前报道显示,中国大陆目前可用于训练AI大模型的A100大约有40000至50000片,供应相当吃紧。据曾担任华为系自然语言处理企业的首席科学家陈巍测算,中国境内A100级别的GPU芯片缺口约在30万片左右。目前部份中国云端服务厂商已下令严格限制内部使用这些先进芯片,以将其保留至需要强力运算的任务。
随着 NVIDIA CUDA 平台在 AI 和其他高性能工作负载中的广泛采用,数十家主要客户依靠该公司的硬件来运行他们的 AI 应用程序。就在昨天,谷歌宣布推出新的 A3 超级计算机,配备 26000 块 NVIDIA H100 加速器和 26 个 exaflops 的 AI 功能。
有传闻称,今年初百度曾紧急下单3000台包含8片英伟达A800 GPU的服务器(相当于2.4万片A800芯片),预计全年会有A800和H800共5万片需求。同时,阿里云预计今年需要约10000片GPU芯片,其中6000片是H800,4000片是A800。目前英伟达A800、H800正遭到包括服务器、互联网厂商争抢。