​围剿英伟达

围剿英伟达

文｜邱晓芬

访谈｜邱晓芬 杨逍

编辑｜苏建勋 杨轩

反抗

一个隐秘的微信群，在上海张江的 AI 芯片公司人士中口口相传，群名叫 " 国产芯片抱团取暖群 "，进群的必须是国产芯片公司员工，在这里，即使是竞争对手，也会交换信息，互换商务资源。

" 国产芯片抱团取暖群 " 圈定了一块停战区，同行可以暂时休战，互帮互助，只因为大家都有一个共同的敌人：英伟达。

因为英伟达的存在，国产芯片公司的销售，多少都尝过一点屈辱的滋味。

李明（化名）是一家国产 GPU 公司的销售，这一轮 AI 热潮掀起时，他曾信心满满地去见客户，可来不及寒暄，客户开口就是连环追问：

" 你们的东西，和英伟达 A100 芯片相比，啥差距？英伟达有 NVLink，你们有什么？"（作者注：NVLink 是把多个 GPU 芯片连接起来，避免 GPU 的数据搬到 CPU 计算，以提升计算效率）

眼见用产品和技术打动不了客户，李明的团队开始想办法托关系，找 " 更有力的人士 " 去游说，但客户还是摆摆手，" 我们还是想用英伟达 "。

英伟达 A100，826 平方毫米的面积上，塞了 540 亿个晶体管，是打开 AI 大模型魔盒的钥匙。

大模型训练，像是在海量数据中 " 炼丹 "，目的是找出数据变化的规律；而用英伟达芯片训练大模型，就好比让几亿个智商 200 的人来算数，而其它芯片的效果，只等同于找了几千个智商 100 的人来计算。

英伟达 A100 图片来自英伟达官网

最顶尖的科技公司，都在疯狂抢购英伟达。谁拥有最多的英伟达高端 GPU，谁就有机会训练出更聪明的大模型。

公开信息显示，OpenAI 目前掌握着全世界最多的英伟达高端 GPU，至少达五万片；谷歌、Meta 也是万卡集群的拥有者（2.6 万左右）；而国内罕见有英伟达高端 GPU 万卡集群的互联网大厂，是字节跳动（1.3 万）。

英伟达垄断着全球产业链上最好的资源——拥有台积电最充足的芯片先进制程产能、笼络着全世界最大的工程师用户群体，掌握了一众 AI 公司的计算命脉。

绝对的垄断，往往会滋生不满、愤怒和逃离。

" 今天所有做大模型的，基本都在严重亏钱！只有一家在赚钱！英伟达 "，一位行业人士语气忿忿不平——" 英伟达的利润率让所有的客户都很难受，很伤害 AI 行业！"。

财报显示，英伟达毛利率达到 71%，其中，热门产品 A100 和 H100 系列，毛利率高达 90%。作为一家硬件公司，英伟达居然享有比互联网软件公司更高的毛利率。

高价暴利，让英伟达的大客户开始逃离。7 月 30 日，苹果宣布其 AI 模型用 8000 片谷歌 TPU 来训练，而英伟达含量是 0；消息一出，7 月 31 日，英伟达股价下跌超 7%，创下近三个月最大跌幅，市值蒸发 1930 亿美元，几乎跌掉了一个拼多多。

英伟达最近一年股价跌幅图

对于所有想在英伟达身上撕下一块肉的国内 GPU 企业来说，2022 年是个转机之年，美国数轮禁令下达，英伟达迫于生计，在中国持续推出阉割版本芯片，但又被快速禁用：

2022 年 9 月，A100/H00 禁止向中国出口，英伟达推出阉割版本 A800/H800；

2023 年 10 月，A800/H800/L40/L40S/RTX4090 被禁止向中国出口；

2024 年 6 月，英伟达创始人黄仁勋称，将向中国推送阉割版本的 L20、H20 芯片。

然而，阉割版本引发了行业更激烈的声讨。英伟达即将推送的 H20，价格虽是英伟达 H100 的一半，性能却前者只有 1/3。一位 AI 行业人士怒斥—— "这不就抢钱吗？纯纯智商税！"

当英伟达的客户开始不满与愤怒，那些想代替英伟达的国产芯片公司，却在这种情绪中得到了 " 滋养 "。

过去，他们只能跟在英伟达的屁股后面，艰难分食一点点蛋糕碎屑。半导体分析公司 TechInsights 的一项数据显示， 2023 年，英伟达在数据中心 GPU 出货量市场份额高达 98%，国产芯片和一众芯片巨头加起来，只占微弱的 2%。

如今禁令袭来，完美的英伟达在中国市场被撕开一道口子，谁能替代英伟达？国产 AI 芯片厂商看到了生机。

" 今年咔嚓，英伟达在中国的 90% 市场都给释放出来了，能不能抢到，各凭本事"，一家国产 GPU 公司创始人表示。

36 氪曾在 2021 年发表过《深氪｜宁德时代：万亿电池帝国的裂缝》，在动力电池行业，宁德时代一骑绝尘，被竞争对手们虎视眈眈。

如今，在 AI 芯片领域一家独大的英伟达，也被诸多同行视为眼中钉、肉中刺，但英伟达的不同在于，它的壁垒更高，与对手们的差距更大。

我们尝试通过英伟达对手们的反抗，去找到 " 英伟达的裂缝 "，放眼 GPU 行业，国产 GPU、AI 芯片厂商虽然力量孱弱，但他们更懂中国市场，打法更加本土化；而诸如英特尔、AMD 等老牌芯片巨头，则有着更充足的粮草弹药，正面对击英伟达。

短期内，英伟达不会被打倒，但它也不会毫发无伤，这注定是一场血腥的战争。

突围

想突围，就要找到对手的弱点。英伟达的弱点之一是：傲慢。

芯片行业，本质上是一个 To B 软件行业。客户需要芯片厂商 " 陪伴感 " 的服务，比如把硬件调试好、把软硬件兼容做好，陪伴到位了，客户才有粘性，芯片产品就不容易被替换。

但多位国产芯片人士告诉 36 氪，在中国市场，除了像 BAT、字节这样几十亿规模的大采购方，其余大部分公司交易额纵使达几千万，几乎很难得到来自英伟达的售后服务。

也就是说，当使用英伟达芯片的中国工程师们有疑惑时，只能靠自己到英伟达官网上搜索文档，或者去社区自学。

和英伟达合作时，中国客户们的种种需求经常得不到满足。一位芯片行业人士告诉 36 氪，英伟达在中国一般会推最高配、最贵的全套方案，而当客户提出针对特定场景的定制化要求时，也一般会被否掉，客户们买完卡后，要 " 自己琢磨，或者再找厉害的算法公司搞定 "。

英伟达的这种做法，积累了不少中小客户的抱怨。" 英伟达如今作为大厂，对小客户已经不会像过去那样重视，他们的产品没有挑战者，不需要去费力讨好客户 "，前述人士表示。

但在过去，英伟达生态的崛起其实印证了服务对于芯片行业的重要性：2006 年，CUDA 生态刚起步时，英伟达产品和如今的国产芯片一样并不出色。但英伟达团队先从高校的科研团队推起，再渗透到每一个细分行业的初创公司做软硬件适配，才有了如今的大片江山。

NVIDIA H100 图源：英伟达官网

中国芯片厂商们，也领悟到这一点，尝试从客户服务开始切入。

国内某家不愿具名的 AI 芯片公司，2023 年以来，尝试让后台的研发人员走到一线亲自服务——不仅要驻场联合调教，在销售打单后，给客户专门拉个有研发人员的小群。客单价小到几百万、几十万不等，都能享受 7 × 24 小时的咨询。

光提供本地化的贴心服务远远不够，在英伟达中国大撤退之余，芯片行业而早已不简单是芯片产品本身对决，更考验着各自对时间窗口期的把握。中国芯片厂商就像一群狼扑上来，轰轰烈烈的打单开始了。

华为来势最凶猛。华为此前联合讯飞，发布的设备「星火一体机」上，就搭载了「昇腾 910B」。

这颗芯片，曾号称单卡能力 " 对标英伟达 A100"。不为人知的是，光鲜案例背后艰难的一面—— 36 氪了解到，华为对此不惜人力成本，调配了几百名工程师下场帮讯飞调教参数。

华为和讯飞发布星火一体机，图源讯飞

尽管这被行业称为 " 手工打造 "，但标杆案例一出，许多大模型公司、互联网公司都对华为抛出了测试的橄榄枝。

一家国产芯片销售惊讶发现，自从去年 7 月份至今，只要是公开招标的智能算力中心项目，都能看到华为级别不低的管理层在那驻场，" 华为如今一个项目可以派几百个人上去服务，甚至一些关键项目不惜亏本，从别的项目获得收入 "。

前述不具名芯片公司，也配齐了 200 名铁血销售——在国内芯片行业，这都是一个相当罕见的配置。他们的销售团队从大模型落地最火热的三个领域开始入手，金融、法律、工业，几乎出现在每一场与算力相关的展会， " 芯片行业，资源第一，跑的慢了就死掉了 "。

国产芯片一场隐秘的价格战也开始了。

一位芯片行业人士告诉 36 氪，他们的目标是，不惜单价，也要拿下更多标杆智能算力中心的单子。36 氪观察到，有的国产公司推理卡，为了降低成本，不惜把价贵的 HBM（高带宽内存）拿掉，甚至以低于成本价 50% 的价格在出货。

" 不管怎么样，大家还是希望从各个切入点突破，各自从英伟达那切走一小小块蛋糕，让英伟达不再是一家独大 "。

但现实却是残酷的，具体到产品上，国产 AI 芯片难免出现种种问题。

一位芯片人士向 36 氪举例：同样处理一个数据集，用英伟达的 A100 集群来跑，可能只需要十天，但用某些国产芯片产品，可能要跑上好几个月。国产芯片硬件上积累的时间太短，又缺先进制程，硬件上的差距，导致使用效率不高。

软件短板也很明显。另一位行业人士测试发现，当使用国产芯片跑大模型时，若要在上面做更多酷炫应用，基础大模型做一旦改动，国产芯片就容易发生死机，" 很多情况下，国产芯片大家基本是捏着鼻子用起来 "。

如今，各家真正看清了眼前的 " 围剿 " 策略，也逐渐分化出了更现实的路径：

尽管还有少数派继续往万卡集群进发，着重训练场景，和英伟达硬刚，其中以摩尔线程、华为为代表；但更多数派的选择是，转而更关注大模型 / 小模型在各行各业的落地，从对硬件、软件要求都不高的推理场景抓起，以燧原、天数智芯等为代表。

（36 氪注：大模型有训练和推理两个环节：训练是从几十亿数据库中寻找规律的过程，是" 造 "大模型；推理是在" 用 "大模型的过程，难度更小、对软硬件要求更低、与产业连接更紧密）

摩尔线程在 2024 年人工智能大会上发布夸娥万卡集群 36 氪拍摄

" 我们如今没有盲目追赶英伟达，我们追不起，不敢盲目做超大算力的芯片 "，一位芯片行业人士直言。

国内芯片厂商们一个现实的考量是，英伟达的主要精力并不在此，国内厂商为此避开了英伟达的正面战火。

此前，大部分公司基于成本考虑，多采用英伟达消费级游戏显卡 4090 来跑推理——这些卡的问题一堆：功耗过高、内存不够、被禁用。英伟达官方也不允许这些消费级显卡被用于大模型推理。

国产芯片公司从英伟达这一空白处切入。天数智芯、燧原今年都在猛推对标 4090 的推理卡，打出了大内存、低功耗、供应稳定的卖点。

国产芯片厂商也明确了找准细分市场的重要性。比如则针对一些功耗敏感的场景，主打低功耗小芯片；或者扎进视频优化等细分场景，做小而美的生意。

巨头战场，剑拔弩张

当国产 GPU 公司将 " 超越英伟达 " 写进 PPT，这更像一种美好的愿景，这群公司成立时间不长，迎上了国产替代的风口，即便只超越一点，也被视作是壮举，英伟达之于他们，是对手，也是标杆。

但论及与英伟达辈分相当的英特尔、AMD，气氛就更加剑拔弩张。

"我们内部将英伟达当作死敌"，AMD 的一位 MI 系列产品线的研发人员告诉 36 氪。

在今年 6 月的台北电脑展（Computex 2024）上，AMD 创始人苏姿丰（她还是英伟达创始人黄仁勋的表亲）也首次明确了未来 AMD 在 GPU 上的产品节奏——每年迭代一款新的 GPU 产品，和英伟达更新节奏保持一致。

英伟达几乎每上一款 GPU，AMD 都会第一时间从市场上买回来拆机，与还没上市的产品做对比。

" 这里要加点 feature（指标）、那里参数要拉高 "，他们追求的是，" 硬件上不能落后于英伟达，参数上微赢 "，前述人士对 36 氪提到。

苏姿丰在今年台北电脑展上发布 Instinct MI325X

2023 年以来，AMD 中国生态合作伙伴们，几乎每隔两天，就会收到来自 AMD 的软件优化新诉求。为了推广他们的 GPU，AMD 高管们有时还会要求更优势的 CPU 部门，搭配着 GPU 去打单，顶着 CPU 可能卖不出去的风险。

"AMD 的人天天‘烧香拜佛’，就希望我们把生态搞起来"，一家生态公司高管表示，据他透露，目前国内已经有 10 多家云厂商和 To B 客户，在和 AMD 芯片相关的适配和效果验证。

相比于一众焦灼的国产芯片厂商，国外芯片巨头们在硬件层面的优势在于，拥有先进制程和 HBM 产能，因此，AMD、英特尔的产品，相比于英伟达产品其实不会有太大的差距，某种程度上甚至更优异。

官方的数据显示，AMD 的产品（2023 年 12 月发布的 MI300X）此前宣称算力是英伟达 H100 的 1.2 倍；

英特尔的产品（2024 年 4 月发布的 Gaudi 3）在能效和推理性能上也远超 H100。当然，也更便宜，AMD 的 GPU 价格大概是英伟达对标产品的七八成。

但所有和英伟达正面硬刚的厂商都面临着一个共同的难题：大家的硬件如何有优势，都因软件劣势而黯淡，如同木桶的短板。

在 GPU 还只能用于图形计算的年代，英伟达推出的软件平台 CUDA，相当于给开发者提供了一套编程接口，让他们能最熟悉的编程语言，在 GPU 上自如编写计算程序。

" 我给你们打个比方，CUDA 为什么超越不了，就好比你学会一种语言，这么多年，都是用这个语言干活的，如果我让你换一套语言，你会不会很难受，会不会不愿意？" 一家芯片公司员工这样给 36 氪举例。

CUDA 作为英伟达软件生态壁垒最深厚之处，纵是家大业大的英特尔、AMD 也无法短时间内弯道超车。

一位英特尔 GPU 团队前员工告诉 36 氪，他们曾经安排全球 3000 多名工程师、投入了三四年，却只把精度从 0% 提升到 4% ——他们用英特尔的芯片转换一张人像，等待许久，信息丢失到 " 已看不出是一张人脸 "。

英特尔 CEO 基辛格发布 Gaudi 系列芯片

" 鸡生蛋还是蛋生鸡 " 的谬论再现。正是由于 AMD 和英特尔的 GPU 用的人不多，其及对应的软件平台（ROCm、oneAPI）用的人也更少，因此很难有人能把它们真正的硬件能力完全发挥出来。

" 英伟达的 CUDA 一直有那么多开发者在上面迭代算法，帮英伟达把推理和训练做得很高效，导致英伟达一直能有议价权，他也永远知道他下一个芯片应该咋做，但这是 AMD 和英特尔都很头疼的事 "，一家 AMD 生态公司 CEO 直言，如今AMD 的软件工具 ROCm，" 就像 20 年前的英伟达 CUDA 一般 "。

但对于下游客户来说，风险正是由此而生。

验证大模型本就是一项有不确定性的实验，若还要在一个没有被验证过的芯片上跑，相当于把两个不可控的变量放在一起——抛弃英伟达，意味着要支付巨大迁移成本，承载不确定性。

尽管如此，围剿英伟达，对于 AMD 和英特尔这两家来说，依旧是一场不得不打的仗。

全球芯片架构三分天下：X86 架构指导着 PC 领域，是英特尔和 AMD 的天下；移动市场是 Arm 的天下；英伟达则主导着人工智能市场。

在全新 AI 革命引领时代的近一年半，英伟达一度跨过 3 万亿美金市值大关，如今也相当于 7 个英特尔 +AMD 市值的总和。

时隔 20 年后，芯片巨头们对英伟达的「围剿」，是又一场焦灼的战事，这也是一场后知后觉的反扑。

真正的裂缝

当国内 AI 芯片公司组成蚂蚁雄兵，AMD 和英特尔全力以赴，遭遇此等围追堵截的英伟达，真的被撼动了吗？

英伟达帝国的裂缝，正在悄悄蔓延。

一个让英伟达必须警惕的信号是，OpenAI、谷歌、微软……这些因 AI 信仰，为英伟达充值的大客户们，正迈出 " 反英伟达 " 第一步。

自研芯片是各家筹谋已久的棋局。一位谷歌 TPU 团队的前核心员工告诉 36 氪，用掉了世界上 1/4 算力的谷歌，" 可能年底就不对外采购芯片了 "。

过去谷歌自研 TPU 更多基于成本考虑，比如担心英伟达随意涨价，或者供应不够稳定，如今谷歌的造芯策略更为激进——" 几乎是不计代价和成本投入 "。

OpenAI 则有无数手准备，他们计划筹资高达 7 万亿美元，建立一个全新的 AI 芯片帝国。

在国内，36 氪也从多方了解到——目前英伟达在国内最大的买方，阿里、字节、百度，基本都在秘密研究用于大模型训练的芯片。

海外云厂商、大模型厂商、明星芯片厂商产品进展，36 氪综合信息整理、制图

不过，自研芯片毕竟是一个长远之计，这些大客户们短期内的另一项方案是，尝试英伟达对手们的产品，减少对英伟达的依赖。

AMD 就是这个 Plan B。一位 AMD 内部人士告诉 36 氪，AMD 的 GPU 产品已经在欧洲、美国、韩国等地，打开了大客户市场——微软已经采购上万片 AMD 的产品，特斯拉、Midjourney、美国国家实验室、韩国电信也都已批量提货。

在国内，AMD 生态公司员工陈文表示，AMD 某型号加速卡在 2023 年有几百片出货，虽不多，" 但 AMD 的这款产品，此前在国内几乎查无此人 "。

根据 AMD 方面此前乐观预计，在 2024 年年底，数据中心 GPU 将给 AMD 带来高达 20 亿美元的收入。

而中国芯片厂商的蚂蚁雄兵，虽然尚未对英伟达造成实质性威胁，但星星之火，也有渐起之势。

36 氪了解到，如今，国产训练、推理芯片的销售，已经跃进了一个新台阶——一个令人欣慰的积极信号是，国内公认最难打单的互联网公司、大模型公司，已对国产芯片厂商开了口子。

据 36 氪了解，目前，昇腾芯片已经艰难突围进百度在内的互联网公司体系。

此外，国内诸如智谱 AI、MiniMax、阶跃星辰等 AI 公司，都在训练万亿参数规模的大模型，但在英伟达高端芯片有限的情况下，大模型公司们普遍选择 " 混训 "（即英伟达 + 其他芯片），比如，智谱 AI 的集群储备了近半的昇腾芯片。

另外，天数智芯、燧原的推理芯片产品去年以来，双双有了数万片的出货，出货渠道包括国内各大智算中心，前者打进了大模型厂商百川的供应链；百度昆仑芯这边，过去两代推理芯片累计出货量 3-5 万片，来自百度和外部渠道的出货量已各占一半。

" 英伟达现在的价格和供应水位，正处于试探大家干不干、怎么干的边界线上 "，一位行业人士直言。

英伟达创始人黄仁勋 图源视觉中国

如果把眼光拉得更到未来三五年，英伟达新的威胁也在逐渐闪现。

行业里面也出现了 GPU 之外的全新的 AI 芯片架构——比如此前推出 LPU 架构的硅谷芯片公司 Groq，号称运行大语言模型比英伟达的 GPU" 速度快了十倍 "；

还有发布了大模型 ASIC 芯片的硅谷芯片 Etched，号称比英伟达 GPU" 快了一个数量级 "。这些芯片创业公司，背后站着 OpenAI 这样的明星投资阵容。

36 氪了解到，国内今年以来也冒出了全新的 AI 芯片创业公司。比如，上海市近来秘密支持了两家全新的 AI 芯片公司。

一家国产 TPU 公司「中昊芯英」CEO 杨龚轶凡表示，GPU 的整体晶体管利用率只有 20%，其实缺陷很明显，相比之下，TPU 和 ASIC 等新的架构虽然通用性不强，但晶体管利用率能够达到 60%-100%，" 未来三五年国内外必定出现一大堆 GPU 架构之外的 AI 芯片 "。

星星点点，足以让英伟达这个巨物被撼动。

" 你以为英伟达就像是外表看来一骑绝尘无对手？真不是 "，一位英伟达员工告诉 36 氪。正如黄仁勋经常挂在嘴边的一句话，" 我们距离倒闭，只有 30 天的时间 "。

英伟达做了十几年的准备，再撞上 OpenAI 这样的天才公司，才共同催化才出现了英伟达的奇迹。在过去，半导体行业最不缺乏弯道超车巨头的故事。

围剿英伟达之战的硝烟，早已燃起。

end