国王金融官网

英伟达都有哪些对手？

*固然是AMD和英特尔，前者自己就有AI加速卡的营业，集CPU和GPU设计能力与一身，尔后者呢，作为x86架构的奠基人，现在也涉足AI加速卡领域，可以见到它们所推出的产物不仅在参数上对标英伟达，还在定位与售价等方面发动了一轮又一轮的攻势。

而英伟达的客户与博通和Marvell组成统一战线后，也成了它的对手，不停推陈出新的自研定制芯片，最先取代传统的通用AI加速卡，让英伟达感受到了另一种压力。

而在网络领域，英伟达也迎来了自己的对手。

1、英伟达独占AI网络

进入21世纪以来，随着云盘算、大数据的日益普及，数据中央获得了快速生长。而InfiniBand在其中施展了很大的作用，尤其是从2023年最先，以ChatGPT为代表的大型AI模子依赖于InfiniBand，让这一网络手艺的关注度进一步提升。

众所周知，现代数字盘算机自降生以来就一直接纳冯·诺依曼系统结构，该系统结构中有CPU（算术逻辑单元和控制单元）、内存（RAM、硬盘）和I/O（输入/输出）装备。20世纪90年月初，为了支持越来越多的外部装备，Intel率先在尺度PC架构中引入了外围组件互连（PCI）总线设计。

随后，互联网进入快速生长阶段，在线营业和用户规模的不停增进对IT系统容量提出了伟大挑战。在摩尔定律的支持下，CPU、内存、硬盘等部件都在飞速提高，而PCI总线的更新换代速率却对照慢，大大限制了I/O性能，成为了整个系统的瓶颈。

为领会决这个问题，Intel、微软和SUN牵头制订了“下一代I/O（NGIO）”手艺尺度，而IBM、康柏和惠普则牵头制订了“未来I/O（FIO）”，并于1998年团结制订了PCI-X尺度。

1999 年，FIO 开发者论坛和 NGIO 论坛合并确立了InfiniBand 商业协会 (IBTA)。很快，在2000年，InfiniBand架构规范1.0版本正式宣布。InfiniBand降生的目的就是为了取代PCI总线，它引入了RDMA协议，提供更低的延迟、更高的带宽、更高的可靠性，从而实现更壮大的I/O性能。

同样在1999年5月，几位从英特尔和伽利略科技公司出走的员工在以色列确立了一家叫Mellanox的芯片公司， Mellanox 确立后加入了 NGIO，厥后 NGIO 与 FIO 合并，Mellanox 也加入了 InfiniBand阵营，并于 2001 年推出了*款 InfiniBand 产物。

而随着英特尔转向PCI Express（PCIe），以及微软退出InfiniBand，该网络手艺最先转向盘算机集群互联的应用领域，而新确立的Mellanox最先走上舞台，逐渐成为InfiniBand生长历程中的中坚气力。

InfiniBand虽然同时被英特尔和微软放弃，但它在新的领域中找到了增进点。2012年以后，随着高性能盘算（HPC）需求的不停增进，InfiniBand手艺不停取得长足提高，市场份额不停提升。2015年，InfiniBand手艺在TOP500榜单中的份额首次突破50%，到达51.4%（257个系统）。这标志着InfiniBand手艺首次乐成挑战以太网手艺，成为超级盘算机*的内部互连手艺。

而Mellanox也在不停发展：2010年，Mellanox与Voltaire合并，Mellanox和QLogic成为InfiniBand的主要供应商；2013年，Mellanox 进一步进军网络领域，收购硅光手艺公司 Kotura 和并行光互连芯片制造商 IPtronics，进一步牢固其行业职位；到 2015 年，Mellanox 已占有全球 InfiniBand 市场80% 的份额。营业局限从芯片扩展到网卡、交流机/网关、远程通讯系统、线缆和模块，成为天下级网络供应商。

随着AI的连续生长，InfiniBand的价值也日益展现，Mellanox也因其在该手艺上近乎垄断的职位而成为厂商眼里的香饽饽。

为什么InfiniBand对于AI云云主要？对于AI超级盘算机来说，我们可以把它看作一个由许多图形处置单元（GPUs）组成的集群，这些单元举行大量庞大的盘算。此外，另有一些中央处置单元（CPUs）认真指挥盘算机的操作，再加上一些DRAM芯片和NAND芯片，成本约莫分配为：50-60%用于GPUs，10-15%用于CPUs和DRAM芯片，5-10%用于NAND芯片。

但上述所有的芯片需要相互毗邻，这可以通过InfiniBand或以太网电缆来实现，也就是所谓的“网络”，它们占硬件成本的10-15%，而目的就是提供尽可能高的带宽，让数据能快速传输，倘若不能实现更高的带宽，那么无论在GPUs上破费若干成本，最后都市变得毫无意义。

英伟达作为AI领域最早的探索者之一，很敏锐地察觉到了这一点，同时决议将其关注点从游戏转向AI。2019 年，英伟达以69 亿美元收购 Mellanox，跨越了竞争对手英特尔和微软的出价，后两者的出价划分为 60 亿美元和 55 亿美元，这笔数额重大的收购，为英伟达进入网络手艺市场铺平了蹊径。

那时英伟达的CEO黄仁勋注释称，收购Mellanox的缘故原由是：“这是两家全球*的高性能盘算公司的合并，我们专注于加速盘算，而Mellanox则专注于互连和存储。”

GPU和网络手艺捆绑销售，听起来有点像强买强卖，但令许多人都未预推测的是，由黄仁勋所打造的这一模式迅速取得了乐成。住手今年1月，英伟达的年收入翻了一番多，到达609亿美元，盘算和网络部门的销售额增进了215%，占英伟达营业的78%。虽然英伟达的GPU部门引起了大量关注，但其网络营业也是乐成的要害。在公司的最后一次财报电话集会上，黄仁勋示意，InfiniBand的收入同比增进了五倍，意味着其增进速率约为整个盘算和网络营业的两倍。

英伟达将自身的 GPU 算力与 Mellanox 的网络手艺相连系，打造出了一个壮大的“盘算引擎”，在盘算基础设施方面，英伟达无疑占有着*优势，

中国稀土，又上了一次高度

2、英伟达的大威胁

已往，业界一直在使用英伟达配套的 InfiniBand 网络解决方案来部署人工智能和机械学习手艺，缘故原由很简朴，它是现在最成熟的支持大规模部署的网络手艺，但InfiniBand并非*，一方面由于收购，它酿成了英伟达的*产物，另一方面，它的成本昂贵，绝非通俗企业可以轻松肩负得起的。

英伟达的CEO黄仁勋曾挖苦道，InfiniBand只占集群成本的20%，而它能将人工智能训练的性能提高20%，某种水平上已经收回了成本，因而InfiniBand现实上是免费的。但这样的论断显然是有失偏颇的，客户必须首先拿出集群成本的20%，才气真正榨取出集群的性能，这就意味着用120%的成本缔造120%的性能。

相对比之下，基于以太网的集群通常只需要分外的10% 甚至更低的成本，只管后者在性能上往往难以与InfiniBand匹敌，但它凭着自己的低廉价钱也争取到了一部门用户。事实上，现在高性能网络的竞争，是InfiniBand与高速以太网的较量，资源足够的厂商会更倾向于选择InfiniBand，而注重性价比的厂商则可能倾向于高速以太网。

但这样的情形并非一成稳固，即即是那些具备雄厚财力的大企业，也在寻找更廉价更合适的网络方案，英伟达与InfiniBand正在不停受到挑战。

2023年7月，Linux基金会宣布，将监视确立一个超级以太网同盟，该同盟的首创成员包罗AMD、Arista、Broadcom、思科、Eviden、HPE、英特尔、Meta 和微软的支持下，超以太网同盟示意将致力于改善以太网，以知足高性能盘算和人工智能系统所需的低延迟和可扩展性要求。

该同盟确立的主要义务是界说和开发他们所称的超以太网传输（UET）协议，这是一种新的以太网传输层协议，能更好地知足人工智能和 HPC 事情负载的需求。

在高条理上，超以太网同盟希望以外科手术的方式完善以太网，只对实现目的所必须的部门举行改善和改动。从一最先，该同盟就着眼于改善以太网手艺的软件层和物理层，但不改变其基本结构，以确保成本效益和互操作性。

同盟的手艺目的包罗开发规范、应用程序接口和源代码，以界说超以太网通讯的协议、接口和数据结构。此外，同盟还致力于更新现有的链路和传输协议，确立新的遥测、信令、平安和拥塞机制，以更好地知足大型人工智能和高性能盘算集群的需求。同时，由于人工智能和高性能盘算事情负载有许多差异之处，UET 将为适当的部署提供单独的设置文件。

得益于这个超级以太网同盟，已往以太网运行 AI 事情负载的几个问题正在解决，也推动了以太网在传统 HPC 事情负载中的更普遍接纳，这也让以太网网络公司找到了反扑InfiniBand的时机。

超级以太网同盟成员之一，以太网络公司Arista Networks在今年2月的财报电话集会中，其首席执行官Jayshree Ullal注释了InfiniBand和以太网之间的区别：“如你所知，从历史上看，当单独思量InfiniBand和以太网时各有优势。传统上，InfiniBand被以为是无损的，而以太网被以为有一些损失特征。然而当你现实将一个完整的GPU集群连同光学装备等一同思量，并查看所有数据包巨细上的义务完成时间一致性时，数据——包罗来自博通的第三方数据——显示在现实环境中对照这些手艺，以太网的义务完成时间约莫快10%。以是，你可以伶仃地看待这些手艺，也可以在现实集群中看待它们。而在现实集群中，我们已经看到以太网的改善。请记着，这只是我们今天所知的以太网。一旦我们有了超级以太网同盟和一些改善，好比数据包喷洒、动态负载平衡和拥塞控制，我信托这些数字会变得更好。”

“Arista声称其以太网在义务完成速率上比InfiniBand快约10%，这一点令我们感应意外，稀奇是思量到InfiniBand在当前GPU集群中的深度渗透。”Jefferies剖析师George Notter在集会后示意。

他指出，英伟达将GPUs与InfiniBand简朴捆绑销售是该手艺乐成的要害缘故原由，换句话说，InfiniBand受迎接的部门缘故原由是由于它与英伟达的GPU一起销售，但这现在GPU的积压订单削减了，使用InfiniBand的念头可能也会削减，这对Arista以及另一家以太网网络公司博通来说是个好新闻。

“我们在四个主要的AI以太网集群中取得了希望，这些集群都是我们战胜InfiniBand的案例。在所有四个案例中，我们现在正从试验转向试点，每年毗邻数千个GPU，”Arista首席执行官Jayshree Ullal注释道。

Arista在上季度业绩显示也异常不错，住手3月的三个月中，Arista的收入同比增进了16%，每股收益增进了44%，剖析师预计随着AI基础设施支出的增添，这一增进将会加速。Arista约40%的营业来自微软和Meta，这两家公司都宣布明年将再次增添资源支出。Jefferies剖析师George Notter最近还将Arista的评级从持有上调至买入，他示意：“现在，部署基于GPU的基础设施（包罗以太网）的热潮将会持久。”

Arista并不是*一家受益于“部署热潮”的网络公司。博通住手2月4日的三个月收入同比增进了34%，到达120亿美元，其中网络收入增进了46%，到达33亿美元。“这主要是由于我们的两个超大规模客户对AI加速器的强劲需求，”博通首席执行官Hock Tan在财报电话集会上注释道。

对网络硬件的需求比博通预期的还要快，“超大规模客户以及部署AI数据中央的大型企业的强劲需求”推动了这一增进。因此，博通将其网络营业的整年增进预期从30%上调至35%。整体而言，博通今年的收入预计为500亿美元，比去年增进40%。

外洋媒体nextplatform提出了一个有趣的数学问题：Arista Networks 在 AI 集群互连销售中每赚取 7.5 亿美元，英伟达可能会损失 15 亿至 22.5 亿美元。在已往的 12 个月中，大略估量英伟达在 InfiniBand 网络方面的销售额为 64.7 亿美元，而数据中央的 GPU 盘算销售额为 397.8 亿美元，在四比一的分红率和稳固的市场条件下，英伟达可以保留约 13 亿美元，而超级以太网同盟可以保留 17 亿至 26 亿美元，若是一切保持稳固，InfiniBand 的销售目的将到达 120 亿美元。

该媒体指出，超级以太网同盟的成员可以抢占的市场份额很大，但他们将通过从系统中移除收入来抢占，就像 Linux 对 Unix 所做的那样，而不是将收入从一种手艺转换为另一种手艺，其中节约下来的资金将重新投入到 GPU 中。

3、挑战英伟达

英伟达不止是在网络领域受到挑战，正如我们前文中提到的，它的*依仗——GPU正在受到AMD、英特尔、博通等公司的围剿，只管它坐拥3万亿美元市值，但依然会倍感压力。

在网络市场，Arista现在无疑照样异常弱小的一家公司，相较于英伟达InfiniBand动辄数十亿美元的营收，短期内它还难以挑战，但巨头们对于AI集群网络垄断的不满，让Arista获得快速生长的名贵时机，假以时日，它很有可能成为英伟达新的心腹大患。