Nvidia、Mellanox和Titan IC的收购将提升云端人工智能芯片产品的门槛┆运算与任务分配软件┆人工智能AI

我们认为，Nvidia、Mellanox和Titan IC的套娃式收购将大大提升云端人工智能芯片产品的门槛。该收购案完成后，或将对云端AI芯片市场产生很大的长远影响。

首先，我们看到，Nvidia对Mellanox的收购有些类似上下游式整合——Nvidia代表了云端人工智能的生态，而Mellanox则代表了云端人工智能的核心技术，收购后意味着该核心技术与Nvidia的生态牢牢地绑定了在一起。

众所周知，Nvidia的GPU在目前是云端人工智能加速的主流解决方案。虽然也有一些其它AI芯片公司提供云端人工智能训练的加速，但是谈到与Nvidia的比较都显得缺乏竞争力，最多只能算是Nvidia之外的一个候补供货方案。为什么？究其根本，并不是这些AI芯片公司的峰值算力不够，而是在生态上难以与Nvidia的CUDA生态做竞争，在软件方案上缺乏Nvidia CUDA这样的完整编程和工具链，而这些完整的工具链需要很长的时间积累，目前也正是Nvidia最高的壁垒。

如果说以上只是Nvidia生态在单机训练上的竞争门槛的话，那么在目前广为应用的分布式训练上，Nvidia则构筑了更高的门槛。分布式训练中，需要将数据分布到多台服务器上去做单步训练，同时在完成单步训练之后，需要将分布在多台服务器上的权重和梯度信息做一次同步，才能继续训练，而该同步过程对于多台服务器之间的数据交换则形成了很大的考验。一方面，在硬件上会需要高速的数据交换互联，另一方面，在底层软件方面，也需要高效的接口，防止数据交换的软件层成为性能的瓶颈。也正是因为分布式训练对于数据交互的高需求，在2016年之前都没有特别好的解决方案，直到Mellanox的InfiniBand出现成为了高性能互联解决方案。后来随着技术的迭代，目前以太网+RDMA的方案（同样是Mellanox的强项）成为了常规的解决方案，而Nvidia的NCCL则成为了底层软件接口的标准。换句话说，在Nvidia收购Mellanox之前，Mellanox的数据互联方案+Nvidia的GPU底层接口经过多年迭代已经形成了一个非常完善的工程解决方案，而其它AI芯片公司想要复制Nvidia GPU的分布式训练则势必要重复一遍这样的迭代过程。

一旦Nvidia GPU+Mellanox网络技术的上下游生态绑定，那么在整合完之后就会诞生一个巨头，并大大提升竞争门槛。在收购完成之后，Nvidia GPU和Mellanox的以太网+RDMA就成为了一家人，其它AI芯片公司要加入竞争，则必然会在分布式计算方面遇到来自Nvidia更大的压力，这也意味着竞争门槛大大提高——例如，为了能真正进入分布式训练是一个必选项的云端AI芯片市场，则必须能自主掌握RDMA等分布式训练需要的数据交换技术，而能做到这一点的公司寥寥无几——一个例子就是Habana，其一大亮点就是其AI训练芯片中包含RDMA，这或许也是Intel之前高价收购Habana的重要考虑因素。

而在Mellanox收购了Titan IC之后，这三者的结合则更是提供了包含人工智能+高速数据互联解决方案+网络安全加速的横跨多个领域的完整方案，也让其产品在数据中心竞争中占据了极为有利的位置。

更重要的是，Nvidia的野心并不仅仅在人工智能，而是想要扩展到更广的数据中心高性能计算领域。例如，在未来十年内，我们认为除了人工智能之外，还有许多有很大潜力的计算会需要在云端完成。举例来说，与健康相关的基因计算就是一个重要方向，而Nvidia也在之前收购了从事基因计算并行化领域的初创公司ParaBricks，显示了它在该方向的布局。而对于云端分布式计算来说，事实上Nvidia GPU+Mellanox RDMA+Nvidia CUDA都将形成难以撼动的整体解决方案，这样的黄金组合或许将统治云端高性能计算加速市场很久。