当前位置:商业频道首页 > 头条推荐 > 正文

黄仁勋,拐点出现(18)

令人称道的是,它是完全液冷的。通过液冷技术,我们可以将所有这些计算节点压缩到一个机架中,这对于整个行业而言是一项重大变革。

感谢各位,你们促成了从集成NVLink到解耦NVLink,从风冷到液冷,从每台计算机大约60,000个组件到每个机架600,000个组件的根本性转变,以及120千瓦全液冷,从而使我们能够在一个机架中拥有一个百亿亿次计算计算机。

这是计算节点,现在它可以安装到其中一个机架里。我们拥有3000磅的重量,5000根电缆,总长度约3.2公里,难以置信的电子元件,60万个零件,我想这相当于20辆汽车的零件数量,所有这些都集成到一台超级计算机中。我们的目标是大规模扩展,这就是它现在的样子。

我们本质上是想制造这个芯片,但没有任何激进的限制能够做到这一点,没有工艺技术能够做到这一点。它拥有130万亿个晶体管,其中20万亿个用于计算。因此,短期内无法合理地制造它。

解决这个问题的方法,如我所描述的,是将它分解成Grace Blackwell NVLink 72机架。最终,我们实现了终极规模的提升,这是世界有史以来最极端的规模提升。

这台机器可能的计算量和内存带宽达到了每秒570太字节。这台机器中的所有指标都达到了万亿级别。它拥有每秒一千万亿次浮点运算能力(即艾克斯浮点运算)。

我们之所以想要做到这一点,是为了解决一个极端的问题。许多人误以为这个问题很容易解决,但实际上,这是一个终极的极端计算问题,那就是推理。

推理是工厂进行的Token生成过程,而工厂本身决定着收益和利润的产生或亏损。因此,必须以极高的效率和性能来构建这个工厂,因为工厂的方方面面都直接影响着服务质量、收入和盈利能力。

热点推送

本周关注

MORE