世界上最大的人工智能芯片刚刚将规格增加了一倍——没有增加一英寸。

大脑系统的晶圆规模引擎大约有一个大餐盘那么大。从处理器到内存,所有这些表面积都可以实现更多的功能。第一个WSE芯片,2019年发布它拥有令人难以置信的1.2万亿晶体管和40万个处理核心。它的继任者双打的一切,除了它的物理大小。

WSE-2将2.6万亿晶体管和85万个核心装在同一个餐盘上。它的芯片内存从18g增加到40g,信息传输速率从9petabytes / s增加到20petabytes / s。

不管你怎么切它,它都是野兽。

WSE-2由台湾半导体制造公司(TSMC)制造,它是TSMC从16纳米芯片制造工艺到7纳米工艺的飞跃——跳过了10纳米节点——使WSE-2的大部分收益得以实现。

这需要改变芯片的物理设计,但塞布拉斯说,他们还对每个核心进行了改进,超出了新工艺的需要。升级后的超级芯片应该更快更高效。

为什么要制造巨型计算机芯片?

虽然图形处理单元(gpu)仍然在人工智能领域占据主导地位,但它们并不是专门为人工智能设计的。相反,gpu最初是为像游戏这样需要大量图像的应用开发和使用的。

他们在人工智能和超级计算领域做出了惊人的成就,但在过去几年里,专门为人工智能制造的芯片正在不断上升。

Cerebras是竞争者之一,其他后起之势如Graphcore和SambaNova,以及更熟悉的名字如Intel和NVIDIA。

该公司喜欢将WSE-2与顶级人工智能处理器(NVIDIA的A100)进行比较,以突显它与竞争对手的不同之处。A100拥有2%的晶体管数量(542亿),其表面积略低于2%。它要小得多,但当数百或数千个芯片在一个更大的系统中连接在一起时,A100的威力会更充分地体现出来。

相比之下,ws2通过在一块硅片上尽可能多的处理和存储,降低了将所有这些芯片连接在一起的成本和复杂性。同时,消除了在分散在多个服务器机架上的大量芯片之间移动数据的需要,极大地提高了速度和效率。

该芯片的设计为其小型、高速的核心提供了专用内存,并促进了核心之间的快速通信。而且,Cerebras的编译软件使用标准框架(如PyTorch和tensorflow)与机器学习模型一起工作,使得在芯片的核心之间分配任务相当轻松。

这种方法被称为晶片规模的计算,因为芯片的大小是标准的硅片,而许多芯片通常都是从标准的硅片上切割下来的。晶片规模的计算技术已经出现多年,但“大脑”是第一个制造出商业上可行的芯片。

该芯片封装在一个名为CS-2的计算机系统中。该系统包括冷却和供电,安装在标准服务器机架的三分之一。

这家初创公司在2019年宣布该芯片后,就开始与越来越多的客户合作。葛兰素史克、劳伦斯利弗莫尔国家实验室和阿贡国家实验室(以及其他一些公司)都是Cerebras的客户,他们的合作伙伴包括制药、生物技术、制造和军事领域。许多应用都与人工智能有关,但不是全部。去年,该公司表示,国家能源技术实验室(NETL)用芯片超越了超级计算机在流体动力学的模拟中。

晶片规模会变大吗?

晶片规模的计算是否会流行还有待观察。

塞布拉斯公司表示,他们的芯片显著加快了机器学习任务的速度,并从早期客户那里获得了一些证据获得相当大的收益支持这一点。但目前还没有独立的面对面比较。例如,塞布拉斯和其他大多数人工智能硬件初创公司都没有参与最近的MLperf AI系统基准测试。(顶级系统几乎都使用NVIDIA图形处理器来加速算法。)

根据IEEE频谱赛布拉斯说,他们宁愿让感兴趣的买家在自己的特定神经网络上测试系统,而不是在一个更普遍、可能不太适用的基准上销售。人工智能分析师卡尔·弗罗因德(Karl Freund)表示,这种方法并不罕见,“每个人都在运行自己为自己的业务开发的模型。对买家来说,这是唯一重要的事情。”

值得注意的是,WSE只能处理足够小的任务,以适应其芯片。该公司表示,它遇到的最合适的问题都可以解决,而ws -2提供的空间甚至更大。尽管如此,机器学习算法的规模仍在迅速增长。这也许就是塞布拉斯热衷于注意到这一点的原因两个甚至三个CS-2可以放入一个服务器柜中

最终,WSE-2对于一个或几个gpu就能完成的较小任务没有意义。目前,该芯片被用于大型的、需要大量计算的科学研究项目中。目前的应用包括癌症研究和药物发现、重力波检测和融合模拟。Cerebras首席执行官兼联合创始人安德鲁·费尔德曼(Andrew Feldman)表示,它也可能提供给对云计算有短期、不那么密集需求的客户。

芯片的市场是小众的,但是费尔德曼说HPC线这比他在2015年预期的要大,而且随着人工智能的新方法不断涌现,这一数字仍在增长。“市场的发展速度快得令人难以置信,”他说。

人工智能芯片之间日益激烈的竞争值得关注。最终可能会有几种适合目标的方法,或者有一种可以晋升到最高层。

至少就目前而言,人们似乎对巨型计算机芯片的慷慨相助有些兴趣。

图片来源:大脑

Jason是Singularity Hub的总编辑。斯洛伐克捷克比分直播在转向科学技术之前,他做过金融和经济方面的研究和写作。他对几乎所有的事情都很好奇,可悲的是他只知道其中的一小部分。