华为发布可支持多达100万颗AI芯片协同工作的架构——Live Science

华为发布了Peerium架构。该公司表示，这一架构未来可将多达100万颗人工智能芯片整合为一个计算系统。这项开发成果于9月17日在年度华为CONNECT大会上亮相，Live Science报道。

通常，用于训练基础AI模型的芯片被部署在独立服务器上，这些服务器通过网络传输数据并分配计算任务。华为称，即使系统扩展至数十万台设备，Peerium也应支持多个服务器机柜中芯片之间的快速数据交换。

Peerium的三个组成部分

华为表示，该架构基于嵌套并行、统一内存寻址以及组件之间的直接连接。嵌套并行可将大型计算任务拆分为更小的任务，并将其分配给并行运行的分层芯片组。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

统一内存寻址旨在让处理器能够访问其他服务器的内存，而不仅限于自身内存。与此同时，组件之间的直接连接旨在实现无需中间环节的数据交换。华为称，这些方法应有助于更高效地利用计算资源进行AI模型训练和推理。

UnifiedBus技术

华为为Peerium开发了自主互连技术UnifiedBus。公司轮值董事长徐直军向美联社表示，其服务器机柜之间的带宽可达到每秒800GB。作为比较，他列举了机柜内使用NVLink、机柜之间使用InfiniBand的配置，其带宽为每秒200GB。

华为代表还表示，基于Peerium的系统将能够训练参数数量多达40万亿的模型。该公司同时发布了Atlas 950 SuperPoD，这一系统配备超过8000个Ascend 950DT AI加速器。华为预计最迟于明年年初开始交付SuperPoD。据该公司称，一个配备25.6万张计算卡的SuperCluster已在部署和测试中。