Huawei представила архитектуру для работы до миллиона ИИ-чипов — Live Science
Huawei представила архитектуру Peerium, которая, по заявлению компании, в перспективе позволит объединить до миллиона чипов для искусственного интеллекта в одну вычислительную систему. Разработку представили 17 сентября на ежегодной конференции Huawei CONNECT, сообщает Live Science.
Обычно чипы для обучения базовых ИИ-моделей размещают на отдельных серверах, которые передают данные по сети и распределяют вычислительные задачи. По данным Huawei, Peerium должна поддерживать быстрый обмен данными между чипами в нескольких серверных стойках даже после масштабирования системы до сотен тысяч устройств.
Три составляющие Peerium
В Huawei заявили, что архитектура опирается на вложенный параллелизм, унифицированную адресацию памяти и прямые соединения между компонентами. Вложенный параллелизм позволяет разбивать крупные вычислительные задачи на меньшие и распределять их между иерархическими группами чипов, работающими параллельно.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Унифицированная адресация памяти должна позволить процессорам получать доступ к памяти других серверов, а не только собственной. Прямые соединения между компонентами, в свою очередь, должны обеспечить обмен данными без промежуточных звеньев. По утверждению Huawei, эти подходы должны помочь эффективнее использовать вычислительные ресурсы для обучения и инференса ИИ-моделей.
Технология UnifiedBus
Для Peerium Huawei разработала собственную технологию соединения UnifiedBus. Ротационный председатель компании Эрик Сюй заявил Associated Press, что её пропускная способность между серверными стойками может достигать 800 ГБ в секунду. Для сравнения он привёл показатель 200 ГБ в секунду для конфигурации с NVLink внутри стоек и InfiniBand между ними.
Представители Huawei также заявили, что системы на базе Peerium смогут обучать модели с числом параметров до 40 триллионов. Компания одновременно анонсировала Atlas 950 SuperPoD — систему с более чем 8 тысячами ИИ-ускорителей Ascend 950DT. Huawei ожидает начать поставки SuperPoD не позднее начала следующего года. Один SuperCluster на 256 тысяч вычислительных карт, по данным компании, уже развёртывается и тестируется.
