Huawei zaprezentował architekturę do obsługi nawet miliona chipów AI — Live Science
Huawei zaprezentował architekturę Peerium, która, według deklaracji firmy, w perspektywie może umożliwić połączenie do miliona chipów sztucznej inteligencji w jeden system obliczeniowy. Rozwiązanie przedstawiono 17 września podczas dorocznej konferencji Huawei CONNECT, informuje Live Science.
Zazwyczaj chipy do trenowania bazowych modeli AI umieszcza się na oddzielnych serwerach, które przesyłają dane przez sieć i rozdzielają zadania obliczeniowe. Według Huawei Peerium ma wspierać szybką wymianę danych między chipami w kilku szafach serwerowych nawet po rozszerzeniu systemu do setek tysięcy urządzeń.
Trzy elementy Peerium
Huawei oświadczył, że architektura opiera się na zagnieżdżonym przetwarzaniu równoległym, ujednoliconym adresowaniu pamięci oraz bezpośrednich połączeniach między komponentami. Zagnieżdżone przetwarzanie równoległe umożliwia podział dużych zadań obliczeniowych na mniejsze i rozdzielenie ich między hierarchiczne grupy chipów działających równolegle.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Ujednolicone adresowanie pamięci ma umożliwić procesorom dostęp do pamięci innych serwerów, a nie tylko własnej. Bezpośrednie połączenia między komponentami mają z kolei zapewnić wymianę danych bez pośrednich ogniw. Według Huawei rozwiązania te powinny pomóc efektywniej wykorzystywać zasoby obliczeniowe do trenowania i inferencji modeli AI.
Technologia UnifiedBus
Dla Peerium Huawei opracował własną technologię połączeń UnifiedBus. Rotacyjny przewodniczący firmy Eric Xu powiedział Associated Press, że jej przepustowość między szafami serwerowymi może sięgać 800 GB na sekundę. Dla porównania podał wartość 200 GB na sekundę dla konfiguracji z NVLink wewnątrz szaf i InfiniBand między nimi.
Przedstawiciele Huawei oświadczyli również, że systemy oparte na Peerium będą mogły trenować modele liczące do 40 bilionów parametrów. Firma jednocześnie zapowiedziała Atlas 950 SuperPoD — system z ponad 8 tysiącami akceleratorów AI Ascend 950DT. Huawei spodziewa się rozpocząć dostawy SuperPoD nie później niż na początku przyszłego roku. Jeden SuperCluster z 256 tysiącami kart obliczeniowych jest już wdrażany i testowany, według danych firmy.
