Google zaprezentował dwa nowe chipy TPU do AI dla usług chmurowych — TechCrunch

Google zaprezentował dwa nowe warianty własnych procesorów tensorowych do zadań sztucznej inteligencji — TPU 8tx i TPU 8i Max. Uzupełniają one ósmą generację chipów TPU, którą firma ogłosiła w kwietniu, i są przeznaczone odpowiednio do poufnej pracy z modelami oraz dużych obciążeń, informuje TechCrunch.

Poufna praca z modelami

TPU 8tx, opracowany z udziałem AMD na bazie TPU 8t, jest przeznaczony do poufnego trenowania i uruchamiania modeli AI. Według Google ochrona została zintegrowana bezpośrednio na poziomie sprzętowym: wrażliwe dane i wagi modeli mają pozostawać chronione i odizolowane nawet podczas aktywnego użycia.

Chip otrzymał także specjalną sieć do inferencji, która umożliwia wykonywanie zadań rozumowania równolegle z trenowaniem modelu. Google zaznaczył, że może to umożliwić destylację i trenowanie mniejszych modeli w trakcie działania, bez przenoszenia własnych danych firmy między urządzeniami.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Więcej pamięci w jednej obudowie

TPU 8i Max faktycznie łączy w jednej obudowie dwa układy TPU 8i ukierunkowane na inferencję, zaprezentowane w kwietniu. Podwaja to pojemność pamięci, moc obliczeniową i przepustowość w porównaniu z pojedynczym TPU 8i.

Według Google dzięki temu modele AI będą mogły przetwarzać szerszy zakres informacji podczas zapytań. Rozszerzanie linii własnych procesorów jest częścią działań firmy na rzecz zmniejszenia zależności jej biznesu chmurowego od chipów innych producentów.