Google представила два новых ИИ-чипа TPU для облачных сервисов — TechCrunch
Google представила два новых варианта собственных тензорных процессоров для задач искусственного интеллекта — TPU 8tx и TPU 8i Max. Они дополняют восьмое поколение чипов TPU, которое компания анонсировала в апреле, и предназначены соответственно для конфиденциальной работы с моделями и больших нагрузок, сообщает TechCrunch.
Конфиденциальная работа с моделями
TPU 8tx, разработанный при участии AMD на основе TPU 8t, предназначен для конфиденциального обучения и запуска ИИ-моделей. По заявлению Google, защита интегрирована непосредственно на аппаратном уровне: чувствительные данные и веса моделей должны оставаться защищенными и изолированными даже во время активного использования.
Чип также получил специальную сеть для инференса, позволяющую выполнять задачи рассуждения параллельно с обучением модели. В Google отметили, что это может позволить дистиллировать и обучать меньшие модели в процессе работы, не перемещая собственные данные компании между устройствами.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Больше памяти в одном корпусе
TPU 8i Max фактически объединяет в одном корпусе два ориентированных на инференс чипа TPU 8i, представленных в апреле. Это удваивает объем памяти, вычислительную мощность и пропускную способность по сравнению с одним TPU 8i.
По данным Google, благодаря этому ИИ-модели смогут обрабатывать более широкий объем информации во время запросов. Расширение линейки собственных процессоров является частью усилий компании по снижению зависимости ее облачного бизнеса от чипов других производителей.
