Google推出两款用于云服务的新型AI TPU芯片——TechCrunch
Google推出了两款用于人工智能任务的新版本自研张量处理器——TPU 8tx和TPU 8i Max。它们补充了该公司4月宣布的第八代TPU芯片,并分别面向模型的机密处理和高负载任务,据TechCrunch报道。
模型的机密处理
TPU 8tx是在TPU 8t基础上、与AMD合作开发的,旨在用于AI模型的机密训练和运行。Google表示,保护机制直接集成在硬件层面:敏感数据和模型权重即使在被积极使用时,也应保持受保护和隔离状态。
该芯片还配备了专用推理网络,可在模型训练的同时并行执行推理任务。Google指出,这可能使得在运行过程中蒸馏和训练更小的模型成为可能,而无需在设备之间转移公司的专有数据。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
单个封装中拥有更多内存
TPU 8i Max实际上在一个封装中结合了两枚面向推理的TPU 8i芯片,这两款芯片于4月推出。与单枚TPU 8i相比,这使内存容量、计算能力和带宽均增加一倍。
Google表示,这将使AI模型能够在查询期间处理更广泛的信息量。扩大自研处理器产品线是该公司努力降低其云业务对其他制造商芯片依赖的一部分。