AWS推出TorchNeuron，将AI应用迁移至Trainium——TechCrunch

Amazon Web Services推出了TorchNeuron工具，用于在其自有Trainium芯片上运行AI应用。根据TechCrunch的报道，开发者只需更改一行配置，即可在Trainium上运行使用PyTorch编写的应用，无需重写程序代码。

TorchNeuron针对PyTorch进行了适配。PyTorch是一套用于创建、训练和运行人工智能模型的开源工具。Amazon表示，约85%的AI应用是使用PyTorch编写的。该框架最初由Facebook开发，并自2022年起成为Linux Foundation的一部分。

与Nvidia的竞争

AWS表示，其目标是降低PyTorch开发者对Nvidia硬件的依赖。多年来，Nvidia一直确保其CUDA软件与PyTorch高度兼容，因此其硬件成为许多AI应用的标准选择。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

PyTorch用户已经可以通过更改配置，将应用迁移至AMD图形处理器或Apple芯片。与此同时，AWS表示，Trainium不仅提供与PyTorch的兼容性，还能访问Amazon的整个云基础设施。该公司将这一方式与主要使用Nvidia硬件的专业云服务提供商相对比。

训练与推理

AWS Annapurna Labs技术软件副总裁科林·布雷斯表示，Trainium既可用于模型训练，也可用于推理，即使用完成的模型执行任务。他表示，这可能改善AI完整工作周期的经济效益。

布雷斯还表示，Deepgram服务在转向具备原生PyTorch支持的Trainium后，在保持生产级准确性的同时，每花费一美元可多处理70%的音频。AWS表示，正致力于向PyTorch核心项目提交修改，以减少该框架对特定芯片的绑定，并使其更加独立于硬件。