堆代码网讯
当地时间周一,亚马逊云科技正式发布名为TorchNeuron的开发工具,可帮助AI初创企业轻松将旗下AI应用迁移至亚马逊自研AI芯片Trainium上运行。此举直接瞄准英伟达赖以成为AI应用默认硬件选择的软件生态优势,向这家AI硬件龙头发起正面冲击。TorchNeuron完全适配PyTorch生态——这款免费开源工具是开发者搭建、训练、部署AI模型的主流框架。亚马逊官方表示,基于PyTorch开发的AI应用仅需修改一行配置即可在Trainium芯片上运行,无需重写任何业务代码。

据亚马逊统计,当前约85%的AI应用都基于PyTorch开发。该框架最初由Meta旗下Facebook团队研发,2022年起交由Linux基金会主导维护。过去数年间,英伟达持续打磨CUDA软件生态——这套支撑AI应用在英伟达GPU及其他硬件上运行的底层基础设施,实现了对PyTorch生态的无缝适配,让英伟达硬件几乎成为PyTorch开发的默认选项,深度嵌入整个开发流程。
TorchNeuron基于PyTorch原生逻辑改造,熟悉PyTorch的开发者无需额外学习即可快速上手。亚马逊并非首个尝试将自研芯片接入PyTorch生态的厂商,目前开发者仅需修改简单配置,就能将PyTorch应用迁移至AMD GPU甚至苹果自研芯片上运行。但亚马逊强调,将应用迁移至Trainium平台的价值远不止操作便捷,还能让AI初创企业直接接入亚马逊云的全栈云服务能力。AWS直言,相比大量绑定英伟达硬件的新兴云厂商(如Coreweave、Nebius、Firmus),选择AWS对初创企业而言是更优方案。
“你是在AWS的完整生态上搭建业务,而非押注单一算力服务商,被迫从零搭建周边配套体系。”AWS旗下自研芯片部门Annapurna Labs技术软件副总裁Colin Brace在接受TechCrunch邮件采访时表示,“在AWS上,从原型到量产的全链路基础设施已经就绪,创业者可以快速推进业务,在需要时随时完成弹性扩容。”
AWS表示,Trainium芯片可同时承载AI模型训练与推理任务(即完成模型训练后投入实际使用,比如响应用户提问),且与初创企业所需的全栈云基础设施深度整合,即便AWS的单Token定价并非行业最低,整体方案依然能为企业大幅降低综合成本。“Trainium的核心价值在于极致的性价比,同时它是训练推理一体化的统一平台,能大幅优化全链路业务负载的投入产出比。”Brace补充道,“以AI语音服务商Deepgram为例,他们基于原生PyTorch支持迁移至Trainium平台后,在保持生产级精度的前提下,每投入1美元可处理的音频数据量提升了70%。”Deepgram是AI语音赛道头部厂商,与ElevenLabs直接竞争。
但亚马逊的目标远不止为PyTorch开发者提供一条便捷的云迁移路径。
亚马逊同时宣布,将推动PyTorch框架摆脱对英伟达的默认绑定,相关改造代码将直接贡献至PyTorch官方主项目。在本次发布新工具的官方博客中,亚马逊明确表示:“我们的布局不止局限于自家硬件。团队将向PyTorch上游社区提交代码变更,联合社区移除框架中与特定芯片强绑定的逻辑,最终目标是让所有开发者都能用上硬件中立的PyTorch框架,而不只是Trainium的用户。”
这套策略显然对所有英伟达的硬件、云服务竞争对手都十分友好,而PyTorch的核心设计初衷,正是帮开发者屏蔽AI代码在不同硬件上运行的繁琐适配难题。后续还需观察,这种深度解绑英伟达的改造,是否真如亚马逊承诺的那样为开发者带来更多选择、降低使用成本,还是会徒增更多配置层面的额外负担。
无论最终结果如何,一旦亚马逊成功实现PyTorch与英伟达的深度解绑,对这家GPU巨头造成的冲击,将远不止应对几款竞品芯片那么简单。正如Brace所说:“这件事的核心意义,是彻底打破长期剥夺开发者真实选择权的生态锁定。”