亚马逊正准备推出其最新的AI芯片，这是其数十亿美元半导体投资的一部分，旨在减少对市场领导者英伟达的依赖，并提高其云计算服务的效率和成本效益。亚马逊云计算部门AWS的高管们正积极投资于定制芯片，以提高其数据中心的效率，从而降低亚马逊及其客户的成本。这一努力由Annapurna Labs牵头，这是一家位于奥斯汀的芯片初创公司，亚马逊于2015年以3.5亿美元的价格收购了该公司。
最新成果：Trainium 2
Annapurna的最新成果是Trainium 2，这款芯片专为训练最大的AI模型而设计。Trainium 2已经在多家公司进行测试，包括获得亚马逊40亿美元支持的OpenAI竞争对手Anthropic，以及其他公司如Databricks、德国电信、日本的理光和Stockmark。
挑战英伟达
AWS计算和网络服务副总裁Dave Brown表示：“我们希望成为运行英伟达芯片的最佳场所，但同时我们认为有一个替代选择是健康的。” 亚马逊声称，其另一款专用AI芯片Inferentia在生成AI模型响应时的运行成本已经降低了40%。Brown进一步指出：“在机器学习和AI方面，云计算的价格往往要高得多。当你节省了1000美元的40%时，这并不会真正影响你的选择。但当你在数千万美元上节省40%时，这就很重要了。”
大规模投资
亚马逊预计2024年的资本支出将达到约750亿美元，其中大部分将用于技术基础设施。首席执行官Andy Jassy在最近的财报电话会议上表示，他预计公司在2025年的支出将进一步增加。这比2023年全年的484亿美元有了显著增长。亚马逊、微软和Meta等大型云服务提供商都在进行大规模的AI支出，设计自己的数据中心芯片，以应对预期的AI增长浪潮。The Futurum Group的Daniel Newman表示：“每一家大型云服务提供商都在疯狂地向更垂直化、更同质化和集成的芯片技术堆栈迈进。”
技术优势
Annapurna的工程总监Rami Sinno强调，亚马逊的目标是从零开始构建整个系统，从硅晶圆到服务器机架，再到专有软件和架构。“要大规模做到我们做的事情真的很难。没有多少公司能做到，”Sinno说。
TechInsights的分析师G Dan Hutcheson指出，AWS的最大优势在于其芯片可以使用更少的电力，从而使数据中心更加高效，有助于降低成本。与英伟达的通用GPU相比，亚马逊可以优化其芯片以执行特定任务和服务，就像紧凑型车或掀背车一样。
尽管AWS和Annapurna在AI芯片领域取得了进展，但英伟达在AI基础设施中的主导地位依然稳固。英伟达在2024财年第二季度的AI数据中心芯片销售额达到263亿美元，与亚马逊整个AWS部门在同一季度的收入持平。
性能与选择
亚马逊避免直接将其芯片与英伟达的芯片进行性能比较，并且不提交其芯片进行独立性能基准测试。Moor Insights & Strategy的芯片顾问Patrick Moorhead表示，他相信亚马逊关于Trainium 1和Trainium 2之间性能提升4倍的声明是准确的。但他认为，提供更多的选择可能是更重要的。Moorhead补充说：“人们欣赏英伟达带来的所有创新，但没有人对英伟达拥有90%的市场份额感到舒服，这不会持续太久。”
0条评论