亚马逊云科技发布新一代AI磨练芯片Amazon Trainium3

【TechWeb】12月5日音书，亚马逊云科技在2024 re:Invent巨匠大会上，发布了新一代AI磨练芯片Amazon Trainium3。

据先容，Trainium3是亚马逊云科技首款遴荐3纳米工艺制造的芯片，专为新一代前沿生成式AI责任负载的高性能需求而策画，在性能、能效和密度上确立了新标杆。搭载Trainium3的UltraServers性能瞻望将是Trn2 UltraServers的4倍，使客户在构建模子时粗略更快迭代，并在部署时提供畸形的及时性能。首批基于Trainium3的实例瞻望将在2025年末上线。

另外，会上还文牍基于Amazon Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2实例清雅可用，并推出全新的Amazon EC2 Trn2 UltraServers，让用户以优胜的性价比磨练和部署最新的东谈主工智能模子，以及改日的大讲话模子（LLM）和基础模子（FM）。

与现时基于GPU的EC2 P5e和P5en实例比较，Amazon EC2 Trn2实例的性价比进步30-40%。它配备16个Trainium2芯片，可提供高达20.8 Petaflops浮点算力的性能。

Amazon EC2 Trn2 UltraServers职业器机型配备64个互相衔尾的Trainium2芯片，遴荐NeuronLink超速互连工夫，可提供高达83.2 Petaflops浮点算力，其谈判、内存和汇聚才调是单一实例的四倍，粗略复古磨练和部署超大限制的模子。

上周，亚马逊文牍向Anthropic追加第二笔40亿好意思元投资，并加深在业务上的配合。

2024 re:Invent巨匠大会上流露，算作Anthropic与亚马逊云科技深刻配合的一部分，Anthropic已运转优化Claude模子，以便在亚马逊Trainium2上运行。

同期，亚马逊云科技正在与Anthropic共同构建一个名为Project Rainier的 EC2 UltraCluster谈判集群，该集群由Trn2 UltraServers构成，粗略在数十万个Trainium2芯片之间通过第三代低延伸的PB级EFA汇聚进行散布式模子磨练——其运算才调比Anthropic现时一代开首AI模子磨练所需算力逾越5倍以上。该方式完成后，瞻望将成为巨匠最大可用的AI谈判集群，供Anthropic构建和部署改日模子使用。（果青）

　　声明：新浪网独家稿件，未经授权圮绝转载。 -->