亚马逊云科技发布新一代AI训练芯片Amazon Trainiu

【TechWeb】12月5日新闻，亚马逊云科技在2024 re:Invent寰球年夜会上，宣布了新一代AI练习芯片Amazon Trainium3。据先容，Trainium3是亚马逊云科技首款采取3纳米工艺制作的芯片，专为新一代前沿天生式AI任务负载的高机能需要而计划，在机能、能效跟密度上建立了新标杆。搭载Trainium3的UltraServers机能估计将是Trn2 UltraServers的4倍，使客户在构建模子时可能更快迭代，并在安排时供给出色的及时机能。首批基于Trainium3的实例估计将在2025岁终上线。别的，会上还发布基于Amazon Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2实例正式可用，并推出全新的Amazon EC2 Trn2 UltraServers，让用户以优胜的性价比练习跟安排最新的人工智能模子，以及将来的年夜言语模子（LLM）跟基本模子（FM）。与以后基于GPU的EC2 P5e跟P5en实例比拟，Amazon EC2 Trn2实例的性价比晋升30-40%。它装备16个Trainium2芯片，可供给高达20.8 Petaflops浮点算力的机能。Amazon EC2 Trn2 UltraServers效劳器机型装备64个彼此衔接的Trainium2芯片，采取NeuronLink超速互连技巧，可供给高达83.2 Petaflops浮点算力，其盘算、内存跟收集才能是单一实例的四倍，可能支撑练习跟安排超年夜范围的模子。上周，亚马逊发布向Anthropic追加第二笔40亿美元投资，并加深在营业上的配合。2024 re:Invent寰球年夜会上流露，作为Anthropic与亚马逊云科技深入配合的一局部，Anthropic已开端优化Claude模子，以便在亚马逊Trainium2上运转。同时，亚马逊云科技正在与Anthropic独特构建一个名为Project Rainier的 EC2 UltraCluster盘算集群，该集群由Trn2 UltraServers构成，可能在数十万个Trainium2芯片之间经由过程第三代低耽误的PB级EFA收集停止散布式模子练习——其运算才能比Anthropic以后一代当先AI模子练习所需算力超过5倍以上。该名目实现后，估计将成为寰球最年夜可用的AI盘算集群，供Anthropic构建跟安排将来模子应用。（果青） 　　申明：新浪网独家稿件，未经受权制止转载。 -->