12月4日音信,亚马逊AWS本日文书,基于其里面团队所诞生AI西宾芯片Trainium2的Trn2实例平凡可用,并推出了Trn2UltraServer大型AI西宾系统性吧有你,同期还发布了下代更先进的3nm制程Trainium3芯片。
▲Trainium2芯片
单个Trn2实例包含16颗Trainium2芯片,各芯片间遴荐超高速高带宽低延伸NeuronLink互联,可提供20.8petaflops的峰值算力,性花都合适数B参数大小模子的西宾和部署。
亚马逊声称Trn2实例与现时一代基于GPU的EC2P5e和P5en实例比拟性价比耕作了30-40%性吧有你。
▲Trn2实例劳动器机架
而更大边界的Trn2UltraServer则用NeuronLink团员了4台Trn2劳动器,统共包含64颗Trainium2芯片,算力峰值进一步线性膨胀到83.2petaflops,能得意当今宇宙上最大边界模子的西宾和部署需求。
▲Trn2UltraServer
亚马逊还正与其投资的AI模子企业Anthropic相助,共同构建一个名为ProjectRainier的EC2UltraCluster巨型计较集群,该集群包含盛大Trn2UltraServer,统共领罕有十万颗Trainium2芯片。
丝袜美腿视频IT之家获悉,该集群完成后有望成为迄今截止公开的最大AI计较集群,合座算力达Anthropic当今用于西宾伊始进Claude模子所需量的5倍以上。
亚马逊AWS还公布了下代Trainium3AI西宾芯片性吧有你,这亦然AWS首款遴荐3nm制程的芯片家具。亚马逊暗示基于Trainium3的UltraServer性能可达Trn2UltraServer的4倍,而首批基于Trainium3的实例瞻望将于2025年底推出。