开云-亚马逊云科技宣布Amazon EC2 P5e 实例正式可用

[导读]北京2024年9月18日 /美通社/ -- 亚马逊云科技公布由英伟达H200 GPU供给撑持的 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。亚马逊云科技是首个将英伟达H200 GPU用在出产情况的领先云供给商。...

北京2024年9月18日 /美通社/ -- 亚马逊云科技公布由英伟达H200 GPU供给撑持的 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。亚马逊云科技是首个将英伟达H200 GPU用在出产情况的领先云供给商。与基在英伟达H100 GPU的Amazon EC2 P5实例比拟,Amazon EC2 P5e实例GPU内存容量晋升1.7倍,GPU内存宽带晋升1.5倍。Amazon EC2 P5e很是合用在复杂的年夜型说话模子(LLM)和多模态根本模子(FM)的练习、微和谐推理,用在撑持最刻薄和计较密集型的生成式AI利用,如问答、代码生成、视频和图象生成、语音辨认等。

Amazon EC2 P5e实例供给8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时供给第三代AMD EPYC处置器,2TB系统内存和30TB当地NVMe存储。Amazon EC2 P5e实例还供给3,200 Gbps的聚合收集带宽并撑持GPUDirect RDMA,从而可以或许绕过CPU进行节点间通讯,实现更低的延迟和高效的横向扩大机能。Amazon EC2 P5e实例具有的更高的内存带宽、更年夜的GPU内存容量和对更年夜的batch sizes的撑持,从而显著晋升客户工作负载的机能、下降本钱并简化运营。

Amazon EC2 P5e实例现已可经由过程Amazon EC2 Capacity Block for ML东西拜候并在美国东部(俄亥俄州)区域正式可用。

另外,亚马逊云科技还公布将推出Amazon EC2 P5en实例,经由过程将英伟达H200 GPU与定制的第四代英特尔Xeon可扩大处置器相连系撑持PCle Gen5,将供给高达四倍的CPU和GPU之间的带宽,下降收集延迟,进一步提高工作负载机能。

欲知详情,请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上,软通动力信息手艺(团体)股分有限公司(以下简称 软通动力 )与长三角投资(上海)有限...

要害字: BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日,高端全合成润滑油品牌美开云体育app孚1号联袂品牌体验官周冠宇,开启全新路程,助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中,周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字: BSP 汽车制造

上一篇:开云-软件 下一篇:开云-Dukosi 用于优化电池系统的电池监控芯片组已开始批量生产