亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例深圳市某某玩具有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马深圳市某某玩具有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读- ·联合国秘书长:苏丹武装冲突实现停火是当务之急
- ·运动30分钟后才开始消耗脂肪……是真是假?|谣言终结站
- ·数字“浪潮”
- ·网友称出租车司机将两女子反锁车内等拼车,南昌市交通运输局回应
- ·黎真主党称以色列侵略行径必将受到惩罚 以方未正面回应
- ·运动30分钟后才开始消耗脂肪……是真是假?|谣言终结站
- ·500亿件 快递业强劲动力折射出中国经济回升向好
- ·财报月后A股怎么买?券商5月金股电子权重第一,比亚迪最热
- ·以军称黎真主党军事指挥系统“几乎被彻底瓦解”
- ·智汇科普·科普中国智库专家访谈丨李象益: 创新是科普事业的灵魂
- ·肠胃药、抗过敏药迎销售小高峰
- ·国家野外科学观测研究站观测技术规范宣贯与应用研讨会在京举办
- ·于正曝希望吴谨言成为赵丽颖?有目标是好事,粉丝盼她俩合作
- ·发射成功!看神舟十八号载人飞船的技术“绝活”
- ·波音“星际客机”飞船首次载人试飞被推迟
- ·业界:以ESG创新实践引领化妆品行业可持续发展