亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例莱芜市某某钢球股份专卖店亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马莱芜市某某钢球股份专卖店用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读相关文章
- 9月18日消息,亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5eAmazon EC2 P5e)实例现已正式可用。据了解,亚马逊云科技2024-09-24
TTS新传论文带读:老师说了,这个时代“努力”没什么用...
@TuTouSuo™️*小红书账号:秃头研究所新传考研/秃头研究所Monsters*如果你觉得自己读论文太过于盲目,不知道从哪里开始;如果你也想要通过碎片化的时间来补充和拓展知识储备;如果你想要一份直2024-09-24“史上最大IT故障”后续:影响850万台设备、需要数周才能修复
周五的全球Windows系统崩溃,需要逐一进行手动恢复。当地时间7月19日,美国安全软件巨头CrowdStrike的一次软件更新引发“史上最大IT故障”,全球数百万台Windows系统崩溃,全球企业和2024-09-24- 当地时间7月21日,美国总统拜登在社交平台上宣布,将退出2024年美国总统竞选,并支持其副手、副总统哈里斯作为民主党总统候选人。综合《纽约邮报》和“政治新闻网”等美媒报道,在拜登宣布退选后,美国前2024-09-24
进展或死亡风险降低83% 上海专家牵头的临研项目再添重磅成果
东方网记者刘轶琳9月18日报道:在日前举行的2024年欧洲肿瘤内科学会年会期间,阿斯利康的泰瑞沙奥希替尼)再添重磅成果。全球主要研究者之一,上海交通大学附属胸科医院、上海市肺部肿瘤临床医学中心主任陆舜2024-09-24- 巴黎奥运会开幕在即。南都记者日前从多个旅游平台获悉,奥运令相关国家的旅游热度持续上涨,法国机票、酒店预订量翻倍增长,在奥运会溢出效应带动下,巴黎奥运会期间,选择法国自由行的旅客较去年同期翻了五倍。此前2024-09-24
最新评论