亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。 据了解,实例上海市某某建筑科技制造厂亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马上海市某某建筑科技制造厂用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用 据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。 Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。 此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
- 最近发表
- 随机阅读
-
- 市场预期降息50基点还不够!美议员联名致信鲍威尔呼吁降息75基点
- 黎真主党袭击以色列北部致2名以军士兵死亡
- 75年数据告诉你,上海最强台风“贝碧嘉”风有多大?
- “干的就是有人机干不了的事!” 无侦
- 安徽肥东频发地震,当地处于郯庐断裂带
- 75年数据告诉你,上海最强台风“贝碧嘉”风有多大?
- 港姐决赛现场被追问月饼事件,曾志伟避而不谈!装听不见逃离现场
- 10月1日火车票今天开售!车票紧张?官方支招→
- 黄金突然飙涨!有人速度套现40多万元!机构警告:金价有望涨至3000美元
- 国际能源署:乌克兰损失超三分之二发电能力
- 黎巴嫩真主党确认其高级指挥官易卜拉欣·阿基勒丧生
- 2胜3平,恩波利队史首次单赛季意甲前5轮保持不败
- 东部战区新闻发言人就德舰过航台湾海峡发表谈话
- 网传“一游客在河南某景区意外身亡”?官方通报
- 国际能源署:乌克兰损失超三分之二发电能力
- 韩媒:韩国检方请求判处李在明2年有期徒刑
- 北京香山论坛|乌克兰前第一副外长:欧洲安全面临这个两难问题
- 网传“一游客在河南某景区意外身亡”?官方通报
- 黎巴嫩通信设备爆炸事件共导致37人死亡
- 美国众议院通过法案 加强总统候选人安保
- 搜索
-