亚马逊云科技推出三款由自研芯片支持的新Amazon EC2 实例

今日,在亚马逊云科技re:Invent全球大会上,亚马逊云科技宣布推出三款由自研芯片支持的新Amazon Elastic Compute Cloud (Amazon EC2)实例,提升Amazon EC2 运行工作负载的性能、成本和能源效率。

这三款由自研芯片支持的新Amazon EC2实例分别为:

Amazon EC2 C7g实例由新的Amazon Graviton3处理器支持,与Amazon Graviton 2处理器支持的当前一代C6g实例相比,计算密集型工作负载性能提高25%

Amazon EC2 Trn1实例由Amazon Trainium芯片支持,在Amazon EC2中为绝大多数机器学习模型训练提供最佳性价比及最快的训练速度

Amazon EC2 Im 4gn/Is4gen/I4i实例配备新的Amazon Nitro SSDs,可为I/O密集型工作负载提供最佳存储性能

Amazon EC2 C7g实例

由Amazon Graviton3处理器支持的C7g实例与由 Graviton2 处理器支持的当前一代 C6g 实例相比,可将计算密集型工作负载性能提高多达25%。Amazon Graviton3处理器与Graviton2相比,为科学计算、机器学习和媒体编码工作负载提供高达2倍的浮点运算性能,为加密工作负载速度提升高达2倍,为机器学习工作负载提供高达3倍的性能。Amazon Graviton3处理器的能效也更高,在相同性能下,与同类型EC2实例对比,可节省高达60%的能源消耗。

C7g实例是云中第一个采用最新DDR5内存的实例,与基于Amazon Graviton2的实例相比,它提高了50%的内存带宽,从而提高了科学计算等内存密集型应用的性能。与基于Amazon Graviton2的实例相比,C7g实例的网络带宽也高出20%。C7g 实例支持 Elastic Fabric Adapter (EFA),允许应用程序直接与网络接口卡通信,提供更低且更一致的延迟,提高需要大规模并行处理(如 HPC 和视频编码)的应用程序的性能。C7g实例现已提供预览版。

Amazon EC2 Trn1实例

越来越多企业会选择构建、训练和部署机器学习模型来重塑应用程序。为了确保提高准确性,这些机器学习模型必须构建在越来越多的训练数据上,导致其训练成本越来越高,这会限制客户能够部署的机器学习模型数量。亚马逊云科技提供了采用NVIDIA A100 Tensor Core GPU的EC2 P4d实例和采用Habana Labs  Gaudi 加速器的 EC2 DL1 实例。但即使拥有当今最快的加速实例,训练持续变大的机器学习模型仍然是非常昂贵和耗时的。

由Amazon Trainium芯片支持的Trn1实例为在Amazon EC2中进行深度学习模型训练提供最佳性价比以及最快的训练速度,与P4d实例相比,通过Trn1实例训练深度学习模型的成本降低多达40%。Trn1实例提供800Gbps EFA网络带宽(比最新基于GPU的EC2实例高两倍),并与Amazon FSx for Lustre高性能存储集成,让客户可以启动具有EC2 UltraClusters功能的Trn1实例。

通过EC2 UltraClusters,开发人员可以将机器学习训练扩展到一万多个与 PB 级网络互连的 Trainium 加速器,让客户按需访问超算级性能,即便是最大型和最复杂的模型,训练时间也可以从几个月缩短到几天。Trn1实例现已提供预览版。

Amazon EC2 Im 4gn/Is4gen/I4i实例

通常,I3/I3en存储优化型实例会用于需要直接访问本地存储数据集的应用程序,比如横向扩展的事务型和关系型数据库(如MySOL和PostgreSQL),NoSQL数据库(如Cassandra、MongoDB、Redis等),大数据(如Hadoop)和数据分析工作负载(如Spark、Hive、Presto等)。I3/I3en实例以低成本提供非易失性内存标准(NVMe) SSD支持的实例存储,针对低延迟、高 I/O 性能和吞吐量进行了优化。I3/I3en实例的快速事务处理能力受到了开发者的青睐,但随着其工作负载的不断升级——在更大规模的数据集上处理更复杂的事务,他们需要在不增加成本的情况下获得更高的计算性能和更快的数据访问速度。

Im4gn/Is4gen/I4i实例将会通过架构最大限度提高I/O密集型工作负载的存储性能。通过自研的 Amazon Nitro SSDs ,Im4gn/Is4gen/I4i实例提供高达 30 TB 的 NVMe 存储,与上一代I3实例相比,I/O 延迟降低了 60%,延迟可变性降低了 75%,从而最大限度地提高了应用程序性能。Amazon Nitro SSDs通过优化存储堆栈、虚拟化管理程序和硬件与Amazon Nitro 系统紧密集成。与使用商用SSD相比,亚马逊云科技同时管理Amazon Nitro SSDs的硬件和固件,使SSD更新交付速度更快。

Im4gn 实例(现已可用)采用 Amazon Graviton2 处理器,与 I3 实例相比,性价比提高多达 40%,每 TB存储成本降低多达 44%。Is4gen 实例(现已可用)也采用 Amazon Graviton2 处理器,与 I3en 实例相比,每 TB 存储成本降低多达 15%,计算性能提高多达 48%。I4i实例(即将可用)采用英特尔第三代可扩展处理器(Ice Lake),与当前一代 I3 实例相比,计算性能提高多达 55%。