谷歌云发布A3虚拟机实例:满足生成AI和语言模型需求

   发布时间:2023-08-31 11:52

【智快网】8月31日消息,谷歌云在今天的云 Next 大会上发布了备受期待的 A3 虚拟机实例,预计将于下个月上线。这款虚拟机实例引起了广泛关注,因为它具备了强大的性能和功能,能够满足生成式人工智能和大型语言模型的训练和服务需求。

A3 实例的最大卖点在于配备了英伟达 H100 Tensor Core GPU,这意味着它在处理AI任务和训练大型模型时将具备出色的性能表现。据悉,在今年5月的谷歌云 I/O 开发者大会上,谷歌云首次宣布了 A3 实例的相关信息。这款实例不仅搭载了第4代英特尔至强可扩展处理器,还拥有高达2TB DDR5-4800内存。更令人瞩目的是,A3 实例配备了8张英伟达 H100“Hopper”GPU,并通过NVlink 4.0和NVSwitch实现了惊人的3.6 TBps的对分带宽。

这款新型的 A3 超级计算机被专门设计用于训练和服务那些对计算性能要求极高的人工智能模型。这些模型推动着当前生成式人工智能和大型语言模型的创新。据智快网了解,A3超级计算机预计将能够提供高达26 exaFlops的人工智能性能,这将是一项令人瞩目的技术成就。

除了A3虚拟机实例,谷歌云还在今天的发布会上介绍了全新的TPU v5e,这是目前为止最具成本效益和可访问性的云TPU。这些TPU(张量处理器)或定制ASIC(应用特定集成电路)专门用于加速人工智能和机器学习工作负载。据SDxCentral报道,TPU v5e相较于前代产品,在训练性能方面每美元提高了一倍,在推理性能方面每美元提高了2.5倍,这意味着用户可以以更高的效率运行复杂的AI任务。

综合来看,谷歌云在本次云 Next 大会上的发布展示了其在人工智能领域持续投入的决心,A3虚拟机实例和TPU v5e的推出将进一步推动人工智能和机器学习的发展,为用户提供更加强大、高效的计算资源。

 
标签: 谷歌
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群