谷歌发布AI Hypercomputer,软硬结合引领AI计算革命

   发布时间:2023-12-07 17:08

【智快网】12月7日消息,谷歌今日发布了一项引人注目的新举措,不仅推出了全新的大语言模型Gemini 1.0和云端AI芯片TPU v5p,还推出了名为AI Hypercomputer的超级电脑架构。

据了解,AI Hypercomputer电脑架构自称采用了一种“软硬结合”的方式,将专为AI优化的硬件、开源软件以及主流深度学习框架集成在一起。此外,该架构还以其灵活的定价模式脱颖而出,旨在满足商业和研究部门的需求。

传统的深度学习硬件通常依赖于硬件性能来提高AI计算速度,但AI Hypercomputer超级电脑架构通过实现软件和硬件的协同设计,提高了AI训练的效率。

谷歌表示,AI Hypercomputer支持JAX、TensorFlow和PyTorch等深度学习框架,同时还整合了谷歌的Kubernetes Engine(GKE)和Compute Engine等基础架构服务,以及Multislice Training和Multihost Inferencing等软件。

与此同时,谷歌强调了AI Hypercomputer在定价费率方面的独特性,提供了更加灵活的消费模式。谷歌引入了一项名为“Dynamic Workload Scheduler”的平台计费标准,包括“Flex Start”和“Calendar”两种模式。

Flex Start主要用于微调模型、承载学术实验以及较短的训练任务,还适用于蒸馏、离线推理以及批量性的任务,其计费标准主要基于所使用的GPU和TPU数量。而Calendar模式则允许用户为AI任务预留开始时间,特别适用于需要精确的开始时间和模型训练持续时间的任务,计费标准主要基于时间长度。

这一新的AI Hypercomputer电脑架构将为各类AI应用提供更大的灵活性和效率,有望在商业和研究领域产生积极影响。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群