微软发布全新工具Microsoft Olive:AMD GPU性能提升9.9倍

   发布时间:2023-08-22 14:21

【智快网】8月22日消息,近日微软公司发布了一则引人注目的新闻,揭示了他们最新推出的创新性工具——Microsoft Olive。该工具被设计用于优化AMD旗下GPU显卡的性能,据称最多可以将运行模型性能提升高达9.9倍。

据悉,Microsoft Olive是一款基于Python语言开发的工具,专注于提升AMD GPU在运行大型语言模型时的表现。新闻稿中披露,通过应用Microsoft Olive,Radeon RX 7900 XTX GPU在执行Stable Diffusion模型(一种用于文本生成图像的模型)时,可明显提高性能。

这项工具的功能多样,包括模型转换、优化、量化以及自动调优等,旨在最大程度释放模型的潜能。根据AMD的官方测试,当GPU在默认的PyTorch路径下运行时,Radeon RX 7900 XTX GPU每秒仅能执行1.87次迭代。但是,一旦启用了Microsoft Olive工具进行模型优化,同一款GPU的每秒迭代次数竟然高达18.59次,性能得到了显著提升。

这一重要消息表明,Microsoft Olive工具在加速GPU运行大型语言模型方面具有巨大潜力,尤其是对于AMD GPU而言。这一突破有望为人工智能领域的研究和应用注入新的活力。

据智快网了解,Microsoft Olive的问世为加速人工智能领域的发展带来了新的机遇。无论是在科研领域还是商业应用中,这一工具都可能扮演着关键的角色。它有望推动语言模型在文本生成、图像处理等领域的应用更上一层楼,为技术进步带来更为广阔的前景。

 
标签: 微软
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群