最高9.9倍,微软推出Olive工具:大幅优化AMDGPU运行AI模型性
来源:IT之家 发布时间:2023-08-22 16:00 作者:IT之家 阅读量:6376
,微软公司近日发布新闻稿,介绍了全新的 Microsoft Olive 工具,最多可以让 AMD 旗下的 GPU 显卡运行模型性能提升 9.9 倍。
Microsoft Olive 是由 Python 语言开发的工具,可以大幅优化 AMD GPU 运行大语言模型的性能。
新闻稿中表示 Radeon RX 7900 XTX GPU 在启用 Microsoft Olive 工具之后,以运行 Stable Diffusion 模型为例,基于文本生成图像性能明显提升。
Microsoft Olive 可以转换、优化、量化和自动调优模型,从而最大化性能输出。AMD 在官方测试中表示,在默认 PyTorch 路径上运行,AMD Radeon RX 7900 XTX 每秒提供 1.87 次迭代;不过开启 Microsoft Olive 工具优化模型之后,该 GPU 每秒可以迭代 18.59 次。
IT之家在此附上博文链接,感兴趣的用户可以深入阅读。
广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
站点精选
- 安然纳米发光体—胡感:我们也许改变不了这个世
- 神舟十四号航天员乘组进行首次出舱活动,预计约
- 2022服贸会开幕 京东企业业务分享大中小
- 农业农村部:抓好农业防灾减灾突出实效用足用好
- 博闻科技上半年净利增长77.17%水泥粉磨站
- 特斯拉在北京建成100座超级充电站,车主平均
- 苹果AppleWatchSeries8将有新
- 和讯曝财报丨泛海控股2022上半年总营收39
- 华为PC应用引擎开启尝鲜招募:号称“电脑上的
- 柯利达:2022年半年度净利润约-2906万
- 东宝生物:“胶原+”战略实现突破营收净利双双
- 威尔士健身房刚办卡就关店?上海阿姨无语:故意
- 天风证券给予立讯精密买入评级
- 圣农发展获开源证券买入维持评级:近期获8份券
- PVC改性剂行业迎重要机遇期日科化学上半年净
- 梅赛德斯奔驰C350eL插电车上市:21分钟