不止 CPU,苹果 M1 Mac 现已支持在 PyTorch 训练中用 GPU 加速
消息来源:baojiabao.com 作者: 发布时间:2024-05-19
一直以来,Pytorch 在 Mac 上仅支持使用 CPU 进行训练。就在刚刚,Pytorch 官方宣布,其最新版 v1.12 可以支持 GPU 加速了。只要是搭载了 M1 系列芯片的 Mac 都行。
这也就意味着在 Mac 本机用 Pytorch"炼丹"会更方便了!
训练速度可提升约 7 倍
此功能由 Pytorch 与 Apple 的 Metal 工程团队合作推出。它使用 Apple 的 Metal Performance Shaders (MPS) 作为 PyTorch 的后端来启用 GPU 加速训练。
为了优化计算性能,MPS 还针对 Metal GPU 系列的独特特性对每个内核进行了微调。
Metal 是一个类似 OpenGL 的框架,只不过 OpenGL 适用于各平台的移动端 GPU 渲染和计算,Metal 专用于 iOS / MacOS 平台,不过也兼顾了性能和易用性。
MPS 就是一套基于 Metal 框架的库,直接调用即可使用 GPU 的高性能进行图形处理、构建卷积神经网络等工作。
苹果官方在搭载了 M1 Ultra、20 核 CPU、64 核 GPU、128GB RAM 和 2TB SSD 的 Mac Studio 上进行了测试。(这阵容差不多能算是豪华配置了)。
他们分别训练了 batch size 为 128 的 ResNet50、batch size 为 64 的 HuggingFace BERT,以及 batch size=64 的 VGG16。
从下图中我们可以发现,相比使用 CPU 加速,使用 GPU 可将模型训练速度提高约 7 倍,评估(evaluation)速度则最高能提约 20 倍。
看到这儿,有网友开始好奇它与搭载了 Nvidia GPU 的 laptop 相比性能如何。
有人表示,虽说目前 M1 的原始计算性能比不上英伟达的产品,但功耗方面还不错。未来苹果很有可能慢慢追上性能。总的来说,Mac Studio 现在看起来实在太香了。
他进一步解释道:"毕竟它是你花 4800 美元就能买到的最便宜、包含 128GB GPU 内存的机器。现在有了基于 GPU 加速的 PyTorch 支持,完全可以用来训练大模型、配置大的 batch size。对于我所做的那种 DL 工作,数据加载比实际的原始计算能力更容易成为瓶颈。"
你心动了吗?现在就试试?
只需保证你的 macOS 操作系统在 12.3 版本及以上,且安装了 arm64 原生 Python,然后去官网下载最新的 Pytorch 预览版就可以了。
地址:
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/
2022-12-19 17:22:50相关文章
- 美国法院裁定阿里须为Squishmallows玩具侵权案答辩
2023-12-28 19:59:34
- 小米汽车传员工3700人 雷军称小米汽车不可能卖9万9
2023-12-28 19:41:57
- 国家新闻出版署:认真研究《网络游戏管理办法(草桉徵求意见稿)》关切 实行前进一步完善
2023-12-28 19:14:56
- 天猫新规可以无条件申请“仅退款”了?淘宝天猫又离狗多多零元购近了一步
2023-12-28 18:57:55
- 印度以打击金融犯罪为由逮捕了两名 vivo 高管
2023-12-26 16:49:01
- 在国外微信收不到国内信息?微信和WeChat将被拆分
2023-12-15 10:40:15
- 苹果iPhone15 系列手机发布最新消息 预计上市发布时间9月
2023-08-06 23:21:02
- 华为将发布鸿蒙HarmonyOS4操作系统 功能五大升级支持设备清单
2023-08-06 23:17:37
- 整治自媒体网红账号 400万粉丝网红发布擦边视频被无限期封禁
2023-07-12 09:56:09
- 网传微信文件传输助手是真人是真的吗?微信官方回应
2023-06-27 15:53:32
- 电信移动送手机成了“信用购”?你上了运营商的贷款套路了吗?
2023-06-12 17:18:55
- 中国电信广东地区崩了无信号 客服回应已在核实处理
2023-06-08 15:39:04
- 消息称小米新能源汽车价格表正讨论定价区间:双版本不同配置,高配或超 35 万元
2023-03-06 12:56:03
- 华为因制裁被传或分拆剥离手机业务? 内部人士回应:可能性不大.
2023-03-05 23:26:41
- OPPO正式发布安第斯智能云,让终端更智能
2023-02-24 16:02:27
- 华为与OPPO签订全球专利交叉许可协议 包括5G蜂窝通信专利
2023-02-24 16:02:26
- 老蛙将推MINI镜头新品:目前未知具体规格 官宣将于12月20日发布
2023-02-24 16:02:26
- 首发全新35mm定制光学系统 努比亚Z50性能同样强悍
2023-02-24 16:02:25
- Redmi K60屏幕细节曝光:全系标配2K护眼柔性直屏+5000mAh大容量电池
2023-02-24 16:02:25
- OPPO Find N2今天发 合金金属折叠屏更轻了
2023-02-24 16:02:24