APP下载

脸书开源硬件:脸书发表开源机器学习编译器Glow,要以社群力共构AI软硬件生态系

消息来源:baojiabao.com 作者: 发布时间:2024-05-04

报价宝综合消息脸书开源硬件:脸书发表开源机器学习编译器Glow,要以社群力共构AI软硬件生态系

脸书创建了开源Glow框架,透过社群之力驱动建构硬件生态系,以实现机器学习硬件加速,Cadence、Esperanto、英特尔、Marvell和高通都已经承诺会在未来的芯片支援Glow。

脸书为了要扩展PyTorch等深度学习框架的应用,因此需要能提供各种最佳化以及加速推测功能的编译器,以便使用硬件平台支援越来越多的人工智能与机器学习应用。脸书因此创造了开源框架Glow,以社群驱动的方式,推动建构机器学习硬件生态系。让相关硬件供应商利用开源的编译器软件,快速设计出机器学习最佳化的产品。

Glow能帮助硬件开发人员,打造下一代支援深度学习框架的硬件加速器。

硬件加速器为专门用来执行机器学习工作负载而设计,通常包含大量的执行单元、芯片内存组以及特用应用程序专用电路,来高效率执行机器学习任务。但为了在专用的硬件上执行机器学习程式,必须要编译器配合,以产生能够协调不同部分,使之共同协作的程式码,因此像是PyTorch这类机器学习框架,都必须仰赖编译器来实现硬件加速。

机器学习硬件加速器要解决一系列的问题,部分硬件需要专用于推理,另一部分则专注于训练,每种型号又有不同的内存以及处理器配置,这让加速器的设计工作变得困难,而Glow的目的在于针对各类硬件加速器,使编译器具硬件独立性的部分,专注最佳化那些也无硬件型号相依的数学相关部分。

除了硬件独立最佳化之外,Glow包含了许多公用程式以及建置单元,用来支援多种硬件。这些内建的工具有像是编译器内存配置器,来为不同内存配置的各式硬件加速器,产生高效率程式码。此外,还包括强大的线性代数最佳化程式、可扩充测试套件,以及用于硬件加速器精确测试的基于CPU参照实作,还有内存配置器与指令调度器。

Glow可以帮助硬件开发商减少产品上市的时间,而且其提供的测试工具,能增加硬件供应商对编译器精确性与PyTorch规范一致性的信心。现在Cadence、Esperanto、英特尔、Marvell和高通都已经承诺,将会在未来的芯片支援Glow框架。

2018-09-19 21:33:00

相关文章