让手机也能具备AI变得更聪明，TensorFlowLite问世了!

Google周二（11/14）释出了TensorFlow Lite的开发人员预览版，这是TensorFlow机器学习框架的精简版，专为行动装置与嵌入式装置所打造。

TensorFlow团队表示，2015年开源的TensorFlow原本就支援不同的平台，从大型的机架服务器到小型的物联网（IoT）装置等，有鉴于这几年机器学习模型的采用呈倍数成长，因而需要将它们部署在行动与嵌入式装置上，TensorFlow Lite即能针对装置上的机器学习模型进行低延迟的推论。

TensorFlow Lite具备精简、跨平台及快速等特性。它能快速启动且只需要很小的二元档案就能执行装置上机器学习模型的推论；设计上可支持各式行动平台，目前以Android及iOS为主；已针对行动装置最佳化，因而可大幅改善模型载入时间并支援硬件加速。

TensorFlow Lite的运作架构（下图，来源：Google）是先训练TensorFlow模型，再将该TensorFlow模型转成针对速度及档案大小最佳化的TensorFlow Lite档案格式，接着部署至Android或iOS装置上的行动程式。

随着愈来愈多的行动装置采用了客制化硬件以更有效率地处理机器学习任务，TensorFlow Lite亦支援 Android的神经网络（Neural Networks）API来利用这些新的加速器；在缺乏加速器硬件时，TensorFlow Lite亦会回头采用最佳化的CPU执行，确保机器学习模型在各种装置上皆能顺畅运作。

现阶段TensorFlow Lite已支援许多基于行动装置的模型，如可辨识1000种物件种类的视觉模型MobileNet、比MobileNet更精确但档案也更大的影像辨识模型Inception v3，以及对话模型Smart Reply等。

其实之前Google就曾针对行动与嵌入式装置的模型部署发表TensorFlow Mobile，但TensorFlow Lite被视为是TensorFlow Mobile的进阶版，未来可望取代TensorFlow Mobile成为Google的推荐解决方案。