蔡明顺：不只企业靠自动化技术加速AI开发，AI学校也用MLOPs三年了

台湾人工智能学校校务长蔡明顺今（29日）在一场线上会议上指出，近年深度学习崛起，许多企业拥抱AI，但却面临AI开发和部署速度不够快的问题。他提出5种能加速采用AI的自动化技术，像是MLOps、AutoML、AIOps，特别推荐能协助跨部门合作的MLOps。他更透露，台湾人工智能学校3年多来，都采用MLOps服务来优化上百位学员的开发需求和资源调度工作。

深度学习崛起，带动企业拥抱AI

“Software 2.0时代已经来临！”台湾人工智能学校校务长蔡明顺说道。自1970年代出现商用软件以来，写程式一直是人类的专利，是Software 1.0的象征，而2000年代互联网兴起，更把商用软件推向数十亿使用者，成为Software 1.0时代高峰。但2012年一场ImageNet大赛，深度学习崛起，揭开Software 2.0序幕，写程式不再是人类专利，而将由深度学习主导。蔡明顺直言，这个趋势，甚至会成为第四波工业革命的关键。

深度学习的崛起，也影响市场发展。他指出，过去20年来的互联网经济，推波助澜扶植出今日的AI巨头，“比如1996年诞生的Amazon、1999年的Google、2004年的脸书，以及在2000年前后成立的腾讯、阿里巴巴。”以互联网起家的这些科技大厂，纷纷押宝AI，也带动一般企业投资AI，国外更预估，未来20年深度学习产生的市值将超过互联网10兆美元。

企业发展AI有6大关键，但企业花最多时间建置基础建设

AI俨然成为企业标配，但企业要如何运用科技，促成商业发展？蔡明顺整理出企业发展AI的6大关键重点，这些重点涵盖基础建设阶段，以及用资料变现的生态系统阶段。在基础建设中，企业必须定义问题、找出合适的使用场域，并建立专属数据库。在生态系统阶段，则有算法、应用商模和资安法规等3要素，来让企业将资料变现。

蔡明顺解释，基础建设是企业发展AI最关键的阶段，企业必须制定好资料处理流程、清理可分析资料，并规范出各类资料的存放位置。但他也指出，企业在这个阶段反而花了8成时间才能做好，因此得仰赖自动化技术来加速。

用自动化技术加速AI开发、部署和管理，MLOps不容忽视

他也在今年的台湾企业AI趋势报告中，盘点5项能加速AI模型开发和部署的自动化技术，包含AutoML、AIOps、MLOps、数据虚拟化，以及低程式码或无程式码工具。进一步来说，AutoML平台能加速企业实验和试错，AIOps则能协助DevOps团队和使用数据（DataOps）的团队自动管理IT基础建设，MLOps则可促进跨部门的团队协作，而数据虚拟化平台则能保持开发灵活性，方便管理、检视数据。最后，低程式码和无程式码工具可简化AI的建模和部署。

在这些自动化技术中，他特别推荐MLOps，因为它能促进跨部门协作、形成ML生产链。一般来说，企业进行一个AI专案时，会有多种角色参与，像是资料工程师、机器学习工程师、业务分析师、DevOps团队、App开发者等，来进行资料前处理、模型开发、训练和评估，以及后续的模型部署、使用、商业化和监控等。

而MLOps可解决ML流程问题，比如在准备阶段，能自动化或半自动化处理配置、数据收集和特征提取，分别分摊SI、资料工程师与资料科学家的工作量。又或是在模型训练阶段，MLOps能自动化撰写ML程式码、管理机器学习资源，缓解资料科学家和IT人员的负荷。（如下图）

不过，他也强调，MLOps结合AIOps能协助AI落地。因为，AIOps用机器学习来改善IT基础建设，协助DevOps团队和DataOps团队监测AI开发环境是否正常，而MLOps则将模型开发、部署等流程标准化管理，还能监控模型上线后的表现，因此蔡明顺认为，两者结合能加速AI落地。

AI学校也用MLOps来管理学员ML资源

他也透露，自2018年1月开始，台湾人工智能学校就找来专攻MLOps的台湾新创InfuseAI，采用其服务来管理数据虚拟化、资源配置和工作负载等项目。这是因为，台湾人工智能学校的技术专班要求每位学员动手实作ML专案，每班多达100人至300人，需自动化技术协助学员训练模型。在算力部分，AI学校在全台配置了66台GPU服务器（共512张显卡），每位学员都配到1张卡来实作。当学员进行分组专题时，几位同学的显卡得分配一起使用，“这需要重新进行资源配置，得靠MLOps优化，”蔡明顺说。