KPMG：企业导入AI应建立起算法治理框架，来降低模型决策错误的风险

KPMG安侯企业管理执行副总谢昀泽在日前一场活动上，提醒企业在导入AI时可能面临的新兴风险，并指出，企业应从大数据的正确性、算法的可解释性、运算效率三大面向来检视AI决策模型，建立起受信任的AI机制；且在导入AI前，也应充分评估AI应用的合适性，比如可用样本量高、应用情境复杂度低、任务价值高的服务，较适合用AI来加值。

随着AI的应用增加，AI不可解释、偏见、公平性等问题也在近年来不断被提出讨论，各国-也看见其争议性，纷纷祭出法规来规范AI应用，比如欧盟早在2018年就制定资料保护规范GDPR，其中的“透明处理原则”，就是针对个人化决策的AI应用，赋予用户请求解释、拒绝适用的权利；美国白宫也在上周发布了AI应用监管指南，将AI应用的风险评估与管理、秉持公平且非歧视等原则列入其中，要从法律的高度，来约束企业克服AI的风险问题。

谢昀泽归纳，现今企业在导入AI时面临多种风险，大致上来自于大数据、算法、运算效率三个面向。比如说，使用过时、不完整或与实际情形不符的数据来训练模型，会使模型决策产生偏误；在算法方面，开发流程的瑕疵、技术缺陷，或缺乏完整的测试与验证，也会导致算法产生Bug，同时还需谨慎提防资安攻击、隐私滥用等威胁；最后在运算效率方面，则是要避免因为算力不足，造成AI决策延迟的问题，其他如决策者错误解读或误用分析结果等风险，也是企业面临的挑战。

现今企业在导入AI时，可以从大数据、算法、运算效率三个面向来进行AI算法治理。

对此，KPMG也提出一套算法治理框架供企业参考。企业在导入AI时，可以先决定AI应用策略并规划治理蓝图，来把关整个AI导入流程，其中，除了确保大数据的正确性，在算法方面，应从整体生命周期来检视，在设计就融入资安与隐私防护措施，也应在调校与测试时，进行算法效能与安全分析，并确认是否满足原始需求；部署后，更要随时监控与优化AI模型，并确实推广使用者安全与教育训练。谢昀泽表示，以上的框架就是为了让利害关系者，相信算法能做出正确决定。

KPMG提出一套算法治理框架供企业参考。

在所有产业中，谢昀泽也表示，由于金融业的法规监管更严格，金融业对于算法治理的需求也更大，智慧金融面临的挑战，包括AI决策是否符合道德与价值观、带来的风险、是否能被解释，以及如何取得客户及主管机关的信赖等。比如说，AI预测客户可能在一年后离婚或失业，因此拒绝其货贷申请，但要如何证明AI算法没有偏误？又要如何向客户解释原由？又该如何取信于客户？

对此，谢昀泽建议，除了透过算法治理框架来审视AI导入流程，在选择AI应用种类时，也应进行策略剖析，找出较无争议、适合导入AI的项目，以金融业来说，信用卡诈欺侦测、警示账户分析等作业流程，因其可用样本量高、应用情境复杂度低、且任务价值高，就比较适合导入AI应用。而KPMG也分析出风险相对较高的应用，提供企业参考，分别是智能核贷、理财机器人（AI自动化代理操作）、智能信用评等、人脸支付、社群活动信用评分等。

纵轴是应用情境复杂度，横轴是可用样本量，圆圈大小代表任务价值高低。