资策会研发AI假讯息快筛平台，分类快筛、AI判读、散播账号追踪多方面辅助事实查核

随着网络与社群平台蓬勃发展，层出不穷的假讯息，对民众的威胁也与日俱增。近年来，越来越多民间组织投入查核不实资讯，但以台湾事实查核中心来说，每日要查核的假讯息量高达数十到数百则，团队人数却只有5～6人，在每周查核时间有限的条件下，大多时候只能挑选更重要、影响力更大的讯息优先处理，一则讯息更可能花上数天至一周以上的处理时间。

为了提高讯息查核效率，资策会开发了一套AI不实讯息快筛平台，不仅可以先对假讯息分群、快筛，更能进一步以AI判断每则讯息的可疑程度。

先将讯息快筛分群，再以AI判断可能为假讯息的风险

这套AI不实讯息快筛平台，是资策会去年底开始规划，并在今年与台湾事实查核中心确认需求与规格后，历时半年研发的成果。这套平台底层为事实查核数据库，内容来自于台湾事实查核中心、MyGoPen与Co-Facts查证过的谣言资料，这三个事实查核组织，同时也是国际事实查核联盟（IFCN）的认证机构。

这个平台主要有两大功能，一是在新讯息汇入平台时，自动快筛讯息、比对分群，也就是说，当一笔疑似为假讯息的新资料汇入时，系统将自动与过去查证过的资料进行比对，透过讯息中夹带的文字、连结与影片，来将内容类似的谣言归类，甚至进一步扩大比对社群平台数据库的资料，统计出各谣言的举报数与查核情况。

资策会服创所组长陈棅易表示，这个功能，可以找出哪些讯息过去已经查证过，是否为查证过的假讯息变形，透过初步分群、快筛，省下查核人员将讯息一则则分类的时间，能直接进行查证作业。而这个作法，也与Line讯息查证机器人美玉姨所应用的技术相似，同样在接收到一则新讯息时，自动与数据库中查证过的讯息比对，若为相似讯息，就能自动回传讯息查证结果。

而第二个功能，则是针对尚未查证过的讯息，一键查询该讯息可能为假讯息的风险程度。过程中，系统将自动以AI分析其语言特征、风险账号以及传播途径，再根据分析结果给出一个风险值，并以低、中、高呈现风险等级，提供查证人员参考。比如说，A讯息可能有“高”度风险为谣言，查证人员就能优先处理。

这个功能，主要应用了资策会所研发的AI技术，其中在语言特征分析方面，资策会运用BERT训练了一个不实讯息语言特征侦测引擎，来侦测讯息内容是否出现武断、情绪、推论、冠名等词汇或语句，因为常见假讯息可能出现冠名（如XXX说），或是用激进的语气促使用户转传，根据这些特征，就能进一步预测该讯息的可疑程度。陈棅易表示，模型训练过程使用了上百篇经过标注的假讯息，准确率也有86～87%。

而风险账号的侦测，则是去侦测特定讯息的脸书散播账号，近期是否出现异常行为，借此来预测该讯息为假讯息的可能性。陈棅易举例，常见账号的异常行为，包括从某个时间点开始，大量发送、转传特定贴文，这可能代表该账号已经卖给他人、或被他人控制，又或是该账号与好友的互动模式改变，仅频繁与特定几个账号互动，且互相转传同类型的文章，这些都是异常行为的样态。

陈棅易也指出，风险账号侦测较无应用机器学习的技术，而是先从历史资料归纳出账号异常行为的规则，再透过系统自动比对特定账号的风险程度，过程中，系统也会先与黑名单数据库的账号比对，若非黑名单成员，才会进一步以异常行为的规则来分析。也因每则假新闻散播过程可能涉及上百个脸书账号，用系统自动排查的方式，也比过去人工判读更有效率。

除了追溯假讯息的散播账号，讯息的散播途径也可以作为假讯息的判读依据。陈棅易说明，假讯息散播途径与一般讯息的散播途径不同，以一般新闻来说，通常是民众看过后慢慢转传，但假新闻可能会在某个时间点快速散播，若将传播途径以关联图的方式呈现，后者形状会由中心向外密集展开，像海胆，但前者则更像榴梿，刺的形状、密集度不同。资策会以这些异常样态来训练模型，让系统能自动从传播途径的特征辨识出假讯息。

先以云端服务提供查核单位使用，未来更希望推广给新闻媒体业者

这套系统，目前透过云端提供服务，让用户从浏览器页面中登入，来查询特定讯息的风险资讯。“我们还在看新闻媒体会不会有需求、记者能不能用？后面再谈授权的方式。”陈棅易表示，未来要往新闻媒体业推广。

陈棅易也表示，平台中AI技术，是用来判读哪些讯息较可疑，但不能取代人工查核步骤，尤其许多讯息仰赖专家知识才能认证其正确性，除了查寻相关资料，甚至还要透过访谈才能验证，最终还是要回归人工判断。

除了持续优化现有平台的功能外，资策会也正在研究Deepfake技术，目标要在平台中新增影片、图片的辨假功能，进一步找出捏造、合成的假内容。