脸书以机器学习侦测恐怖主义讯息，减少检举贴文反应时间超过一半

脸书现在以机器学习工具，评估可能支持ISIS和盖达组织的贴文。系统在评估文章之后，会给一个恐怖分数，当恐怖分数够高时，系统确认该贴文支持恐怖主义，则会自动删除，但不少情况还是会经过审核人员进行人工判读。

恐怖组织现在会在网络平台上传播恐怖主义，脸书提到，这是刚出现的新现象。恐怖组织对反恐工具有很好的渗透以及能力，出现在各社交平台都不令人惊讶。最新一波的恐怖主义传播，恐怖组织成员弃用了遭破解的旧账号，重新创立账号并使用新的暗号语言，还将讯息切分成多重碎片，以规避遭到反恐工具的侦测。

为此，脸书现在应用机器学习评估可能支持ISIS和盖达组织的贴文，这个工具会对贴文产生一个分数，以判断是否违反反恐政策，而这能用来帮助审核小组，优先关注分数最高的的贴文，对急需要处理的内容采取行动。在部分情况下，系统认为贴文严重违反反恐政策时，会自动删除内容，虽然多数得情况下，仍然需要仰赖专业的审核人员评估贴文内容，但当机器学习工具出现极高分，可信度高于人类判断时，就会立即删除贴文。

脸书提到，在脸书平台上庞大规模的内容，无论是人类或是机器都会犯错，因此他们在扩大申诉程序后，才启用自动删除机制。这项工具大大减少了脸书处理使用者回报恐怖内容的反应时间，从2018年第一季报告的43小时，在第三季降低到了18小时。 

另外，脸书还改进了一些现有主动技术，现在已能更有效的发现恐怖主义内容，透过自然语言理解技术发展，可以支援识别19种语言，算法能更敏锐的找出违反政策的贴文。过去脸书使用在图像和影片杂凑技术，透过将档案转换成对应数字字串，来作为辨识档案的数位指纹的技术，现在也应用在检测文字以及声音中的恐怖内容。脸书也持续的和GIFCT（Global Internet Forum to Counter Terrorism）成员技术合作分享数位指纹，同时也正开发新的杂凑技术，供该联盟其他成员使用。

在2018年第二季，脸书移除了ISIS和盖达组织相关的940万则内容，而到了第二季下降到了300万则，其中80万则为过时的老旧内容，脸书表示，这样的数据改变，显示他们在第一季的努力有了成果，而在第二季和第三季的报告显示，有超过99％的恐怖内容，在有人检举之前就已经被系统删除，比起在第一季他们对190万件采取行动，其中64万件采用专用工具识别的成果来说，效率更快也更全面。

另外，比起恐怖主义内容在平台停留的时间，观看人数是一个更直接衡量伤害的指标，因为内容可能在短时间就获得大量地关注，而这比起内容在平台存在一段时间没被使用者观看，造成的影响更大，因此脸书提到，一味追求最小化移除恐怖贴文的时间，会让寻找最大伤害的内容效率降低，反而降低整体反恐工作的效能。

恐怖份子不停的寻求规避脸书侦测技术的方法，脸书需要不断的改进技术、训练和流程来应对这类攻击，虽然在一开始的时候成果有限，但在系统成熟后，已经能发挥良好到功能。脸书资料显示，第二季系统对新上传恐怖内容的反应时间为中位数14小时，而第三季系统的反应时间下降低于2分钟，脸书认为，这是系统成熟的指标。为了避免刺激恐怖份子对抗这些新的反恐技术，脸书没有透露太多的系统细节，而要应付极具弹性的恐怖份子，也代表这个问题没有完全解决的一天。