脸书开源儿童性犯罪和恐怖主义的相片、影片辨识工具

在以影像辨识技术过滤平台上的暴力及攻击内容后，脸书周四在儿童安全骇客松（Child Safety Hackathon）宣布将儿童性犯罪、恐怖主义宣传及血腥暴力的影片和图片辨识工具开源出来。

脸书引用第三方数据指出，科技业通报的儿童性剥削的影片数量一年来增加了541%，脸书此次开源可让产业合作伙伴、小型开发商及非营利机构更迅速辨识有害影片或相片。目前二项算法开源专案已经透过GitHub分享出来，提供各种类型有害内容的数位指纹（杂凑）。已经有内容比对技术的单位则可多一层防护，透过杂凑分享系统互通有无。

现行常见的影片或相片辨识技术包括pHash、微软的PhotoDNA、aHash和Hash等。脸书的PDQ及TMK+PDQF则能侦测二个相同或几乎完全相同的相片和影片。其中PDQ为相片比对算法，是脸书以pHash为主要基础、全新开发有独立软件实作的算法。影像比对技术TMK+PDQF，则是由脸书人工智能研究院（AI Research）团队与意大利摩德纳雷焦艾米利亚大学（University of Modena and Reggio Emili）合作开发而成。

脸书全球安全部门主管Antigone Davis及整合部门副总裁Guy Rosen指出，这两项技术优点在于，能将档案以很短的数位杂凑（digital hash）形式储存，判断两个档案是相同还是相似，甚至没有原始影片或相片也可以进行。脸书辨识出平台上的有害内容，像是恐怖主义宣传时会将之移除，并以算法等其他技术产出杂凑值。这些杂凑值可方便分享给其他公司或单位，例如全球反恐怖主义网络论坛（Global Internet Forum to Counter Terrorism, GIFCT）来过滤同样的内容。

脸书说，PDQ和TMK+PDQF是为比对大量内容而设计，支援video-frame-hashing及即时应用。迄今脸书已经将之用来比对过平台上数十亿则的影片和相片。

脸书今年5月和马里兰大学、康乃尔大学、加州大学柏克莱分校和麻省理工学院合作开发强化侦测影片、相片的技术，以抓出企图躲过侦测算法的违规内容。

10年前微软也曾捐赠PhotoDNA于类似计划。Google也于去年将内容安全（content safety）API提供给非营利组织及合作伙伴，以打击儿童色情内容。