仇恨言论太猖獗Facebook怎么搞定？

点击上方蓝字关注我们

保持犀利风格，持续科技新闻报道及业界深度剖析

Facebook是全球最大的社交网络科技公司，日活用户14.7亿，月活用户22.3亿。这样的成绩在带来荣誉的同时也面临着巨大的压力。数据泄密事件的发酵使得Facebook声誉不断受损。

一方面，用户规模增长放缓，给公司的可持续发展带来了影响。另一方面，Facebook的广告业务一定程度上依赖于获取个人信息，以达到精准投放。但这一模式随着信息安全意识的提高和监管环境的变化，将变得困难重重。

不过Facebook在AI领域的探索从未停下，AI技术也为Facebook的诸多产品注入了活力。甚至有人说，如果没有AI，那就没有今天的Facebook。

两大AI核心部门是坚实力量

在Facebook的十年规划中，人工智能是重中之重。在这其中，FAIR研究室偏重AI基础研究，AML研究室偏向机器学习应用。两所研究室看上去反映了学术与产业之间的对立关系，但也成就著Facebook想要引领AI与机器学习技术的决心。

Yann LeCun 是 Facebook人工智能实验室负责人，卷积神经网络发明者。他的加入让这家公司告别了没有正式研究室的日子，由他领导的人工智能研究室（FAIR）主要负责基础科学和长期研究。由Joaquin Candela领导的机器学习应用部门（AML）主要负责把最新的技术应用到既有的Facebook产品上。

FAIR和AML都会做研究以及工程驱动的开发。“我会说FAIR把75%的精力投入到研究，25%的精力放在了工程上。而AML是将75%的精力投入到工程上，25%的精力放在研究上。FAIR和AML 的分界线是特意模糊的，许多员工都同时参与两个实验室的项目。”

这两大研究室的野心是很明确的，他们想要教机器学会常识。就像fAIr研究室目前最大的项目是对话系统的自然语言理解，这一项目对于Facebook的智能语音助手发展奠定坚实基础。

与此同时，这两大研究室更倾向于外向型的研究。他们把做的许多东西都公布出来，并开源大量代码。通过研究社区的一部分，把技术和科学进步都推进到极致。正如他们自己所期待的，通过确保自己具有相关专长，并掌握目前最先进的技术，在相应方向上驱动进步。

这个想法也与LeCun有关，他过着业界和学界的双重生活，所以他深信成功的关键在于投身于开放性。“我曾经见过许多朋友离开了具有开放性文化的实验室，加入了大型科技企业，他们试图改变企业的文化，但都失败了。”LeCun 说。在他加入 Facebook之前，他问 Facebook的第一个问题便是，Facebook是否真的会保持对开源世界和开放性文化的承诺。

在他的带领下，Facebook的AI研究室一直在研究和把研究转化成产品这二者之间找平衡。虽然科技公司都很难做到这一点，但Facebook好像已经取得了部分成功，动态的长短期结合研究让其在AI和机器学习领域赢得了不少声誉。

Facebook人工智能实验室负责人Yann LeCun

AI技术推动新产品的发展

在面对大量的质疑和监察的当下，Facebook借助AI技术推出了两套系统，用于阻止用户自杀和消除仇恨言论。这不仅有利于挽回Facebook此前一落千丈的形象，更有助于平台日后的长期健康发展。

实际上，阻止用户自杀的这一项目并不是最新的，开展工作已近一年。最初这套AI系统事通过主动检测所有帖子中潜在的自杀念头，并在必要的时机将心理健康资源发送给存在自杀风险的用户的朋友，或联系当地紧急热线。

此前Facebook并没有披露太多技术细节，但实际上电脑识别用户自杀表现其实是一件很困难的事，具体表现在网络环境下的语境和语意不太便于理解。很多时候，用户即便写出过激的言论，但也只是发泄而已。为了克服这些问题，Facebook提供了大量数据供机器学习，包括积极的和消极的。

当前最大的进展就在消极例子的处理上，经过运营团队的努力，现在机器还会联系评论文本内容进行分析。

除此之外，用于检测仇恨性言论的AI系统，能够对Facebook提高内容审查力度起到重要作用。今年7月，Facebook官方就曾表示将开始删除旨在煽动或加剧暴力的虚假信息，包括帖子和受人操纵的图像。

上个月也曾出现发生在缅甸、斯里兰卡和印度之间的暴力事件。最终Facebook删除了18个账号和52个与缅甸军方有关的网页。

一般来说，计算机用光学字元识别方法来监察内容，但由于Facebook信息量过大，所以需要更大规模的系统。

这一系统的代号为“Rosetta”，能够帮助计算机阅读和理解每天发布到社交网络的数十亿张图像和视频。如此一来，Facebook可以更容易地发现平台上违反了反仇恨言论规则的内容。

硬实力从“芯”出发

最近，Facebook基础架构副总裁Jason Taylor证实，Facebook的确成立了一支专门与芯片供货商合作的芯片团队，同时也在开发ASIC人工智能芯片。能够看见的是，Facebook与其他科技巨头一样，正试图降低对英特尔、高通、英伟达等芯片厂商的依赖。

另外在2018 Facebook F8开发者大会上，Facebook和小米联合推出的VR一体机Oculus Go，采用高通骁龙 821芯片，售价199美元起。Facebook还在研发一系列智能音箱，上市时间预计推迟至10月，首年订单比原计划减少了两成。

可以看出，Facebook开发芯片也是为了能更好地控制产品研发程序，进一步做到软硬件融合。同时，定制芯片还可以改进其在人工智能方面的硬实力。