网络霸凌Out! Google用机器学习辨别网络恶意言论
报价宝综合消息网络霸凌Out! Google用机器学习辨别网络恶意言论
google
这套系统可透过机器学习，从多数人认为的恶意评论，从中找出相似的内容。
图片来源:
Google母公司Alphabet旗下关注社会议题的孵化器Jigsaw周四宣布了新的研发计划，打算透过机器学习技术来找出网络上的恶意言论，简化新闻媒体与网络平台对恶意言论的管理，希望能进而消灭网络上泛滥、散布仇恨的言论。
Jigsaw与Google宣布启动Perspective计划，透过开放API供新闻媒体与网络平台使用，协助他们找出网络服务中的“有毒”评论，进而决定要采行何种措施，例如删除明显恶意的言论，或是在使用者的评论正式发表前，先提醒使用者的言论内容可能涉及仇恨等。
Perspective采用人工智能技术，自动学习网络上成千上万经真人检核员评定为恶意或有害的言论内容，进而再依据机器学习训练所得，针对新的评论内容进行评分，随着分析的文具内容与得到的用户回馈增加，该系统的评定将会日益准确。
Jigsaw总裁Jared Cohen在官方部落格中表示，有高达72%的美国网络使用者曾经见证过网络骚扰，而亲身遭到网络骚扰的人亦高达近5成，甚至有约三分之一的人会因为担心遭到报复，而进行自我言论审查；许多仰赖读者讨论新闻时事的新闻媒体也深受不理性或明显恶意言论困扰，让新闻公共空间很难进行理性讨论，不少媒体甚至无力负担维护留言或论坛服务的理性程度，干脆关掉留言功能。Cohen希望Perspective的推出能够改善这些问题。
目前已有纽约时报等媒体参与测试，Google与Jigsaw未来还打算将该服务延伸到如英国卫报、经济学人等媒体使用。Jigsaw亦表示，并未对Perspective适用的对象设限，其他大型网络服务平台若愿意使用，他们亦抱持开放态度。
