忧《1984》小说场景成真，微软提出六大原则促各国政府明年立法为人脸辨识划下游戏规则

英国作家奥威尔（George Orwell）在1949年出版的反乌托邦小说《1984》中描绘了政府无所不用其极地监控与操纵民众，微软于上周四（12/6）警告，奥威尔在70年前所勾勒的场景即将因为现代的技术能力而成真，呼吁各国政府明年就应采取行动，立法规范人脸辨识技术的应用，而微软也列出了内部针对该技术的六大原则，预计于明年3月正式发表。

在《1984》中，政府透过无所不在的摄影机与麦克风来监控人们的长相，纪录人们所说的每一个字，为了闪避政府的监控，人们只能躲在黑暗的角落，借由敲打彼此的手臂传送密码进行交流，而现代技术已让这样的场景成为可能。

就在微软发表此番宣言的同一天，关注AI系统发展的AI Now Institute则针对政府、研究人员及产业发布了AI的十大建议报告 ，同样也要求政府规范及监控AI与人脸辨识技术的发展，特别是所谓的“影响识别”（Affect recognition）。

影响识别是人脸辨识的一个子类，它能够借由照片或影像中的人脸来侦测人们的个性、内心感受、心理健康或参与感等事物。AI Now指出，相关的结果并未受到强大科学证据的支持，而更像是伪科学，影响对他人的认知、聘雇、保险、教育等看法，不论对个人或社会都会造成重大风险。

已有多所美国大学打算采用影响分析软件，借由在教室中安装的摄影机侦测学生在学习时所流露出的情绪，判断教学效果以供教授参考。AI Now则认为，该系统可能无法掌握复杂的情绪状态，学生也无从提出异议，或是每个学生对学习内容的接受度不同，更或者它已经侵犯了学生的隐私。

微软则说，假设我们不希望在5年之后，人脸辨识技术或服务已经蔓延到加剧社会问题的状态，各国政府明年就应该采取行动，立法规范相关技术的发展与应用。

微软总裁Brad Smith表示，政府应该立法解决的三大问题分别是克服那些违反歧视法令的偏见结果、过于广泛的使用将侵犯人们的隐私，以及若政府利用人脸辨识技术进行大规模监控将侵犯民主自由。

另一方面，微软认为企业亦不应完全等待政府的行动，而自行列出了六大原则，它们分别是公平、透明、问责、非歧视、通知与同意，以及合法监督，并打算在明年3月正式发表相关原则与框架。

AI Now的十大建议则与微软的看法相呼应，另也强调大学的AI课程不应只局限在电脑科学及工程学科，随着它持续被应用在社交领域，也应扩大其学科定位，纳入社会与人文科学，在将AI系统应用于人群时，才能进一步关注潜在的危险。