美国-研究：多数脸部辨识算法存在种族偏见

美国国家标准暨技术研究院（NIST）研究了近两百种的脸部辨识算法，发现亚裔和非裔美国人脸孔，在一对一配对伪阳性误判率比高加索人高出10到100倍，而在一对多配对上，非裔美国女性错误率则明显较高。NIST提到，一对多配对的使用案例，伪阳性误判通常会把错误的人摆进需要审查的名单中，可能造成错误的指控，因此开发人员和系统使用者应该了解这些系统的限制。

NIST进行脸部辨识供应商测试，由业界和学界开发者提交的脸部辨识算法，判断这些算法在执行不同任务的能力。NIST研究了99位开发人员所提交的189种算法，并研究这些算法在一对一配对和一对多配对的表现。一对一配对通常用于智能手机解锁或是护照查验，以一张照片配对同一人的另一张照片，而一对多配对，则是以一张照片在数据库中寻找同一人的其他照片，通常用于搜寻特定人选的使用案例。

算法的误判有两种状况假阳性与假阴性，可能将两个不同的人辨识为同一个人，或是无法正确将同一个人的两张照片辨识为同一人。NIST研究团队总共使用了来自849万人的1,827万张照片，这些照片来自美国国务院、国土安全部和联邦调查局的数据库，没有使用社交媒体等互联网资源或是影像监控的图像。由于这些数据库除了照片之外，还有年龄、性别、种族和出生国家的元资料资讯，因此可以精确地知道各种属性所造成的差异。

研究发现，在一对一配对中，亚裔和非裔美国人脸部的伪阳性误判率，依不同算法高于高加索人10到100倍，这可能会增加脸部辨识系统的安全性问题，因为系统可能允许非本人存取系统。特别是美国开发的算法，对亚洲人、非裔美国人和包括美洲印第安人、阿拉斯加印第安人和太平洋岛民等原住民，一对一配对伪阳性误判率特别高，其中最高的是美洲印第安人。

但是亚洲国家所开发的部分算法，亚洲人和高加索人在一对一配对上，辨识错误率没有很大的差异，尽管NIST在整个研究并没有仔细探讨误判发生的原因，但是以部分亚洲算法的案例推断，算法效能与训练资料有很大的关联，多样化的训练资料可能可以产生更公平的结果。

而在一对多配对上，非裔美国女性的伪阳性误判率明显较高，研究人员提到，伪阳性对一对多配对使用案例的影响特别重要，因为可能牵涉错误的指控。不过，也不是所有算法都在一对多配对上对种族有高误判率，在这次研究中调查的算法中，公平性评价最高的那一项算法，精确度也最高。

脸部辨识被大量的用在执法和边境控管等应用中，虽然过去一些研究早就提出商业系统使用的算法存在种族和性别偏见，但是NIST这个研究是目前最全面的评估，且印证了早前一些研究的结果。虽然NIST敦促开发者应该进行更多研究，以解决算法的偏见，但这项研究结果也显示，人们应该对这些脸部辨识系统的可信度有所保留，并质疑在部分用途的合理性。