Twitter首届AI算法偏差竞赛结果出炉：偏好较瘦、较年轻也较白的人像

Twitter在今年的7月30日发起了一项挑战赛，邀请研究人员寻找其图像剪裁算法（Image Cropping Algorithm，或称显著算法）的偏差，冠军在今年8月9日出炉，他是洛桑联邦理工学院（EPFL）的机器学习暨隐私的研究生Bogdan Kulynych，揭露Twitter的算法偏好纤细、年轻与皮肤好的对象，并获得了Twitter所提供的3,500美元的奖金。

Twitter上的图像剪裁工具是透过算法来裁剪使用者上传的图片，选择图片中最显著的部分作为缩图，以方便浏览，使用者点选缩图就能看到图片的全貌。

而此一竞赛的起源可追溯至去年，当时Iqlusion共同创办人Tony Arcieri透过Twitter，发布了许多张内含共和党参议院领袖Mitch McConnell以及美国前总统Barack Obama的照片，结果缩图都选中了白皮肤的McConnell，随后即有不少Twitter用户发现，Twitter的图像剪裁算法的确偏好白种人。

在此一争议之后，Twitter即展开内部研究，证明该算法的确存在偏差，并于今年5月暂时自动裁剪图片，继之在7月发起图像剪裁算法的偏差抓漏竞赛，邀请外部的研究人员寻找该算法的潜在伤害，打算效法安全抓漏竞赛，让它成为Twitter及整个产业的先例。

获得第一名的Kulynych透过GitHub公布了他的研究成果，解释他先利用一个大型的电脑视觉模型，放大Twitter图像剪裁算法模型对人像的显著预测，再针对这些人像采用定性主题化分析，显示出Twitter的算法偏好较瘦、较年轻、皮肤颜色较浅、皮肤较细致，以及具备刻板女性脸部特征的人像。

图片来源_Bogdan Kulynych

Kulynych认为，当实际部署该算法时，这些内部的偏见将因代表性不足而造成伤害，因为该算法将裁剪掉那些不符合该算法的人像，不管是在体重、年龄或肤色上，可能会导致少数族群被排除，同时在大量的图像中延续刻板的美感标准。