研究：AI不仅学习人类的外在言行，还学到了潜意识中的种族与性别歧视

科学期刊《Science》上周出版了一篇由美国普林斯顿大学（Princeton University）资讯技术政策中心与英国巴斯大学（University of Bath）计算机科学系的研究人员所共同发表的报告，指出自人类语言中进行深入学习的人工智能（AI）系统同样也会染上人类的种族与性别歧视。

科学家们指出，Google的AI技术AlphaGo已经对外示范机器能够在短时间内学习人类花了好几年才学会的技能，而且还可能超越人类，然而，有不少研究也显示，从人们所建立的语料库中学习的AI，也会学到人类潜意识中的各种歧视，包括种族或性别歧视等。

在人类的世界里有一项测试称为内隐联结测验（Implicit Association Test，IAT），它是在测试人们于潜意识中对于不同事物的感受或喜好，可能是花或树木等物件，或是种族、性别、年龄、体形、肤色及国家等，科学家们则替AI系统建立一个字辞嵌入联结测验（Word-Embedding Association Test，WEAT），这是类似IAT的统计测试，以判断AI系统的倾向与态度。

此一AI系统先从涵盖网络文字的庞大语料库中学习人类的用字与回应，接着科学家们再将该AI系统进行WEAT，不意外的，这个AI系统也学会了人们对各种事物的喜好或偏见。例如当出现花与昆虫时，花与开心的联结就比昆虫与开心的联结来得强烈。

不过，比较令人担心的是AI系统在种族、性别或年龄上的歧视，实验显示，当AI系统看到欧裔美国人及非裔美国人的名字时，看到前者的开心程度高于后者。而在性别的测试上，则显示相较于男性，女性名字与家庭的联结度更甚于职业，女性名字与艺术的联结也更甚于数学或科学。

IAT作者之一的社会心理学家Anthony  Greenwald也对该报告作出了评论，他认为此一AI系统让人们潜藏的态度与刻板印象浮上了台面，除了展现机器的理解能力之外，却也显示出机器有可能意外成为年龄、种族或性别歧视的工具。