AI伦理研究者Timnit Gebru因论文争议被迫离开Google，员工与学术界串连数千人讨公道

Google最近的一项人事异动引发争议，挑起了美国人种族议题的敏感神经，Google知名AI伦理学家Timnit Gebru表示遭公司报复性解雇。支援Timnit Gebru的公开抗议信指控，Timnit Gebru是Google内少数的黑人女性科学家，但受到公司以种族主义，与审查其研究等不平等对待。该抗议活动发起使用#ISupportTimnit，以及#BelieveBlackWomen两个Hashtag的活动。

Timnit Gebru12月3日于推特发文提到，他被Google人工智能主管Jeff Dean火速开除。Jeff Dean是深度学习领域的知名研究者，而Timnit Gebru则来自埃塞俄比亚，是一位电脑科学家，专业领域是研究人工智能的公平性，避免模型在特定情况出现偏差，解决像是人脸辨识系统，在处理黑人女性脸孔错误率偏高等问题，Timnit Gebru是讨论黑人在人工智能领域议题Black in AI非营利组织的共同创办人，而在Google，Timnit Gebru是人工智能伦理团队的共同领导人。

Timnit Gebru在12月3日的推文提到，他的企业账号被迅速停权，相当于立刻被开除。这项人事争议越演越烈，Jeff Dean随后发出了一封内部信件（现已公开）试图给出解释平息众怒，Jeff Dean表示Timnit Gebru是自己表达辞职意愿，他仅是尊重Timnit Gebru的决定。Jeff Dean虽解释Timnit Gebru并非被开除，但显然双方认知不同，Timnit Gebru在推特上直指他是被开除的。

外媒提到，这项争议的源头，来自一篇称为〈On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?〉的论文，内容写道“事实上，大多数的语言技术，都是为满足那些，已经在社会上享有最大特权的人们而开发”。

该论文对当前的大型语言模型提出质疑，认为这些模型过大而具有风险，在过去几年，语言模型使用极大量的文本资料进行训练，人工智能所产生的文字结果，与人类的文字越来越相近，甚至能够假以乱真。该篇论文在反思，人们是不是已经对这些可能面临的风险，进行足够的思考与了解，并且发展的策略，足以避免这些风险带来的影响。

论文提到，大型语言模型所使用的方法，必须要用到极大量的资料，但因为需要的资料量太大，以至于无法对所有资料集进行纪录与文件化。文件建置提供了潜在问责性，像是可以要求产生文本的作者负起责任，但是如果因为训练资料太大，而无法进行纪录与文件化，便没有咎责对象，则无法处理已知问题，更别说要发现并解决未知问题。

该篇论文还指出了其他大型语言模型所带来的问题，包括因为模型需要大量的资料进行训练，因此耗能和碳足迹呈现爆炸性成长；而且大型语言模型并无法理解语言真正的含义，仅是善于操作语言，但是因为大型科技公司可以透过操作语言模型来获利，因此大型科技公司宁可投入资源研究大型语言模型，也不研究可以理解语言的模型，或是使用更精致的资料集，达到更好效果的方法。

最后，论文研究人员认为，大型语言模型还有一个严重的问题，由于模型善于模仿人类语言，即便产生错误的内容，也会让人深信不疑，而因此容易对特定族群产生伤害，论文中提到，曾有因为语言被错误翻译，所导致人身自由被侵害等例子。

Jeff Dean回应Timnit Gebru事件的信件提到，Timnit Gebru、Google员工以及外部合作者共同撰写的论文，在提交前需要经过内部审查程序，这是Google的既定政策，而他们认为这篇Timnit Gebru与其他作者合著的论文，未达出版标准，审核小组认为该篇研究忽略太多相关研究，像是虽然谈到大型语言模型对环境的影响，却忽略其他研究，显示这些模型带来更高效率的结果，而且对语言模型具有偏见的评论，也没有参考最近对于减轻这些偏见问题的研究。Jeff Dean还提到，Timnit Gebru在未经过审核同意就已经提交论文。

Timnit Gebru要求Jeff Dean达成数个要求，包括提供Jeff Dean与Google Research工程副总裁Megan Kacholia的讨论内容，以及Jeff Dean咨询的名单，否则就要离开公司。Jeff Dean表示，他们只是接受并且尊重Timnit Gebru的选择，该篇论文存在一些没有解释的空白，他们无法就这样挂上Google的名字。

但Timnit Gebru在其推特的系列推文提到，他没有要辞职，但他的上司直接发送同意辞职的报告。Timnit Gebru解释他只是开了条件，如果Jeff Dean可以达成这些条件，则他会把自己的名字从论文中拿掉，如果Jeff Dean无法，那他就会离职（原文：I can work on a last date）。

从Timnit Gebru被解雇的消息传开以来，已经有超过1,600名Google员工，以及超过2,500名学术界人士，签署支持Timnit Gebru的抗议信，要求Google Research高层公开论文审查过程，包括Jeff Dean与Megan Kacholia的对话过程，以及其他审查人员拒绝论文的过程，还要求Google Research对研究完整性和学术自由作出明确承诺。另外，还有不少学术界人士发起，拒绝审查Google组织出版物的行动。