员工反对微软竞标美国军方的100亿美元AI云项目

员工致微软的公开信：不要竞标美国军方的JEDI项目，微软的员工们联名签署了这封公开信。

以下为公开信全文：

我们当初加入微软，是为了给人们和社会带来积极的影响，期望我们开发的技术不会造成危害或给人类带来痛苦。微软Azure企业副总裁朱莉娅?怀特（Julia White）在周二发表了一篇题为《为政府打造智能云和智能边缘解决方案》的博文（https://azure.microsoft.com/en-us/blog/enabling-intelligent-cloud-and-intelligent-edge-solutions-for-government/）：

此文相当于公开声明微软有意竞标联合企业防御基础设施（JEDI）合同――这份合同代表涉资100亿美元的大项目，为美国国防部开发云服务。这份合同规模庞大，秘而不宣，因而我们这些员工几乎不可能知道会开发什么产品或服务。在对外宣布JEDI的那一天，国防部首席管理官约翰?H?吉布森二世（John H. Gibson II）解释了这项计划的影响，他说：“我们需要做到很清楚。这项计划其实旨在提高国防部的杀伤力。”

微软，不要竞标JEDI。

许多微软员工并不认为我们开发的技术应该用于发动战争。我们当初决定效力于微软时，抱着“让地球上的每个人取得更大的成就”的希望，而不是为了结束生命、提高杀伤力。有的人说，微软不竞标，但另一家公司完全会接手竞标JEDI；我们会要求这家公司的员工抱有同样的希望。逐底竞争（race to the bottom）不是什么道德立场。与那些在谷歌、Salesforce和亚马逊采取行动反对竞标JEDI的人一样，我们要求技术公司的所有员工问问你的劳动成果将如何使用、用于何处，并根据你的原则来行事。

最近，谷歌的高管明确表示他们不会将AI“用于武器、非法监视以及导致‘整体危害’的技术。”这完全是他们在数千名谷歌员工以伦理道德和人权的名义竭力反对后作出的表态。周二，谷歌退出了JEDI竞标行列，原因是“无法保证这会与该公司的AI原则相一致”，即谷歌在员工持续施加压力后落实到位的原则。由于大量员工公开反对，高管们别无选择，只能退出竞标行列。

我们需要合理地评价JEDI。这是一个秘密的100亿美元项目，目标是打造特朗普政府监管的“更致命的”军事力量。抗议这种合作项目并迫使公司采取行动的谷歌员工对这一点看得很清楚，我们也看得很清楚。

于是我们要问，微软的AI原则又是什么，尤其是将强大的AI技术运用于残暴行径方面的原则？当初开发和维护这些服务的员工们是不是知道自己的劳动成果被用于帮助分析、监视或杀人？

今年早些时候，微软发布了新书《未来计算：人工智能及其社会角色》（The Future Computed），仔细分析了AI的应用和潜在危险。该书认为，严格的道德原则对于开发造福人类的AI而言必不可少，该书定义了六个核心原则：“公平、可靠和安全、私密和安全、包容、透明以及负责。”

面对JEDI，微软高管们眼看就要背弃这些原则以换取短期利润。如果微软要对它提供的产品和服务负责，我们就需要明确的道德准则和合理的问责制，指导我们如何确定我们的技术的哪些用途是可以接受的、哪些是不予讨论的。微软已经承认了它开发的技术具有的危险性，甚至呼吁联邦政府对AI进行监管。但是没有法律阻止该公司实行自己的内部审查并恪守自己的道德准则。

由于Azure博客上列出的云和边缘解决方案属于尖端智能技术这个类别，它应该交由微软的AI道德委员会Aether来审查。埃里克?霍维茨（Eric Horvitz，我们的研究实验室主任）已表示，Aether“拥有强制实施的有效手段。”但如果Aether不考虑这种道德困境，那么它究竟又有什么用场？由于这些谈判毫无透明度可言，加上一个不透明的仲裁道德决策的道德机构，接受这份合同将使微软的普通员工不可能知道自己是不是在编写旨在伤害和监视的代码。

微软内部数百名员工已对该公司与移民和海关执法局（ICE）签订的进行中的合同表达了道德方面的担忧；按照这份合同，微软提供“关键任务型”Azure云计算服务，从而让ICE能够对边境处和美国国内的家庭实施暴力和恐怖活动。尽管我们反对，但这份合同依然有效。微软决定竞标JEDI，这再次表明了需要清晰的道德准则、问责制、透明度和监管。

微软，不要竞标JEDI。