全文共2503字，预计学习时长5分钟

2017年，麻省理工媒体实验室的“个人机器人小组（Personal Robots group）”进行了一项研究。他们邀请6至10岁的孩子去媒体实验室玩各种智慧装置（比如亚马逊的Alexa或Google Home）。在孩子们玩耍体验之后，研究员便一个个问他们如下问题：你认为这个装置比你聪明、和你一样聪明，还是没有你聪明？以下是孩子们的回答：

来自2017年研究“Google你好，我可以吃掉你吗？”作者Druga等。来源：Randi Williams

一位实验室成员Randi想要讲其中小孩的故事。一个小女孩问道：“Alexa，树懒都吃什么呀？”

亚马逊Alexa用合成人声回答道，“对不起，我不知道如何帮助你。”

“没关系！”小女孩说。她走向另一款亚马逊Echo装置，将它拿起来说道，“我看看其他Alexa知不知道。”

（从左至右）实验助手Yumiko Murai，六岁的Viella及研究作者之一Stefania Druga和Google Home一起聊树懒。来源：Randi Williams

孩子们天生好奇，总想通过科技的视角理解身边的世界。但是这项研究的结果表明：孩子们总将科技视作权威，但并不了解科技是如何运作的。而现在，身处AI时代，孩子们不止是数码原住民，更是人工智能时代的原住民。虽然这一点在搜寻“树懒吃什么（如果好奇，树懒主要吃树叶，有时也吃昆虫）”时无关痛痒，但很多人担心孩子们会将更常见的机器算法也视作权威，例如YouTube的智慧推荐。

2018年，Zeynup Tufecki在纽约时报上发表了文章《矛盾激化者：Youtube》。她在文中叙述，自己会在YouTube上观看政敌间的视讯，从唐纳德·川普、希拉里·克林顿到伯尼·桑德斯，只是想要了解一下时事政治。然而，在观看这些视讯之后，YouTube的推荐算法和“自动播放”功能不断向她推荐一些阴谋论视讯。不管她看的内容是右倾还是左倾，该算法都不断用大量视讯“轰炸”她，其中包括拒绝承认大屠杀、指控美国-和“9·11”事件有关等。

她的这项发现，加上YouTube如今是最受青少年欢迎的社交媒体平台，再加上约70%的成年人用YouTube学习新事物或者了解世界新闻，这些事实都让人担忧。科技，尤其是人工智能，在孩子心中所处的地位是否太过权威？

所以……能不能让孩子在AI时代做一位认真谨慎的消费者呢？能不能让他们不仅做一名谨慎的AI系统消费者，还能成为一名有责任心的技术开发者？

对孩子进行“AI+伦理”教育

AI和伦理这两个问题是MIT媒体实验室的研究核心之一，其致力于重新诠释人工智能、设计和伦理等方面的理论发现来实施教学实践。

其中的“AI+伦理”课程初次实验是2018年十月在大卫威廉中学（David E. Williams Middle School）进行的一共三期的工作坊。当时有实验室的指导老师和超过200名中学生一同合作。期间，学生学习了深度学习、算法偏向等基础知识，还有如何用伦理知识来设计AI系统。

课程的目的是让学生知道AI系统是可以改变的，并教授他们改变系统的工具。实验者的想法是，如果能将系统看作是一种灵活多变的东西，知道它可以是多种多样的，那么系统便会不那么权威，算法便可以只是一种选择。

想让学生认识到算法可变，首先要让他们能够“看见”算法。他们需要对日常生活中接触到的算法产生认识：如Google搜寻，或SnapChat上的面部识别系统。一旦学生们能够识别出周边世界用到的算法，便可以学习这些系统是如何工作的。比如，神经网络如何在图片数据库中进行学习？

在中学，学生刚刚掌握一些基础科技装置时便让他们学习伦理知识至关重要。到了大学，伦理课或者“社会影响”课往往不受重视，被放到学期的最后一节，或者干脆一同被归为一门独立课程。这样会带来两个问题。第一，这样会不经意教会学生伦理是后见之明，和建构算法或设计流程相比并不是根本问题。第二，老师往往会上不完课！要知道，在小学、初中和高中所上的许多美国历史课中，很少有老师会上到1964年的民权法案那个部分。作为成年人，很多人大概知道冷战是什么，但却没办法像法国大革命那样如数家珍。这决不是我们想让伦理课在科技课程中所受的待遇。伦理内容必须和科技内容结合。

例如，在实验课程中，学生会训练他们自己的猫狗分类算法。但是他们往往会遇到问题：用作训练的数据库是有偏向的。比如其中猫的形象过多，而狗的形象过少，导致算法在分类时猫的准确度很高，而狗总会被错分为猫。了解到训练资料会影响分类器后，学生有机会重新整合训练设定来让分类器对狗和猫的分类达到相同的准确度。

4名中学生正学习如何监督机器学习和分类。来源：Justin Aglio

最后，课程以一节伦理设计课作为总结。学生的任务是通过识别系统中的利益相关者和他们所持的价值观来重新想象YouTube的推荐算法。他们得出的结果非常惊人。

学生讨论YouTube平台的利益相关者和他们的价值观。来源：Justin Aglio

学习，不止于夏天

这项实验得出了两个非常明确的结论。第一，学生对这些材料的掌握比实验人员想象的更好。第二，他们需要更多时间来接触这些材料。三节课程，每节四十五分钟，对他们来说根本不够。他们没时间创造令自己自豪的专案，也没时间探索所接触到的科技。

这个夏天，“个人机器人小组”将会在麻省理工学院媒体实验室举办为期一周的夏日工作坊。它将会包括实验专案中的许多方面，比如让孩子学习如何训练他们自己的图片分类器，了解伦理设计的流程等。一周的时间能让孩子对各方面进行充分的探索，让他们拥有AI和伦理领域的专业体验。学生将学习AI系统的其他方面，比如K最邻近算法。他们还可以通过小说创作工作坊或角色扮演练习来扩充自己的伦理知识。之后，根据观察和反馈不断完善教学计划，并在今年晚些时候将其变为开放资源。

工作坊将于6月24-28日在马萨诸塞州剑桥市的媒体实验室进行。