很神奇的20年前人工智能、机器学习等发展就已经开始了，但近年随着云端运算以及储存大量资料，以及计算芯片有突破性的发展，让人工智能又二次飞跃。而且这次，我们真正觉得人工智能离我们不远了。
“不会累的机器人，你拿什么赢他？”密歇根州立大学教授 Arend Hintze 曾表示，作为一名人工智能研究人员，经常会遇到人们害怕人工智能可能带来的问题。那么，究竟人工智能的出现会带来什么样的问题呢？一起来听听专家怎么说吧！
图：pixabay
人有错手，人所建造的人工智能永远有无法预期性的风险？
1968年上映的电影《2001太空漫游》，其中的人工智能超级电脑 HAL 9000 即为一个例子。工程师们可能已经很清楚每个元件是如何独立工作的，但是他们并不全然了解其整体的运作机制，最终导致太空任务以失败告终。
上述例子展现了我们如何是陷入人工智能研究的困境之中：我们从认知科学（研究何为认知、认知有何用途以及其运作的原理，研究讯息如何表现为感觉、语言、注意、推理和情感等）的角度来看最新的研究成果，将其转化为算法并将其加入于现有的系统中。
像 IBM 的 Watson 和 Google 的Alpha这样的系统配备了具有巨大计算能力的人造神经网络，并取得了令人印象深刻的成就。但是如果这些系统犯了错，以一个普通人而言，可能遇到的最坏的情况顶多就是失去一些投资于它们的钱。
但随着人工智能设计变得更加复杂，它们的能力也相应的提升。在其所背负的责任增加的同时，伴随而来的是无法预期风险的增加。人难免会犯错，也因此我们身为人，很可能永远无法建立一个真正安全的系统。“我们试图在不理解人工智能的情况下设计人工智能。”
像 IBM 的 Watson 和 Google 的Alpha这样的系统配备了具有巨大计算能力的人造神经网络，并取得了令人印象深刻的成就。图/Mliu92@Wikimedia
依赖“Neuroevolution”可能得以减少误用但这却无法阻止人工智能遭滥用
随着机器学习的发展，现今发展出一种名为“Neuroevolution”的学习方法。借由评估人工智能的表现，挑选那些表现最好的作为标准模型，并以其为基础继续往后发展认知能力。
一路走来，我们将透过进化的过程找到并消除错误和问题。每一代人工智能都能更好地处理前几代产生的错误。这增加了我们在模拟中发现意想不到后果的机会，并在将人工智能应用于现实世界之前消除这些后果。
另外一个可能性就是使用进化来影响人工智能系统的道德与价值观。我们可以建立与人们现实相仿的虚拟环境，使机器具有善良、诚实和同理心等。这可能是确保我们所培养的是服从的仆人或值得信赖的同伴的方法。
虽然神经进化可能减少无法预期的后果，但并不能防止滥用。人工智能的滥用是一个道德问题，而不是科学问题。作为一名科学家必须遵守对事实的义务，报告在实验中的发现，不论是否喜欢这样的结果。
贫富差距的扩大：人工智能产生的财富应当如何分配？
也许有一天，所有人类工作都将由机器来完成。即使是科学家等研究型的工作，也可以透过大量机器不懈地研究如何制造出更智慧化的机器来加快速度。在现今的社会里，自动化可以节省劳动力，但这也使拥有机器的人变得更加富有；而其他没有机器的人呢？他们可能失去社会上的竞争力而变得更加贫穷。
在现今的社会里，自动化可以节省劳动力，但这也使拥有机器的人变得更加富有，而其他人变得更加贫穷。图/Mummelgrummel@Wikimedia
而那些出现在电影里的情节呢？如同前面所说的，我们无法保证那些事情一定不会发生（无法预期性），也因此，我们必须有所警戒。除了人工智能可能带来的安全问题以外，它们也构成了政治和经济方面的挑战。如果我们不能找到分配财富更好的办法，那么其所带来的便利性将只有少数人能受惠，但如果更多人拥有这项工具，这样就社会才会均富，科技进步与经济成长同步带来的中产阶级美梦才有望实现。
本文编译改写自《The Conversation》〈What an artificial intelligence researcher fears about AI〉
参考资料：
- 2001太空漫游 (电影) Wikipedia
- 认知科学 Wikipedia
- Neuroevolution Wikipedia
- 自动化技术 Wikipedia
