让人工智能变身战士这样的AI杀手太可怕

本文由腾讯数码独家发布

随着人工智能的越来越强大，关于 AI 引发的伦理和安全问题也逐渐引起了全球各界人士的主意，其中一个非常重要的议题就关于“杀手机器人”，许多人都担心当机器人和 AI 技术被应用于战争，会引发无可挽回的灾难性后果，在国际上，不少国家也在积极促进形成国际法，禁止那些不禁人工干预的自动化军事武器系统，不过那些人工智能武器的研发大国，却以捍卫自身利益为由，对此不以为然。

最近在日内瓦举行的 70 多个国家联合国会议上，关于该问题的鸿沟在国际上越发扩大，在会议上，包括美国、澳大利亚和韩国这类的技术大国，强力发声称支持人工智能武器的研发，尤其是美国，他们在会中发言辩论道，这种武器可以使军事行动更加精确，从而更容易遵守国际人道主义法。

且不说这类“杀手机器人”让世界军事单位更加遵循人道主义法律这种推测是否合理，从现实角度考虑，无论政客们如何对此进行争论，AI 自动化军事机器人现在已经在军事技术中大范围扩散，如果真正将其带进军事化战场，其杀伤力和破坏性程度是不言而喻的，对此，世界著名 AI 研究人员和科学家们也已经通过一系列公开信来公开反对将人工智能武器化，推动关于此类自动化军事系统的辩论来引起公众注意。

看上去这些关于自动化军事武器的辩论内容是基于未来考虑的，但事实上，这些是现在就已经在世界各地存在而亟待解决的严峻现实问题，比如，许多先进国家的防空系统都已经在瞄准过程中拥有了非常高强度的自主权，军用飞机也是同样具有高度自动化特征，也就是说这类“机器人武器”已经参与了军事目标定位和自动打击的能力。

而且，目前人们讨论的关于这些军事化机器人的问题还存在很大一部分缺失，比如有些国家军方使用远程遥控无人机向目标投掷炸弹，但是有时候无人机的图像不足以清楚地区分平民和作战人员，因此会造成相当大程度的误伤，影响军事决策，产生不可挽回的破坏性后果，未来的军事飞行器，战斗机很可能也会和这类无人机一样存在这类问题。

从更加深远的层次来说，当这些军事化机器越来越更多的依赖于自己的算法来处理情报数据，操作人员就与之越来越难以摸清机器人的军事打击决策依据，更难以实现对机器人的操控，如果这些“杀手机器人”失去了操作者的控制，那么其后果是难以想像的，在联合国的辩论议题中，这些安全问题一再被反复抛出，而大多数赞成禁止自动化武器的国家是发展中国家，它们通常不太可能参加国际裁军谈判，而那些真正具备此类研发武器研发资格的军事强国，似乎却并不将这些问题放在心上。

发展中国家更加愿意支持禁止对这类 AI 武器的研发，他们不仅没有能力研发这种军事武器，而且在历史上也曾经遭受过此类的高科技军事化打击，因此非常清楚科技作用于战争的可怕之处，至于某些强国为维护自己的军事力量所辩解的，“杀手机器人”可以帮助军事单位遵守国际人道主义法”这类说辞实际上并不可信，这类破坏力极大的 AI 自动化武器必须要通过谈判和完善的国际法制约才能保障其不至于受到滥用。

来源：thenextweb