研究人员展示AI的弱点：把乌龟辨识为枪支
报价宝综合消息研究人员展示AI的弱点：把乌龟辨识为枪支
麻省理工学院（MIT）的AI实验室LabSix上周发表一研究报告，以合成的3D对抗物件（adversarial objects）来愚弄受过训练的神经网络，显示基于人工智能的神经网络存有弱点，把人类可轻易辨识的乌龟当成是枪支。
在人们愈来愈信任人工智能（AI）的当下，除了AI可能延袭人们的偏见而引发讨论之外，研究人员也发现AI仍有可遭受攻击的安全漏洞。
研究人员说明，基于神经网络的分类器在许多任务上可达到近似人类的效能，也被应用在高风险的实体系统上，不过，这些神经网络在遇见对抗物件时特别虚弱，当透过某些输入值来困扰它们时，就会造成神经网络在分类上的错乱。
过去的对抗物件算法并不成熟，物件可能转个角度就能让AI成功辨识，相关的攻击行动也只是理论上的。然而，LabSix采用了一个全新的演算去，可用来产生可靠的2D或3D的对抗范例，它完全愚弄了Google的InceptionV3影像分类引擎，不管从哪个角度，InceptionV3都会将乌龟辨识成枪支，或是把棒球当成咖啡，就算是加入背景，InceptionV3也会以为在水里的乌龟是枪支，而手套中的棒球是咖啡。
研究人员认为，若对抗物件被证实是个针对AI的可靠攻击指标，那么就应该发展防御它的能力。它可能被用来攻击自动驾驶车，透过混淆的道路指标来愚弄AI系统，像是窜改道路速限，或是精心打造一个可蒙骗机场扫描系统的行李箱。
