国会获报:AI找出海量漏洞 补丁潮压垮系统
过去一周,美国接连遭遇大规模技术故障:全国航班停飞、储户取不出钱、连国家安全局(NSA)的绝密内网都一度瘫痪。据三位知情人士透露,华尔街高管和国家安全局已私下向国会议员通报了这些故障背后的共同原因——不是为了修补漏洞而打上的补丁本身有错,而是补丁来得太急、太密,超出了系统的承受能力。
这些待修的漏洞,正是人工智能模型找出来的。政商两界的头部机构越来越普遍地用最强的AI模型「扫描」自己的系统,抢在恶意攻击者利用同样工具找到破绽之前堵住缺口。问题在于,一旦模型报出海量漏洞,机构就面临立即修复的巨大压力。一位了解相关通报情况的国会官员说:「这些模型找出了大量漏洞,这加剧了马上打补丁的紧迫性。他们试图一次性推完大量补丁——超出了系统原本的设计负荷。」

即便是对手握重金的头部银行和情报机构来说,这种赶工同样容易酿成事故。本周的连锁反应清晰可见:摩根大通等银行周一将服务故障归因于软件缺陷;国家安全局周二称部分网络的「临时降级」源于「例行的计划内维护」;国土安全部长马韦恩·马林周二对CNBC直言:「他们把新技术压在非常老旧的计算机系统上,系统明显不堪重负……随着新技术不断铺开,我们会看到更多这类事故。」
事故的规模足以说明问题的分量:据《华尔街日报》统计,上周的全国停飞令导致超过两万架次航班取消,微软的Outlook也经历了重大宕机。微软将原因归于技术缺陷,FAA系统宕机的具体原因则仍无定论。
智库Encode首席战略官内森·卡尔文认为,这类消息某种意义上反而让人安心——至少说明背后没有攻击。但他同时指出,这暴露出关键安全基础设施恰恰建立在布满漏洞的老旧软件之上,「更新它们注定是一个颠簸的过程。随着模型越来越强,这不是一次性的活儿——漏洞只会被找出得更多。」
值得留意的是,「AI补丁压垮系统」的说法目前仍出自匿名的私下通报,并非官方调查结论。但若属实,它意味着一个此前少有人正视的悖论:用来加固系统的AI,正在成为压垮系统的间接推手。
编译自 The Washington Sun,原标题:"Bank CEOs, NSA Tell Congress That AI-Driven Patches Are Behind Outages"