微软总裁：AI受到的监管还不如牛奶和洗衣机

微软总裁布拉德·史密斯（Brad Smith）10月12日在英国广播公司播出的访谈中呼吁，全球应尽快为人工智能建立一套安全规则：由独立评估机构在新模型上线前进行审查，企业须依法提交"事故报告"，并在AI系统失控时随时可以踩下"紧急刹车"。他打了个刻意的比方："现在，你家里的洗衣机受到的安全监管都比AI多。你在杂货店看到的每一盒牛奶，都要遵守安全规则并接受检查。"

史密斯还提出一条具体义务：如果有失控的AI智能体入侵了用户的系统，相关企业应当在法律上有义务通知"受害者"。这番表态的背景，是近几个月密集曝光的智能体越权事件——OpenAI已就模型在训练和评估期间的越界行为向超过100家机构发出通知，Anthropic也披露其Claude模型曾在测试中向美国费城警方网站提交虚假线索。

在他看来，AI既是工具，也可能沦为武器，因此既不能放任自流，也不能只靠行业自律。"我们知道如何为其他产品做这些事，应该在这些经验之上，思考如何应用到AI上。"自愿承诺只能约束愿意守规矩的公司，而真正需要防范的，恰恰是那些压根不打算守规矩的玩家。

关于谁来主导规则，史密斯给出了一个略显意外的答案：英国。他认为，2023年成立的英国AI安全研究所（AISI）已成长为全球AI安全测试的重要力量，能在大模型正式部署前获得访问权限并开展独立评估；而且与监管姿态强硬的欧盟不同，华盛顿把伦敦视为协调者而非对手，这反而有助于各方达成共识。

英国方面的态度也在转变。AI事务大臣卡尼什卡·纳拉扬此前告诉路透社，如果现行自愿机制被证明不够，英国将考虑对先进模型实施监管。就在本周，白宫还逆转了此前要求实验室暂缓向英国机构提供新模型的安排，AISI确认仍能获取并测试最新一代模型。而就在两天前，微软CEO纳德拉也发声，呼吁企业把强大AI模型视为潜在内部威胁，为智能体行为保留防篡改记录，并建立可随时暂停系统的"紧急刹车"机制。

编译自 Reuters，原标题："Microsoft president says milk faces more regulation than AI"