周鸿祎出席新智者大会 称机器人不伤人原则已打破

"原来机器人永远不要伤害人类的原则，现在看来已经被打破。所以，我们建议应该把 AI 最后的决定权交给人类，让人来做最后的控制，而不是完全让 AI 做自动的判断、自动的决策。"7 月 27 日，由中国互联网协会指导、微博和新浪新闻主办的人工智能领域峰会新智者大会在京顺利召开。三六零 (601360.SH，下称"360") 集团创始人周鸿祎出席大会并发表主题演讲。

他指出，面对人工智能带来各种复杂安全挑战，网络安全行业应当被重新定义，将计算机安全、网络安全升维到数字安全。其中，《国家安全战略（2021 年-2025 年）》明确提出加快提升网络安全、数据安全、人工智能安全等领域的治理能力，这也是国家战略层面首次提出人工智能安全的概念，说明人工智能安全是数字安全的一部分。

演讲中，周鸿祎指出 AI 已应用在战争中，不伤人原则已被打破。今年俄乌冲突中，乌克兰军队就使用了美国的弹簧刀无人机，该无人机具备监视、侦察和打击功能，在 AI 的加持下，单兵就能熟练掌握。"从人下指令，到 AI 自动识别、自动判断、自主发起攻击，我觉得就是一层薄薄的窗户纸。所以把 AI 武器最后的决定权交给人类，让人来做最后的控制至关重要。人工智能最后的底线必须是人。"周鸿祎说道。

除应用于战场上外，人工智能安全也面临着七重挑战，包括：硬件、软件、通信协议、算法、数据、应用和社会伦理。周鸿祎指出经典的"电车难题"就是很好的例证。面对电车选择难题，AI 程序该如何来做出判断。与此同时，如果出了车祸，这个责任到底该谁来负？应该算 AI 的？算车厂的？还是算驾驶员的？这些 AI 安全问题，目前都还没有明确答案。

然而，风险与机遇并存。对于人工智能的风险与积极作用，周鸿祎认为需辩证对待。在此方面，360 一直高度重视人工智能安全，率先布局构建起人工智能安全能力体系。360 不仅对自身积累的全球最大的安全大数据进行 AI 分析，形成了 360 云端安全大脑的原型，为行业或企业提供强大的数据和情报支撑；同时积极承担"安全大脑国家新一代人工智能开放创新平台"的建设；此外还牵头研发的"人工智能安全测评与风险监测预警平台"入选工信部"人工智能产业创新任务揭榜单位"名单，有效夯实了人工智能安全的底座。

值得关注的是，周鸿祎还直言仅靠一家企业不能解决所有威胁，需要注重生态合作，并表示作为中国数字安全的领军企业，360 愿意开放自身安全大数据，将产学研力量联合起来，共建 AI 安全生态，集中推动数字安全的创新。