报名|INTERFACE#7极棒黑客大赛王琦、清华大学朱军教授：论AI安全攻与防

消息来源:baojiabao.com 作者: 发布时间：2026-07-29

报价宝综合消息报名|INTERFACE#7极棒黑客大赛王琦、清华大学朱军教授：论AI安全攻与防

以马斯克为代表的专家总是警告人们：人工智能会制造人类难以想像的恶意行为。事实上，被人们依赖的 AI 也不那么完美、可靠，AI 在安全性方面还存在缺陷。在 INTERFACE 第七期中，我们邀请到了 GeekPwn 黑客大赛创办人、碁震公司创始人兼 CEO 王琦与清华大学计算机系长聘副教授朱军来一起讨论 AI 安全的攻与防。

演讲主题一：人“攻”智能

演讲摘要

： AI 应用系统是一个整体，任何环节出现漏洞，都有可能出现安全问题。以极棒实验室研究的攻击人脸识别系统为例，使用传统的黑客攻击方法，如攻击者通过侵入并控制该系统管理端，利用其操作系统漏洞和应用层逻辑漏洞等，最终都可攻破系统。再看人工智能现成的框架和库，例如 OpenCV、TensorFlow 等都已经被研究者发现存在漏洞。除此之外，对于算法本身的攻击也成为研究 AI 安全领域的重要方向。如果说 AI 仅仅是工具，那么被不同的人利用效果也会有所不同。利用 AI 模仿人类声纹、笔迹等等，都曾成功在极棒比赛现场复现。当越来越多的 AI 被运用于我们的日常生活、工作中，关键问题在于它真的值得信赖吗？人工智能在模仿人类的同时，不可避免的和人一样存在缺陷。如果我们不能及时发现并消灭这些缺陷，这些可以被恶意利用的显而易见的隐患将会造成更大的威胁。GeekPwn2018 设立了 CAAD（对抗样本攻防赛）和“数据追踪挑战赛”，关注 AI 图像识别领域的安全问题以及把 AI 为工具的比赛项目。这个分享将介绍“黑客眼中的 AI 安全”和 GeekPwn 黑客大赛上对于 AI 领域安全的探索。

GeekPwn（极棒）大赛发起创办人，第一个获得世界顶级黑客大赛冠军的亚洲团队碁震（KEEN）创始人、碁震公司 CEO 王琦

讲者简介：

王琦，江湖人称“大牛蛙”，GeekPwn（极棒）大赛发起创办人，第一个获得世界顶级黑客大赛冠军的亚洲团队碁震（KEEN）创始人、碁震公司 CEO。前微软美国总部以外第一个区域性安全响应中心 China MSRC 创始人之一和技术负责人，微软亚太区第一个漏洞研究领域专家级研究员。2014 年获上海 IT 青年十大新锐奖，同年他带领 KEEN 创办发起全球首个关注智能生活、人工智能安全的黑客赛事平台 GeekPwn，充当安全新秀的推手，让更多有技术潜质的人找到属于自己绽放光彩的舞台。

演讲主题二: 深度学习的对抗攻击与防守

演讲摘要

: 深度学习模型（或一般的机器学习方法）通常容易被对抗噪声攻击，这给实际应用带来了很多风险。如何有效进行攻击以及如何进行防守受到了学术界和工业界的广泛关注。谷歌公司在 NIPS 2017 会议上举办了一个对抗攻击与防守的竞赛，吸引了百余支队伍。在这个报告中，将介绍深度学习对抗攻击与防守方面的一些最新进展，包括赢得 NIPS 竞赛的解决方案以及一些近期的工作。

讲者简介：

朱军，清华大学计算机系长聘副教授、卡内基梅隆大学兼职教授。2001 到 2009 年获清华大学计算机学士和博士学位，之后在卡内基梅隆大学做博士后，2011 年回清华任教。主要从事人工智能基础理论、高效算法及相关应用研究，在国际重要期刊与会议发表学术论文百余篇。担任人工智能顶级杂志 IEEE TPAMI 和 AI 的编委、《自动化学报》编委，担任机器学习国际大会 ICML2014 地区联合主席, ICML (2014-2018)、NIPS (2013, 2015, 2018)、UAI (2014-2018)、IJCAI（2015,2017）、AAAI（2016-2018）等国际会议的领域主席。获 CCF 自然科学一等奖、CCF 青年科学家奖、国家优秀青年基金、中创软件人才奖、北京市优秀青年人才奖等，入选国家“万人计划”青年拔尖人才、MIT TR35 中国区先锋者、IEEE Intelligent Systems 杂志评选的“AI"s 10 to Watch”（人工智能青年十杰）、及清华大学 221 基础研究人才计划。

时间

：2018 年 6 月 2 日