亚马逊Rekognition被破 黑客是Facebook员工 用的还是谷歌的FaceNet开源代码
消息来源:baojiabao.com 作者: 发布时间:2024-03-29
24日,“GeekPwn国际安全极客大赛在上海举行。本届大赛共计6个团队参加,最终唯有IYSWIM团队攻破了人脸识别算法,该算法的API界面来自于亚马逊名人鉴别系统Rekognition。而更有意思的是,IYSWIM团队中有一名队员来自Facebook,更在赛后直言他们采用的是谷歌的FaceNet开源代码模型。
据了解,整个赛程以“AI控制人类世界”为故事背景,参赛队需要通过利用CAAD对抗样本”技术生成对抗样本,让AI依次突破飞行器、武器和人脸识别算法,最终逃出“觉醒黑客”囚禁地。具体要求上,AI需要将宇宙飞船、飞行器识别称普通的石头,判定导弹是安全的,更要将《最强大脑》主持人蒋昌建的照片识别为施瓦辛格。其中,最后的人脸识别关难度最大,因为大赛方采用的是迄今为止尚未有人攻破的亚马逊名人鉴别系统Rekognition API界面。
然而,大赛进行不到20分钟,IYSWIM团队成功逃出了“觉醒黑客”囚禁地。其团队代表吴育昕表示,“我是以个人名义报名参赛的,比赛之前虽然知道有人脸识别关,但不知道具体是哪张图片。所以就从网上找到了FaceNet开源代码(基于Tensorflow环境运行的谷歌人脸识别系统,可以用于人脸验证、识别和聚类等)并用其中的几套模型进行训练。”
当然,比赛的最终目的不是为了攻破,而是为了预演潜在风险、拓宽安全思维。随着AI相关技术的发展,有关AI威胁论等观点大行其道,其本质上就是认为人类会通过AI做坏事,甚至最终无法控制AI。但这些担心不是毫无道理的。
可以看到,即便是被认为绝无攻克可能的Rekognition也在大赛中被轻易攻破。更有人认为,AI时代的安全攻防难度是互联网时代的3倍,因为互联网安全攻防只涉及到人与人的对抗,而AI时代则同时涉及到人与人的对抗、人与机器的对抗以及机器与机器的对抗。
而当前,仅人脸识别技术就已被应用于各个领域,其中甚至包括安防、金融等对信息安全要求极高的领域。IYSWIM团队用20分钟向行业揭示了相关技术可能存在的漏洞和危险,是对行业的一次警醒,也是对技术更高要求的体现。
相关文章
- 中兴受美国制裁事件 被罚了20亿美元过程事件始末 中兴被制裁后公司现状
2023-11-02 22:12:46
- B站怎么炸崩了哔哩哔哩服务器今日怎么又炸挂了?技术团队公开早先原因
2023-03-06 19:05:55
- 苹果iPhoneXS/XR手机电池容量续航最强?答案揭晓
2023-02-19 15:09:54
- 华为荣耀两款机型起内讧:荣耀Play官方价格同价同配该如何选?
2023-02-17 23:21:27
- google谷歌原生系统Pixel3 XL/4/5/6 pro手机价格:刘海屏设计顶配版曾卖6900元
2023-02-17 18:58:09
- 科大讯飞同传同声翻译软件造假 浮夸不能只罚酒三杯
2023-02-17 18:46:15
- 华为mate20pro系列手机首发上市日期价格,屏幕和电池参数配置对比
2023-02-17 18:42:49
- 小米MAX4手机上市日期首发价格 骁龙720打造大屏标准
2023-02-17 18:37:22
- 武汉弘芯遣散!结局是总投资1280亿项目烂尾 光刻机抵押换钱
2023-02-16 15:53:18
- 谷歌GoogleDrive网云盘下载改名“GoogleOne” 容量提升价格优惠
2023-02-16 13:34:45
- 巴斯夫将裁员6000人 众化工巨头裁员潮再度引发关注
2023-02-13 16:49:06
- 人手不足 韵达快递客服回应大量包裹派送异常没有收到
2023-02-07 15:25:20
- 资本微念与李子柒销声匿迹谁赢? 微念公司退出子柒文化股东
2023-02-02 09:24:38
- 三星GalaxyS8 S9 S10系统恢复出厂设置一直卡在正在检查更新怎么办
2023-01-24 10:10:02
- 华为Mate50 RS保时捷最新款顶级手机2022多少钱?1.2万元售价外观图片吊打iPhone14
2023-01-06 20:27:09
- 芯片常见的CPU芯片封装方式 QFP和QFN封装的区别?
2022-12-02 17:25:17
- 华为暂缓招聘停止社招了吗?官方回应来了
2022-11-19 11:53:50
- 热血江湖手游:长枪铁甲 刚猛热血 正派枪客全攻略技能介绍大全
2022-11-16 16:59:09
- 东京把玩了尼康微单相机Z7 尼康Z7现在卖多少钱?
2022-10-22 15:21:55
- 苹果iPhone手机灵动岛大热:安卓灵动岛App应用下载安装量超100万次
2022-10-03 22:13:45