首页 > 国际新闻

GeekPwn2018:AI“眼花”背后的安全探究

文章作者:来源:www.advsolarpower.cn时间:2020-01-14



不经意间,人工智能已经完全占据了我们的日常“刷脸时代”似乎真的要来临了。随着“刷卡打卡”等人脸识别技术、机场应用“刷卡安检”、银行“刷卡取款”和卫生间“刷卡取纸”的普及,人工智能已经从好莱坞成功进入人类的现实生活。

随着它们在生活中扮演越来越重要的角色,我们开始质疑:表面上一丝不苟的人工智能是未来智能生活最安全的解决方案吗?极客2018揭示你的神话。10月24日,在中国上海举行的极客2018国际安全极客大赛现场,白帽黑客和人工智能“互相竞争”,这是一场前所未有的人工智能项目破解秀,揭示了当前人工智能发展过程中存在的安全问题。

作为世界上第一个探索人工智能和专业安全的前沿平台,极客Pwn始终保持着敏锐的科技洞察力,从创立之初就开始关注人工智能安全问题。今年,以“人的‘攻击’智能和展望未来”为主题的极客网(GeekPwn)对人工智能时代的安全问题展开了新一轮探索。其中,重点项目“CAAD对抗样本攻防挑战赛”和趣味挑战赛“甘马赛克移除挑战赛”创新了我国人工智能对抗的新方法。黑客和人工智能之间的游戏无疑已经成为这场极客大战的最大亮点。

“宇宙飞船”或“巨石阵”是愚蠢和困惑的吗?人工智能也能在感应下看到美丽的眼睛。众所周知,人脸识别技术给生活带来了许多高效的体验,同时也为人类开辟了无限的想象空间。人工智能保安和人工智能保安正在逐步取代传统的人力,承担起为重要场所“守护家园和医院”的责任。在某些领域,人工智能似乎将不可避免地被赋予“最高”权利。然而,它真的能扮演一个没有“沙子”空间的好卫士的角色吗?

目前的人工智能地图并不是万无一失的,它不仅可以看到美丽的眼睛,而且令人发指到“每个人”都可以成为施瓦辛格!这是一个肉眼很容易辨别的“东西”。在被极客2018参赛者“涂黑”后,人工智能错误地将“飞船”识别为“巨石”。将“导弹”判定为“安全物品”;甚至特邀主持老师蒋昌建的照片也被认定为阿诺德施瓦辛格。在极客Pwn2018大赛现场,由吴庆新和谢慈航组成的IYSWIM团队成功地通过生成一系列“对抗样本”来欺骗亚马逊名人认知度,实现人工智能地图识别的Pwn三击,并率先以第一个结果完成了“CAAD对抗样本攻防挑战赛”项目第一阶段的限时挑战。

这是自今年8月拉斯维加斯极客网以来,CAAD对抗性样本攻防挑战赛首次登陆上海。极客网(GeekPwn)与谷歌大脑人工智能研究科学家伊恩古德费勒(Ian Goodfellow)、阿列克谢库拉金(Alexey Kurakin)以及加州大学伯克利分校计算机科学系的宋晓东教授等其他学术机构一道,延续了拉斯维加斯站首创的CAADCTF形式。来自清华大学、中国科技大学、约翰霍普金斯大学、脸书、腾讯、阿里巴巴和扇贝等知名大学和企业的6支人工智能团队受邀参加“1024”阶段的实时攻防竞赛,提前预览人工智能应用的潜在安全风险。

不同于“限时挑战”的第一阶段,“攻防对抗”的第二阶段是团队之间的无方向拉锯战。每个队互相攻击和防守。没人能预测下一次攻击将来自“谁”。队员们一手拿着锋利的“刺刀”,另一手拿着厚厚的“盾牌”,在进攻和防守的两端来回游动。经过两个阶段的激烈竞争,IYSWIM团队赢得了“CAAD对抗样本攻防挑战赛”项目的冠军。OWLET和TSAIL团队分别获得了两三个名额,而刀锋、美国科技大学阿里巴巴和RNG团队获得了大奖。

不仅如此,期待已久的CAAD在线比赛最终结果也在极客2018现场揭晓。ysharma1126、Labmem2018和TSAIL团队分别在非目标攻击竞赛中名列前三

马赛克作为绘图软件中不可缺少的工具之一,已经成为当代人获得“安全”的重要保证。代码背后真正的锤子是什么?或者这是女神住所肮脏的对比?或者他们是隐藏婚姻家族的线索?马赛克真的能保守你的“小秘密”吗?在极客2018现场,来自中国海洋大学的选手杜安刚(Du Angang)使用“生成对抗性网络-GAN”的人工智能技术,恢复编码图片的真实外观,撕毁马赛克“伪装”,宣称一切只靠编码安全的时代已经成为过去。

根据“GAN拆迁马赛克”的比赛规则,组织者已经提前通知参赛者三种图片(菠萝、汉堡、比基尼)进行训练。竞赛网站的组织者将提供3个类别的多张图片,这些图片将循环播放(玩家不允许观看),观众将选择其中3张进行镶嵌,玩家将尝试恢复它们。最后,参赛者以“1:1完美再雕刻”的精彩表演几乎成功解决了项目挑战。

毫无疑问,“CAAD挑战样本时限”和“赣南拆除马赛克挑战”的严峻挑战敲响了公众人工智能安全的警钟。如果罪犯利用挑战样本伪装成普通人,欺骗强大的人脸识别系统;如果罪犯使用反网络甘来恢复受害者的个人信息并找到他的住所.这些隐藏在智能生活中的人工智能安全风险将来很可能真的会发生,并成为社会新闻的头条。

人工智能安全离公共生活不远。它与生活密切相关。从前瞻性的技术趋势出发,智能安全应该得到更多的关注。KEEN的CEO兼极客网(GeekPwn)创始人王琦表示:自成立以来,它带来了许多带有大脑洞的快播节目,向制造商提交了数百个漏洞,也让更多人关注了智能生活中安全问题的重要性和必要性。人们的目的不是“攻击”情报。希望科学评价和视觉展示能让科学普及,让智慧飞扬,让每个人的生活更安全,这是非常好的。

这篇文章是网站管理员的家庭用户提交的。未经网站管理员同意,严禁复制。例如,如果大多数用户在稿件中发现虚假报告,欢迎读者反馈、纠正和报告问题(反馈入口)。

免责声明:这篇文章是对用户的贡献。网站管理员之家发表这篇文章只是为了传递信息。这并不意味着站长之家同意其观点,不对内容的真实性负责,仅供用户参考,不构成任何投资或使用建议。读者被要求核实真实性和可能的风险,任何后果将由读者自己承担。