首页 > 国际新闻

GeekPwn2019 | AI安全威胁无处不在,RealAI联合清华夺冠

文章作者:来源:www.50x15.com时间:2019-11-17



10月24日,极客2019国际安全极客大赛在上海举行。此次比赛以“极客Me 5”为主题,推出了“CAAD针对样本的语音挑战”、“CAAD CTF针对样本的图像挑战”、“针对偷拍相机的隐私安全挑战”等专项比赛,涵盖机器学习、云安全、隐私安全和机器人等不同领域。由

RealAI和清华大学组成的TSAIL团队值得一提的是,由RealAI和清华大学组成的TSAIL团队赢得了“CAAD CTF形象对抗样本挑战赛”和“CAAD隐形挑战赛”的比赛。

10月24日,极客2019国际安全极客大赛在上海举行。此次比赛以“极客Me 5”为主题,推出了“CAAD针对样本的语音挑战”、“CAAD CTF针对样本的图像挑战”、“针对偷拍相机的隐私安全挑战”等专项比赛,涵盖机器学习、云安全、隐私安全和机器人等不同领域。由

1、《黄健翔》和《伊万卡》在极客2018年正式推出。人工智能很笨,无法识别“”CAADCTF图像挑战样本。比赛中,玩家被要求通过生成反样本来欺骗人工智能图像识别系统,使具有识别能力的人工智能犯下非常“迟钝”的错误。例如,在2018年上海极客挑战赛中,参赛者通过对抗样本攻击,突破亚马逊的名人识别系统,让主持人蒋昌建的照片被识别为施瓦辛格。

10月24日,极客2019国际安全极客大赛在上海举行。此次比赛以“极客Me 5”为主题,推出了“CAAD针对样本的语音挑战”、“CAAD CTF针对样本的图像挑战”、“针对偷拍相机的隐私安全挑战”等专项比赛,涵盖机器学习、云安全、隐私安全和机器人等不同领域。由

然而,2019年CTF民航局面临的挑战越来越艰巨。在“非定向识别”、“定向识别”和“人脸识别攻击”三个独立项目下,有三种不同的模型需要打破。

TSAIL团队在前两级“非定向识别”和“定向识别”中得分很高。最后,在第三级“人脸识别攻击”中,成功用图片欺骗了图像分类器,让人工智能将主持人黄健翔识别为“美国的第一个女儿”伊万卡特朗普,成为现场唯一一个成功欺骗了克拉菲人脸识别系统的团队。实现

图像对抗样本攻击,尤其是“人脸识别攻击”,无疑是对日益流行的“刷脸”应用的一大挑战。面部解锁、面部支付、酒店面部入住、面部递送.人脸识别技术已经渗透到我们生活的各个方面,但是它们的安全机制非常脆弱,稍加处理的图像很容易被破解。

想象一下,你的身份将来很容易通过一副“眼镜”被窃取。手机信息、酒店信息甚至银行卡信息也会被曝光.个人隐私和财产安全将受到前所未有的威胁。因此,一方面,公众需要提高人工智能的安全意识;另一方面,人工智能算法的安全性和可靠性也需要重新评估。

2。用一张A4纸在人工智能镜头下“隐藏”。

“CAAD隐形挑战”在今年的比赛中正式推出。比赛规则是参赛者需要当场在A4纸上打印图案,并将其切割成任意大小的矩形,以最终避免被目标检测系统识别。

在比赛现场,包括TSAIL团队在内的三个团队分别打印了几个“图像对抗样本”,让观众将样本举在胸前,放在摄像机前,成功躲过目标检测系统的识别,使系统无法感知任何人的存在,实现“隐身”。三支队伍都在一米处实现了隐形,但TSAIL团队使用了最小的图像尺寸(14厘米* 14厘米),并成功获得了项目第一名。

值得注意的是,业内流行的YOLOv3系统在本项目下被完全攻破,这也意味着目前市场上的目标检测系统可能被攻破。

目前,目标探测技术是大规模商业着陆的人工智能技术之一。它已应用于许多商业场景,如公共场所的动态监控、安全保护和控制以及自动驾驶汽车的传感系统。实现“隐形”攻击不仅会影响人身安全,还会威胁社会安全甚至国家安全。

当监控系统失效时,警方过于信任人工智能监控,导致犯罪分子轻易使用“隐形”技术逃跑;自动驾驶汽车失控,被路边非法分子安装的“模式”误导,导致车祸。

事实上,《哈利波特》中的“隐身衣”具有无限的魔力。然而,当这种“斗篷”出现在现实生活中时,它可能滋生犯罪,被犯罪分子用来制造危机,并成为恐怖分子手中的武器。当然,我们并不完全否认“隐形”技术,但如何使用和扞卫它需要相关组织和人工智能技术企业尽快行动。

3。完美的未来必须是安全的。“这是未来

极客网竞赛赞助商王琦发表的演讲

新技术的出现通常有两个方面。突破可能伴随着“潜流”。然而,正如极客网竞赛赞助商王琦在他的演讲中所说的:努力消除坏的,完美的未来必须是一个安全的未来。

随着人工智能安全多年的积累,RealAI自成立以来一直致力于解决人工智能技术发展中的各种“不良”。通过不断的攻击尝试,RealAI希望在安全危机发生前找到反击这些攻击的方法,从而将潜在的安全风险扼杀在萌芽状态。

于是,今年5月,RealAI正式发布了与清华大学人工智能研究所联合开发的RealSafe人工智能安全平台。RealSafe平台集成黑盒和白盒场景,可以提供人工智能算法漏洞检测和漏洞修复,以及全面详细的算法评估和比较。同时,可以应用于金融领域的身份验证、安全领域的监控和识别等特定场景,确保人工智能应用的安全性。

人工智能作为一种前沿技术正在逐渐普及,但人工智能安全风险的消息也在不断被曝光。作为中国顶尖的人工智能安全研究团队,RealAI将继续深入漏洞研究,不断输出自身的安全能力,为人工智能安全新思维的升级和新趋势的探索做出贡献。

乌马河销售混凝土抗裂钢纤维公司