欧盾科技讯: 近年来,人脸识别技术取得了飞速的发展,在多个领域取得了显着的成果,特别是在警务领域,人脸识别技术的运用,帮助公安民警抓捕到一个又一个漏网之余,有力震慑了犯罪分子。
但是,一条黑色的产业链也由此而生。有报道显示,一些电商平台正以0.5元一份出售匹配了身份信息的人脸数据,与此同时,帮助不法分子将照片活化的工具和教程也仅仅售卖35元。在一些QQ群里,3元钱就能买到用户的详细身份信息和人脸照片。貌似高大上的人脸识别,正暴露出越来越多的BUG。
最新披露的案例显示,冒用人脸骗过验证并非难事。只要有一张对应着身份信息的照片,辅以“照片活化”的工具和教程,就可以骗过不少人脸验证系统。真正可怕的一点在于,有关的“人脸活化软件”使用门槛越来越低,堪称是傻瓜式操作。这意味着但凡存在主观恶意,稍加钻研之后几乎人人都可以冒用他人人脸……从某种意义上说,这已然印证了一种技术路径、应用生态的全面崩塌,这是系统性风险,而非个别的、偶然的“缺陷”。
相比于身份证号、消费记录、信贷流水等类型的个人信息,“人脸信息”无疑要敏感得多,其泄露的后果也要严重许多。人脸被冒用,支付、网贷、门禁等,完全处于不设防的裸奔状态。理论上,莫名其妙背上一笔贷款、陌生人悄无声息闯入家门都是可能之事。人脸信息验证,不同于密码验证等方式,前者的“生物特征数据”具有固定性、永久性,改密码容易,要“换脸”难于登天。一旦人脸信息丢失,将终身置于不确定风险之中。
底层技术太落后,应用铺开推广太快,目前所谓“人脸识别”客观上已经成为潜在高危系统。
如今,已经有人认识到这个缺陷,开始为照片穿上“隐身衣”,帮助人们保护照片隐私数据。比如,来自芝加哥大学的最新研究Fawkes,只是通过算法给照片加上一点肉眼看不出来的修改,就能让你的脸成功“隐形得以100%骗过来自微软、亚马逊、旷视等等这些全球最先进的人脸识别模型!如此一来,即使你在网络上的照片被非法抓取,用这些数据训练出来的人脸模型,也无法真正成功识别你的脸。
其实,对于深度神经网络而言,一些带有特定标签的微小扰动,就能够改变模型的「认知」。比如,在图像里加上一点噪声,熊猫就变成了长臂猿。
Fawkes就是利用了这样的特性。
用 x 指代原始图片,xT为另一种类型/其他人脸照片,φ 则为人脸识别模型的特征提取器。
具体而言,Fawkes是这样设计的:
第一步:选择目标类型 T
指定用户 U,Fawkes的输入为用户 U 的照片集合,记为 XU。
从一个包含有许多特定分类标签的公开人脸数据集中,随机选取 K 个候选目标类型机器图像。
使用特征提取器 φ 计算每个类 k=1…K 的特征空间的中心点,记为 Ck。
而后,Fawkes会在 K 个候选集合中,选取特征表示中心点与 XU 中所有图像的特征表示差异最大的类,作为目标类型 T。
第二步:计算每张图像的「隐身衣」
随机选取一幅 T 中的图像,为 x 计算出「隐身衣」δ(x, xT) ,并按照公式进行优化。
其中 |δ(x, xT)| < ρ。
研究人员采用DDSIM(Structural Dis-Similarity Index)方法。在此基础上进行隐身衣的生成,能保证隐身后的图像与原图在视觉效果上高度一致。
实验结果表明,无论人脸识别模型被训练得多么刁钻,Fawkes都能提供95%以上有效防护率,保证用户的脸不被识别。
即使有一些不小心泄露的未遮挡照片被加入人脸识别模型的训练集,通过进一步的扩展设计,Fawkes也可以提供80%以上的防识别成功率。
在Microsoft Azure Face API、Amazon Rekognition和旷视Face Search API这几个最先进的人脸识别服务面前,Fawkes的「隐身」效果则达到了100%。
目前,Fawkes已开源,Mac、Windows和Linux都可以使用。
版权声明: 本文由欧盾科技有限公司 2020-07-27 转载于互联网,如侵犯了您的权益,请于本站联系!
咨询热线 400-0789-119
售后咨询 135 8819 5382
北方大区 | 王经理:135 8835 3579
东北区 | 苏经理:135 8829 9505
华北区 | 张经理:135 8819 7592
华东区 | 徐经理:135 8801 6590
华东区 | 陈经理:135 8819 7592
南方大区 | 余经理:135 8801 6212
中南区 | 薛经理:135 8829 9951
西南区|章经理:135 8819 7236
西北区|汤经理:135 8835 8251
产品订制 | 肖经理:135 8819 6532
在线留言