【CPS中安网 cps.com.cn】 近日，依托清华大学人工智能研究院成立的瑞莱智慧Real AI团队披露了新的研究成果，研究人员通过AI算法生成特殊花纹，攻破了19款手机的面部解锁系统。

　　研究人员介绍，在拿到测试人员和被攻击者的照片后，首先需要通过算法将两张照片生成眼部区域的干扰图案。随后，将图案打印，裁剪出来贴到镜框上，测试人员戴上眼镜面对手机就能完成破解。

　　据了解，研究团队选取了20款手机进行测试，除了iPhone 11外，其余安卓机型均在15分钟内破解。

　　瑞莱智慧RealAI团队研究人员表示，这19款手机覆盖国内主流手机品牌的低端机到旗舰机型，其中一款是某品牌在去年12月发布的最新款旗舰机。

　　除了破解手机面部解锁系统外，研究团队还通过对抗样本攻击通过了十余款金融和政务服务类App的人脸识别认证，甚至假冒机主在线上完成了银行开户。

　　为何手机的人脸识别这么轻易就能被攻破呢？

　　瑞莱智慧RealAI团队的研究人员表示，业界主流的人脸识别算法都有相通性，他们是利用模型之间的迁移性去做攻击的。

　　这个用于攻击的核心算法难度并不小，但如果这一技术被黑客掌握并被恶意开源，难度就被大大降低。

　　即便是没有技术背景的人在拿到开源工具后，可能只是上传一张照片，就可以下载下来这样一个眼镜的贴纸，然后进行违法攻击。

　　有业内人士表示，从该团队的研究来看，研究人员测试的安卓手机大多采用的是 2D 人脸识别，像苹果和一些高端安卓机已经采用了3D人脸识别技术，则无法用这种简单的方案攻击。

　　瑞莱智慧RealAI团队研究人员表示，他们做这个实验，并不是恶意攻击手机的产品质量，而是希望透过这个实验，让大家了解人脸识别技术目前存在的一些漏洞，以及通过攻击来针对性的提升防御能力。

　　他们建议，人脸识别应用方可通过在认证过程中增加检验对抗样本的模块，来防范此类新型攻击的风险。

　　在近年来，人脸识别作为人工智能技术的主要应用技术，被广泛应用在人们生活的方方面面，比如刷脸取款、手机刷脸解锁、刷脸买单、刷脸进门开锁、刷脸寄快递、刷脸住店、刷脸坐高铁等等，如此快捷的识别方式，让生活便利性提高了N遍。

　　用户各种行为被记录并作为数据保存起来，由此带来的数据泄露、数据伪造、算法瓶颈、隐私安全、伦理困境等问题慢慢浮出水面。

　　由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的《人工智能安全框架（2020年）》显示，随着深度伪造技术开源代码、APP应用增多，不法分子利用深度伪造技术制作虚假视频侵犯个人肖像权、名誉权和隐私权的现象屡见不鲜。

　　截至2019年12月份，全网流传的深度伪造视频中，虚假内容占比高达96%。2020年7月份，有不法分子在电商平台贩卖人脸信息，以5毛钱一份的低价打包出售后，被盗的人脸信息被用于虚假注册、电信网络诈骗等违法犯罪活动。

　　2020年网络流传的“戴头盔看房”和“94岁老人被抱起做人脸识别”的事件，再次引发广大网友对人脸信息非法收集和人脸识别技术滥用的担忧。

　　2020年11月，杭州市民郭兵起诉杭州野生动物世界有限公司在合同履行期间，未经当事人同意，将原指纹识别入园方式变更为人脸识别方式，属于单方变更合同的违约行为。法院最后判决郭兵胜诉，杭州野生动物世界删除原告照片信息。

　　此案被称为国内“人脸识别第一案”。但是，这个案子看似是胜诉了，实则是揭露了目前对信息采集、应用等的法律空白。

　　01　　人脸识别该有“紧箍咒”

　　AI时代，“刷脸”早已如家常便饭，现在带有AI智能算法的企业，如果没有人脸识别的技术和应用，都不配称为AI企业。

　　商汤、旷视、云从、依图成为其中发展最为迅猛的企业；与此同时，安防巨头海康、大华、科达、宇视等企业也基于安防的需求，不断深挖人脸识别这一领域。

　　此外，互联网企业阿里巴巴、百度、腾讯等以及寒武纪、云天励飞、地平线等芯片企业也纷纷入局，不断推出相关软件算法，从而实现AI市场的布局。

　　众多玩家的同台竞争，让人脸识别技术有了质的飞跃，识别的准确度、时效性上都做到了成熟。

　　安防，作为人脸识别最佳的落地场景，成为众多数据的采集入口。为了更好地让人脸识别应用在实际环境中，大部分监控摄像机是直接搭载相关区域，而路过的车辆或人员数据，则会作为数据存储在后端。

　　这些免费获取的数据，大多会被如何使用呢？有业内人士透露，一般来说，企业采集了数据后，会将其运用在AI的实际环境自主学习中，提高后期算法的准确性。

　　但问题是，这些数据在被采集后，是没有第三方对此进行监管的，企业实际上如何处理这些数据无人能知晓。

　　有业内人士表示，在人脸识别的应用场景中，用户或被反复弹窗提示使用人脸识别功能，或被动接受刷脸，甄别能力较弱者甚至被某些“换脸游戏”引导录入面部信息并不自知。

　　在信息使用层面，部分信息采集方并未向用户明确使用规则及范围，后续信息的使用处理亦无人监管；

　　在信息保护层面，人脸识别技术的使用机构和数据公司，一味使用技术红利采集信息，却并不都具备相关风险抵御能力。

　　作为具有不可复制性、不可被替换的个人信息元素，面部信息一旦被窃取或泄露，其风险不言而喻。

　　02　　全国多地纷纷出台措施，约束采集人脸识别信息

　　人脸识别技术被滥用，正在造成个人信息采集的失控。

　　而造成这个局面的原因，除了公众自身的个人信息保护意识薄弱之外，不少组织机构、企业，无论是否正当、有无必要，一味追求成本低廉和采集便利，无限制使用人脸识别身份认证也是重要原因。

　　此外，部分数据公司为拓展业务和增收盈利，不断推广普及采集技术，也为人脸信息安全埋下了隐患。

　　2020年12月2日，天津市人大常委会于12月1日表决通过了《天津市社会信用条例》（以下简称《条例》）。

　　《条例》中规定，市场信用信息提供单位不得采集自然人的血型、疾病和病史、生物识别信息以及法律、行政法规规定禁止采集的其他个人信息。

　　根据这一规定，企事业单位、行业协会、商会等将被禁止采集人脸数据、指纹等生物识别信息。

▲图片来源：天津市河西区人民法院

　　此外，根据《条例》规定，市场信用信息提供单位采集自然人信息的，应当经本人同意并约定用途，法律、行政法规另有规定的除外。

　　市场信用信息提供单位不得采集自然人的收入、存款、有价证券、商业保险、不动产、纳税数额等信息，但是明确告知提供该信息可能产生的不利后果并取得其书面同意的除外。

　　该《条例》已在2021年1月1日开始实施。

　　除了天津以外，全国多地也出台了对人脸识别的相关规定。

　　2020年11月，南京市住房保障与房产局发文称，为加强住房消费者权益和个人信息保护，规范和净化南京市房地产市场环境，对购房人身份识别，收集、使用购房人个人信息应遵循合法、正当、必要的原则，南京市要求商品房销售现场禁止使用人脸识别系统。

　　2020年10月，杭州市人大常委会法制工作委员会发文称，就《杭州市物业管理条例（修订草案）》公开征求意见，该草案显示，杭州市拟规定物业服务人不得强制业主通过指纹、人脸识别等生物信息方式使用共用设施设备。

　　值得关注的是，除了中国部分城市对人脸识别技术提出约束外，海外国家也开始发出相关提案。

　　2021年1月29日，由 47 个国家组成的欧盟委员会 (Council of Europe)在公布的一项提案中表示，公司应该禁止利用面部识别技术分析情绪和个性，并以此为根据来招聘和解雇员工，同时，私营企业在使用面部识别数据时，还需要获得个人的明确同意。

　　据了解，欧盟委员会之所以公布相关的提案，是担心面部识别技术可能会侵犯隐私，或者带来基于性别等方面的歧视问题。这项立法旨在解决算法工作的不透明性，以避免偏见。

　　欧盟官员原本考虑五年内全面禁止在公共场所使用面部识别技术，但在欧盟不少国家的强烈反对下，由成员国来决定如何实施这一禁令。

　　这些提案仍在欧洲议会 (European Parliament)审议中，是否会被通过还未知。

　　03　　人脸识别企业，如何走出“灰色地带”

　　相关的措施出台，为从事生物识别技术、方案的企业，戴上了“紧箍咒”，如果他们在未经他人的许可下，私自采集他人个人信息，将违反相关规定。也就是说，企业如果随意采集个人信息，那么其将担负法律责任。

　　在此前，对于很多AI企业来说，采集信息是免费的，他们可以将这些海量的数据进行分析、算法训练，为后续的技术开发提供有力的数据支撑。

　　如果不能使用这些个人信息，那么就会给企业带来两个重要的影响：第一，数据获取的难度加大，他们需要将“训练”交给第三方企业进行学习；第二，这笔第三方训练的费用高昂，而且会面临企业核心算法等技术泄露的风险。

　　而第三方企业也面临不小的难题，比如，数据来源是否“正常”，如果他们采集一个数据，是否需要与每一个出现在画面中的消费者签订合同呢？

　　有业内人士分析，如果后续更多的相关条例法规出台，可能会对AI企业带来一些冲击，比如，成本加大、数据获取困难等。

　　AI企业的技术测试流程也可能会发生变化，为了防止信息泄露，需要可靠的监管部门，可让公安或其他政府机构负责采集人员面部信息，并对此进行管理。

　　那么企业后续需要这些数据时，就要向这些机构提出申请或备案。由此，AI技术的研发和应用发展都将会受到不小的影响。

　　如今，摆在眼前的“信息安全”和“技术发展”成为一把双刃剑，在法律还处于相对空白的时期，技术发展的“灰色地带”或许还会存在较长的时间。