首批“国检”安全测评出炉——助力人脸识别产业健康发展

首批“国检”安全测评出炉——助力人脸识别产业健康发展 字体： 小 中 大 分享到： 首批“国检”安全测评出炉——助力人脸识别产业健康发展 2022-01-20 08:34:04 来源：经济日报

1月18日，国家工业信息安全发展研究中心AI国检中心发布《人脸识别系统安全评估研究报告》。报告显示，腾讯云、JD.COM科技、商汤科技、旷视科技、海康威视、路神视成为首批通过人脸识别系统安全评估的企业。

近年来，人脸识别作为人工智能领域最具商业价值的技术方向，已经广泛应用于安防、金融、交通、教育等领域。然而，技术和应用层面仍存在安全挑战，漏洞攻击、数据泄露、技术滥用等问题屡屡成为社会焦点。因此，AI国检中心作为人工智能领域的国家级检测机构，启动人脸识别系统安全性的评估工作，对市场主流人脸识别产品进行监督检查，规范人脸识别行业的健康发展。

据悉，这是全国首次对人脸识别系统的安全能力进行测试和评估。根据信息技术生物特征人脸识别系统的技术要求、信息安全技术人脸比对模型的技术规范以及其他目前正在研究的相关国家和行业标准，通过呈现攻击、注入攻击等技术手段对人脸识别产品和服务进行全面测试，有效评估人脸识别的安全风险。

“人脸识别系统的安全风险主要涵盖算法安全、数据安全和应用软件安全等维度。”国家工业和信息安全中心人工智能研究所副所长刘永东介绍，本次评估对人脸识别系统的安全风险提供了明确的测试方法，包括算法层面的反恶意攻击检测、软件层面的静态代码安全测试、注入式攻击测试和程序数据扫描等。

“我们在测试中发现了许多问题。首先，人脸识别和身份认证系统的安全评估不能用同一个尺度来衡量。不同场景要区分技术安全判断规则。”国家工业信息安全研究中心人工智能研究所图像检测室负责人朱倩倩说，以门禁和金融支付为例，门禁闸机注重的是门禁效率，安全要求相对较低，金融支付非常高。从应用角度来说，没有100%安全的技术，所以在高风险场景下应该采用多种认证方式。此外，由于人脸识别技术采用深度学习结合大数据训练的模式，受限于呈现攻击测试的样本量数据，检测无法完全覆盖各种不安全情况。因此，建议采用与人脸识别相匹配的数据库规模测试，结合呈现攻击测试综合判断人脸识别系统的安全性。

朱倩倩介绍，针对上述问题，AI国检中心将研究应用场景的安全等级，根据不同场景、不同功能、不同应用阶段对人脸识别的安全等级进行分类，并制定技术和应用安全评估标准。不断提高检测水平，研究测试样本的差异性，为企业提供高水平的检测服务，帮助企业发现安全问题，提出改进和优化的建议。

目前，人脸识别技术的标准化和管理已经成为全球关注的焦点。美国和欧盟相继出台了《人脸识别和生物识别技术禁止法案》、《通用数据保护条例》等监管政策。，与此同时，他们还领导着多项人脸识别国际标准。中国提出发展与安全并重的理念，采取措施推动人脸安全的应用，逐步主导部分标准的制定，在公共安全、金融等领域进行规范建设。本次评测工作为进一步完善人脸识别标准体系，推动行业规范发展提供了有力支撑。通过评估的企业还将参与后续的标准编制工作。

人脸识别具有高度的社会属性，应该在法治的框架下进行协同治理。如何落实政策法规的要求？北京瑞来智能科技有限公司高级副总裁朱蒙认为，技术厂商可以联手律所，对内完善技术合规体系，对外应用合规咨询服务，如培育数据安全咨询、数据保护设计、数据安全管理服务，从技术和业务流程角度提供完整的安全解决方案，以满足数字经济新时代监管机构的合规要求。(记者李鹏达)

【纠错】