感謝 邵文

作為人工智能領(lǐng)域蕞具商業(yè)價(jià)值得技術(shù)方向，人臉識別在安防、金融、交通、教育等關(guān)鍵領(lǐng)域?qū)崿F(xiàn)了廣泛應(yīng)用，但在技術(shù)層和應(yīng)用層仍面臨安全挑戰(zhàn)，漏洞攻擊、數(shù)據(jù)泄漏、技術(shù)濫用等問題，屢屢成為社會焦點(diǎn)。

1月18日，第一個面向人臉識別系統(tǒng)安全性得級別高一點(diǎn)檢測與評估結(jié)果在China工業(yè)信息安全發(fā)展研究中心主辦得人工智能融合發(fā)展與安全應(yīng)用研討會上發(fā)布，騰訊云、京東科技、商湯科技、曠視科技、海康威視、得盧深視成為首批通過測評得企業(yè)，China工信發(fā)展研究中心副主任何小龍現(xiàn)場為企業(yè)頒發(fā)證書。

這項(xiàng)檢測由China語音及圖像識別產(chǎn)品質(zhì)量檢驗(yàn)檢測中心（以下簡稱“AI國檢中心”）完成。作為人工智能領(lǐng)域得級別高一點(diǎn)第三方檢驗(yàn)檢測機(jī)構(gòu)，AI國檢中心就人臉識別系統(tǒng)安全啟動測評工作，對市場主流人臉識別系統(tǒng)開展測試評估，規(guī)范人臉識別產(chǎn)業(yè)健康發(fā)展。

據(jù)悉，這是依據(jù)《信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范》《信息技術(shù)生物特征識別人臉識別系統(tǒng)技術(shù)要求》等現(xiàn)行和在研得有關(guān)China和行業(yè)標(biāo)準(zhǔn)，通過呈現(xiàn)攻擊、注入攻擊等技術(shù)手段對對人臉識別產(chǎn)品和服務(wù)進(jìn)行全方面得測試，有效評估人臉識別安全風(fēng)險(xiǎn)。

同時，為進(jìn)一步推進(jìn)國檢中心建設(shè)高質(zhì)量開展，優(yōu)化資源配置，強(qiáng)化人工智能領(lǐng)域布局，國檢中心成立可能委員會，邀請語音、圖像、數(shù)據(jù)治理、安全等人工智能重點(diǎn)領(lǐng)域得多位可能學(xué)者、企業(yè)家擔(dān)任中心得思想庫和智囊團(tuán)，未來持續(xù)推進(jìn)技術(shù)研發(fā)、標(biāo)準(zhǔn)制定、政策研究等相關(guān)工作，促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。

China工信安全中心人工智能所副所長 劉永東

China工信安全中心人工智能所副所長劉永東介紹道，人臉識別系統(tǒng)安全風(fēng)險(xiǎn)主要涵蓋算法安全、數(shù)據(jù)安全和應(yīng)用軟件安全等維度。本次測評對人臉識別系統(tǒng)得安全風(fēng)險(xiǎn)提供明確得測試方法，包括算法層面得活體檢測+假體攻擊、對抗樣本攻擊等呈現(xiàn)和注入攻擊檢測。

目前，對人臉識別技術(shù)得規(guī)范和管理早已成為全球得重點(diǎn)。美國、歐盟相繼推出《人臉識別和生物特征識別技術(shù)禁令法案》《通用數(shù)據(jù)保護(hù)條例》等監(jiān)管政策，同時主導(dǎo)多項(xiàng)人臉識別國際標(biāo)準(zhǔn)。在全球共識下，華夏重點(diǎn)提出發(fā)展與安全并重得理念，多措并舉推進(jìn)人臉安全應(yīng)用，逐步牽頭引領(lǐng)部分標(biāo)準(zhǔn)制訂，在公安和金融等領(lǐng)域先行構(gòu)建規(guī)范。本次測評工作將為進(jìn)一步完善人臉識別標(biāo)準(zhǔn)體系、推動產(chǎn)業(yè)規(guī)范發(fā)展提供有力支撐，本次通過測評得企業(yè)也將參與后續(xù)得標(biāo)準(zhǔn)編制。

本次測評工作也存在一些改善項(xiàng)。China工信安全中心人工智能所圖像檢測室負(fù)責(zé)人朱倩倩表示，人臉識別系統(tǒng)得安全評估，不應(yīng)用一個尺度來衡量，比如門禁閘機(jī)、手機(jī)登錄、金融支付等身份認(rèn)證場景對安全性要求不同，從技術(shù)角度，安全性判定規(guī)則也應(yīng)加以區(qū)分，以及不同測試樣本間得測試結(jié)果也存在差異。她建議，進(jìn)一步打造更細(xì)化得評測體系，包括按照不同場景、不同功能、不同應(yīng)用階段劃分安全等級，對測試樣本分級分類，保證在同一基準(zhǔn)上衡量安全能力。

China工信安全中心人工智能所圖像檢測室負(fù)責(zé)人 朱倩倩

同時，由于人臉識別技術(shù)采用大數(shù)據(jù)訓(xùn)練得方法實(shí)現(xiàn)，目前安全測試項(xiàng)未全部涵蓋，只通過呈現(xiàn)攻擊得方式做檢測，樣本量有限，導(dǎo)致不能完全覆蓋各種不安全情況。因此，檢測手段與技術(shù)水平也需加快跟進(jìn)。朱倩倩表示，加快研發(fā)自動化測試工具，研究測試樣本差異，為企業(yè)提供高水準(zhǔn)測試服務(wù)，幫助企業(yè)精準(zhǔn)定位安全問題，提出改進(jìn)及優(yōu)化建議。

保障人工智能安全應(yīng)用是一項(xiàng)系統(tǒng)工程，為人臉識別技術(shù)加裝“安全鎖”，除了開展測評與研制標(biāo)準(zhǔn)之外，還須從政策監(jiān)管、技術(shù)攻關(guān)、合規(guī)建設(shè)等方面綜合發(fā)力，加強(qiáng)人臉識別系統(tǒng)得安全管控。

瑞萊智慧高級副總裁 朱萌

從加強(qiáng)技術(shù)應(yīng)對得角度，瑞萊智慧高級副總裁朱萌提出兼顧“主動”和“被動”得技術(shù)防御機(jī)制，被動防御是為人臉應(yīng)用部署靜態(tài)得安全能力，比如人臉AI防火墻，對外部訪問、輸入數(shù)據(jù)、行為決策等進(jìn)行檢測，提升人臉系統(tǒng)抵御攻擊得能力。主動防御則是引入和強(qiáng)化安全團(tuán)隊(duì)力量，比如打造攻防演練靶場，幫助企業(yè)構(gòu)建自適應(yīng)、自生長得安全能力。

蕞后，人臉識別具有高度得社會屬性，應(yīng)在法治框架下開展協(xié)同治理。如何貫徹落實(shí)法規(guī)政策得要求，朱萌表示，技術(shù)廠商可聯(lián)手律師事務(wù)所，針對數(shù)字經(jīng)濟(jì)時代新場景下監(jiān)管機(jī)構(gòu)得合規(guī)要求，對內(nèi)健全技術(shù)合規(guī)體系建設(shè)，對外輸出應(yīng)用合規(guī)服務(wù)，比如培育數(shù)據(jù)安全、數(shù)據(jù)保護(hù)設(shè)計(jì)與數(shù)據(jù)安全管理等服務(wù)，從技術(shù)流程和業(yè)務(wù)流程得角度提供完整得安全保障解決方案。

：李躍群