如果說這是一個屬于人臉識別技術(shù)全面應(yīng)用的時代，相信大多數(shù)人是不會站出來反駁這一觀點(diǎn)的。
人臉識別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場教育、技術(shù)完善，到各行各業(yè)各領(lǐng)域采用數(shù)個階段，如今已經(jīng)發(fā)展相對成熟，在街道、樓宇、煤礦、商廈、銀行等各個角落，服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個領(lǐng)域。
但是，“否定之否定規(guī)律”早已揭示，所有事物的發(fā)展都是一個螺旋式上升或波浪式前進(jìn)的運(yùn)動過程，而并非一帆風(fēng)順、一蹴而就的。就在近日，歐洲議會投票表決，通過了一項“呼吁全面禁止基于AI
生物識別技術(shù)大規(guī)模
監(jiān)控”的提議，從監(jiān)管層面進(jìn)一步收緊了人臉識別技術(shù)的應(yīng)用。
歐洲議會成員Petar Vitanov在決議通過后發(fā)表聲明稱，“人類的基本權(quán)利是無條件的。我們有史以來第一次呼吁暫停部署用于執(zhí)法的面部識別系統(tǒng)，因為該技術(shù)已被證明是無效的，并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報告對所有歐洲公民來說都是一個巨大的勝利。”
從被外界炒作的“黑科技”到人民避而遠(yuǎn)之的“瘟疫”，基于AI的人臉識別究竟犯了什么樣的錯誤，才引起了監(jiān)管部門的注意，對于其未來的發(fā)展，又給國內(nèi)監(jiān)管部門和企業(yè)帶來了哪些啟示？
數(shù)張“罪狀”揭示，人臉識別并非人畜無害
在過去持續(xù)一年多的疫情當(dāng)中 ， 人臉識別技術(shù)撐起的無接觸式防疫應(yīng)用深入人心 ， 讓外界飽嘗技術(shù)帶來的科技紅利 ， 因而也讓 人們?nèi)菀捉o人臉識別技術(shù)打上“善良”的標(biāo)簽，從而忽視它本身的兩面性。
2020年1月，美國發(fā)生了首起已知的涉及人臉識別技術(shù)的錯誤逮捕事件。根據(jù)6月美國公民自由聯(lián)盟（ACLU）向底特律警察局提出的行政投訴顯示，年初，來自底特律的羅伯特?威廉姆斯被當(dāng)?shù)鼐街缚胤赣斜I竊罪，并在威廉姆斯妻兒的注視下將其逮捕，拘留時間長達(dá)30個小時。
根據(jù)ACLU的投訴，底特律警方將一名黑人男子從Shinola商店偷竊手表的視頻提供給了密歇根州警方，隨后警方通過人臉識別系統(tǒng)運(yùn)行該視頻，并建議將威廉姆斯的照片作為潛在的匹配對象。之后，在警方并無過多證據(jù)表明威廉姆斯就是嫌疑人的情況下，最終發(fā)生了這荒誕的一幕。
無獨(dú)有偶，羅伯特?威廉姆斯的遭遇并非個例。同樣來自底特律的邁克爾?奧利弗也因為人臉識別判定涉嫌盜竊罪，被關(guān)押了十天半；尼爾?帕克斯也因被認(rèn)定盜竊，在伍德布里奇市被拘留了十天。而值得注意的是，以上在美國發(fā)生的這些案件，被誤認(rèn)為犯罪嫌疑人的當(dāng)事人均為黑人，因此也引起了媒體對算法歧視的關(guān)注。
早在2018年，MIT媒體實(shí)驗室（MIT Media Lab）研究員Joy Buolamwini就與來自微軟的科學(xué)家Timnit Gebru合作發(fā)布了一篇研究論文《性別圖譜：商用性別分類技術(shù)中的種族準(zhǔn)確率差異》（Gender Shades： Intersectional Accuracy Disparitiesin Commercia lGender Classification），其中作者將微軟、IBM和曠視科技三家人臉識別技術(shù)進(jìn)行對比，結(jié)果顯示，AI應(yīng)用人臉識別針對黑人女性的錯誤率高達(dá)21％－35％，而針對白人男性的錯誤率則低于1％，不同種族的準(zhǔn)確率差異巨大。
時間一晃來到現(xiàn)在，這一問題不但沒有被解決，反而愈發(fā)突出。
在國內(nèi)，目前尚未發(fā)現(xiàn)人臉識別應(yīng)用于警務(wù)活動中出現(xiàn)差錯的情況，但該技術(shù)在其他應(yīng)用中出現(xiàn)問題的案例也是屢見不鮮。比如2018年寧波交警行人闖紅燈曝光臺就曾鬧出一出烏龍，人臉識別將噴涂在公交車上的董明珠廣告人像錯當(dāng)成了橫穿馬路的路人，結(jié)果有了“格力電器董事長董明珠違法闖紅燈”的笑談。
在今年的315晚會上，基于人臉識別非法采集個人人臉數(shù)據(jù)的案例也被第一個拿出來開刀。人臉識別技術(shù)作為生物特征識別的重要技術(shù)之一，具有非接觸和非侵犯的特性，因而人們在不知不覺中就會被采集數(shù)據(jù)，并對之抱有最小的排斥心理。
但人臉信息屬于個人獨(dú)有的生物識別信息，具有不可篡改的特征，目前有很多用戶將其作為支付密碼、賬號密碼等。國家市場監(jiān)管總局發(fā)布的《個人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識別信息，也屬于個人敏感信息，收集個人信息時，應(yīng)獲得個人信息主體的授權(quán)同意。
個人隱私成為國內(nèi)外共同的難題
本次歐洲議會決議主要針對的是警察和司法機(jī)關(guān)在犯罪問題上對 AI 的使用 ， 歐洲委員會在報告中對遠(yuǎn)程人臉識別呼吁 ， “通過立法和非立法手段 ， 必要時通過侵權(quán)訴訟 ， 禁止出于執(zhí)法目的生物識別數(shù)據(jù)處理 ， 包括通過面部圖像識別 、 在公共場所進(jìn)行大規(guī)模
監(jiān)視 。 ”
比如，該決議中反對執(zhí)法機(jī)構(gòu)利用人工智能根據(jù)歷史數(shù)據(jù)和過去的行為、群體成員、位置或任何其他此類特征，對個人或群體進(jìn)行行為預(yù)測，從而試圖識別可能犯罪的人。此外，決議還強(qiáng)調(diào)了人的作用，避免過度相信人工智能工具表面上的“客觀”和“科學(xué)”，強(qiáng)調(diào)算法應(yīng)該具有的透明、可追溯、充分記錄等特征。
實(shí)際上，對于基于AI技術(shù)的人臉識別技術(shù)的應(yīng)用，國內(nèi)外較早以前就已經(jīng)表現(xiàn)出一定的重視。
早在今年4月21日，歐盟委員會就公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險評定。其中，人臉識別技術(shù)作為基于AI實(shí)時遠(yuǎn)程生物識別技術(shù)的一種，是歐盟委員會著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)。
草案對人工智能應(yīng)用場景進(jìn)行了“低、有限、高、不可接受”四個風(fēng)險等級的定性，等級越高的應(yīng)用場景意味著受到的限制越嚴(yán)格。
人臉識別在很大程度上侵犯了人們的隱私，并且所有遠(yuǎn)距離生物識別系統(tǒng)在這份草案中都被認(rèn)定為高風(fēng)險，禁止執(zhí)法部門在公共場合使用這一技術(shù)。該草案還提出，除尋找失蹤兒童，解除恐怖襲擊威脅以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人等三種特定情況外，無差別的大規(guī)模監(jiān)控會被歐盟全面禁止。
而在大洋彼岸的美國，對于人臉識別技術(shù)的使用也十分審慎。2019年，美國有9個州都頒布了關(guān)于禁用人臉識別技術(shù)的法案，嚴(yán)禁警察、政府部門以及在公共場合使用人臉識別技術(shù)。舊金山為美國大城市禁用人臉識別開出了第一槍，隨后包括波特蘭、奧克蘭、波士頓在內(nèi)的城市都已禁止政府使用人臉識別技術(shù)，今年7月，美國第一大經(jīng)濟(jì)中心紐約也加入了這一行列。
除此之外，美國的巨頭們也在這一方面退縮了，去年6月，藍(lán)色巨人IBM旗幟鮮明的宣布放棄人臉識別業(yè)務(wù)，不再提供任何人臉識別和人臉分析軟件，同時也不再對這項技術(shù)進(jìn)行研究和開發(fā)。另外幾家巨頭如亞馬遜、谷歌等，也表示暫?；蚍艞壢四樧R別相關(guān)業(yè)務(wù)的開發(fā)。
在我國，針對個人數(shù)據(jù)安全的法案也被提上日程，人臉識別等人工智能技術(shù)的監(jiān)管也日加嚴(yán)格。今年1月1日正式實(shí)施的《民法典》中規(guī)定，處理個人信息，應(yīng)征的該自然人或其監(jiān)護(hù)人的同意；4月23日，國家標(biāo)準(zhǔn)化管理委員會發(fā)布《信息安全技術(shù)人臉識別數(shù)據(jù)安全要求》征求意見稿，也對人臉識別技術(shù)應(yīng)用場景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范。
8月20日，立法通過的《個人信息保護(hù)法》再次明確：在公共場所安裝圖像采集、個人身份識別設(shè)備，應(yīng)當(dāng)為維護(hù)公共安全所必需，遵守國家有關(guān)規(guī)定，并設(shè)置顯著的提示標(biāo)識。所收集的個人圖像、身份識別信息只能用于維護(hù)公共安全的目的，不得用于其他目的；取得個人單獨(dú)同意的除外。
人臉識別不能“一刀切”，用好雙刃劍的有利面
至于如何評價此次歐洲議會的決議 ， 相信大家也是各執(zhí)一詞 ， 有著不同的見解 。 人臉識別技術(shù)本身存在的問題確實(shí)在近幾年暴露無遺 ， 但 “一刀切”的做法顯然對于一項進(jìn)步的技術(shù)來說并不合適 。
問題的關(guān)鍵在于當(dāng)技術(shù)解決不了當(dāng)下存在的問題時，它就會像一把雙刃劍，一方面方便著人們生活，提高社會效率；另一方面卻又利刃出鞘，鋒芒相向。
就像歐洲議會上表示，“人工智能在執(zhí)法領(lǐng)域的應(yīng)用提供了巨大機(jī)遇，特別是能夠有效打擊金融犯罪如洗錢、恐怖主義融資，以及網(wǎng)絡(luò)犯罪如虐待兒童等，有助于歐盟公民的安全保障。但同時，數(shù)據(jù)顯示AI識別對少數(shù)民族、老年人和女性的誤識率更高，這可能對人們的基本權(quán)利構(gòu)成重大風(fēng)險?！?
在考慮基于AI技術(shù)的人臉識別是否應(yīng)該被全面禁止還是繼續(xù)沿用，都需要考慮其風(fēng)險和效果之間是否成正比，避免人臉識別造成任何有害的影響。
