物聯(lián)網(wǎng)智庫 原創(chuàng)

轉(zhuǎn)載請注明來源和出處

導(dǎo)  讀

人臉識別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場教育、技術(shù)完善,到各行各業(yè)各領(lǐng)域采用數(shù)個階段,如今已經(jīng)發(fā)展相對成熟,服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個領(lǐng)域。但近幾年隨著人臉識別技術(shù)廣泛普及,隨之而來的問題也不斷出現(xiàn)……

如果說這是一個屬于人臉識別技術(shù)全面應(yīng)用的時代,相信大多數(shù)人是不會站出來反駁這一觀點的。

人臉識別技術(shù)經(jīng)歷了技術(shù)引進(jìn)、市場教育、技術(shù)完善,到各行各業(yè)各領(lǐng)域采用數(shù)個階段,如今已經(jīng)發(fā)展相對成熟,在街道、樓宇、煤礦、商廈、銀行等各個角落,服務(wù)于智慧安防、智慧辦公、電子商務(wù)等各個領(lǐng)域。

但是,“否定之否定規(guī)律”早已揭示,所有事物的發(fā)展都是一個螺旋式上升或波浪式前進(jìn)的運動過程,而并非一帆風(fēng)順、一蹴而就的。就在近日,歐洲議會投票表決,通過了一項“呼吁全面禁止基于AI生物識別技術(shù)大規(guī)模監(jiān)控”的提議,從監(jiān)管層面進(jìn)一步收緊了人臉識別技術(shù)的應(yīng)用。

歐洲議會成員Petar Vitanov在決議通過后發(fā)表聲明稱,“人類的基本權(quán)利是無條件的。我們有史以來第一次呼吁暫停部署用于執(zhí)法的面部識別系統(tǒng),因為該技術(shù)已被證明是無效的,并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報告對所有歐洲公民來說都是一個巨大的勝利�！�

從被外界炒作的“黑科技”到人民避而遠(yuǎn)之的“瘟疫”,基于AI的人臉識別究竟犯了什么樣的錯誤,才引起了監(jiān)管部門的注意,對于其未來的發(fā)展,又給國內(nèi)監(jiān)管部門和企業(yè)帶來了哪些啟示?

數(shù)張“罪狀”揭示,人臉識別并非人畜無害

在過去持續(xù)一年多的疫情當(dāng)中,人臉識別技術(shù)撐起的無接觸式防疫應(yīng)用深入人心,讓外界飽嘗技術(shù)帶來的科技紅利,因而也讓人們?nèi)菀捉o人臉識別技術(shù)打上“善良”的標(biāo)簽,從而忽視它本身的兩面性。

2020年1月,美國發(fā)生了首起已知的涉及人臉識別技術(shù)的錯誤逮捕事件。根據(jù)6月美國公民自由聯(lián)盟(ACLU)向底特律警察局提出的行政投訴顯示,年初,來自底特律的羅伯特·威廉姆斯被當(dāng)?shù)鼐�方指控犯有盜竊罪,并在威廉姆斯妻兒的注視下將其逮捕,拘留時間長達(dá)30個小時。

根據(jù)ACLU的投訴,底特律警方將一名黑人男子從Shinola商店偷竊手表的視頻提供給了密歇根州警方,隨后警方通過人臉識別系統(tǒng)運行該視頻,并建議將威廉姆斯的照片作為潛在的匹配對象。之后,在警方并無過多證據(jù)表明威廉姆斯就是嫌疑人的情況下,最終發(fā)生了這荒誕的一幕。

無獨有偶,羅伯特·威廉姆斯的遭遇并非個例。同樣來自底特律的邁克爾·奧利弗也因為人臉識別判定涉嫌盜竊罪,被關(guān)押了十天半;尼爾·帕克斯也因被認(rèn)定盜竊,在伍德布里奇市被拘留了十天。而值得注意的是,以上在美國發(fā)生的這些案件,被誤認(rèn)為犯罪嫌疑人的當(dāng)事人均為黑人,因此也引起了媒體對算法歧視的關(guān)注。

早在2018年,MIT媒體實驗室(MIT Media Lab)研究員Joy Buolamwini就與來自微軟的科學(xué)家Timnit Gebru合作發(fā)布了一篇研究論文《性別圖譜:商用性別分類技術(shù)中的種族準(zhǔn)確率差異》(Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification),其中作者將微軟、IBM和曠視科技三家人臉識別技術(shù)進(jìn)行對比,結(jié)果顯示,AI應(yīng)用人臉識別針對黑人女性的錯誤率高達(dá)21%-35%,而針對白人男性的錯誤率則低于1%,不同種族的準(zhǔn)確率差異巨大。

時間一晃來到現(xiàn)在,這一問題不但沒有被解決,反而愈發(fā)突出。

在國內(nèi),目前尚未發(fā)現(xiàn)人臉識別應(yīng)用于警務(wù)活動中出現(xiàn)差錯的情況,但該技術(shù)在其他應(yīng)用中出現(xiàn)問題的案例也是屢見不鮮。比如2018年寧波交警行人闖紅燈曝光臺就曾鬧出一出烏龍,人臉識別將噴涂在公交車上的董明珠廣告人像錯當(dāng)成了橫穿馬路的路人,結(jié)果有了“格力電器董事長董明珠違法闖紅燈”的笑談。

在今年的315晚會上,基于人臉識別非法采集個人人臉數(shù)據(jù)的案例也被第一個拿出來開刀。人臉識別技術(shù)作為生物特征識別的重要技術(shù)之一,具有非接觸和非侵犯的特性,因而人們在不知不覺中就會被采集數(shù)據(jù),并對之抱有最小的排斥心理。

但人臉信息屬于個人獨有的生物識別信息,具有不可篡改的特征,目前有很多用戶將其作為支付密碼、賬號密碼等。國家市場監(jiān)管總局發(fā)布的《個人信息安全規(guī)范》明確規(guī)定,人臉信息屬于生物識別信息,也屬于個人敏感信息,收集個人信息時,應(yīng)獲得個人信息主體的授權(quán)同意。

個人隱私成為國內(nèi)外共同的難題

本次歐洲議會決議主要針對的是警察和司法機(jī)關(guān)在犯罪問題上對AI的使用,歐洲委員會在報告中對遠(yuǎn)程人臉識別呼吁,“通過立法和非立法手段,必要時通過侵權(quán)訴訟,禁止出于執(zhí)法目的生物識別數(shù)據(jù)處理,包括通過面部圖像識別、在公共場所進(jìn)行大規(guī)模監(jiān)視�！�

比如,該決議中反對執(zhí)法機(jī)構(gòu)利用人工智能根據(jù)歷史數(shù)據(jù)和過去的行為、群體成員、位置或任何其他此類特征,對個人或群體進(jìn)行行為預(yù)測,從而試圖識別可能犯罪的人。此外,決議還強(qiáng)調(diào)了人的作用,避免過度相信人工智能工具表面上的“客觀”和“科學(xué)”,強(qiáng)調(diào)算法應(yīng)該具有的透明、可追溯、充分記錄等特征。

實際上,對于基于AI技術(shù)的人臉識別技術(shù)的應(yīng)用,國內(nèi)外較早以前就已經(jīng)表現(xiàn)出一定的重視。

早在今年4月21日,歐盟委員會就公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案,對人工智能技術(shù)應(yīng)用進(jìn)行了風(fēng)險評定。其中,人臉識別技術(shù)作為基于AI實時遠(yuǎn)程生物識別技術(shù)的一種,是歐盟委員會著重強(qiáng)調(diào)進(jìn)行限制的人工智能技術(shù)。

草案對人工智能應(yīng)用場景進(jìn)行了“低、有限、高、不可接受”四個風(fēng)險等級的定性,等級越高的應(yīng)用場景意味著受到的限制越嚴(yán)格。

人臉識別在很大程度上侵犯了人們的隱私,并且所有遠(yuǎn)距離生物識別系統(tǒng)在這份草案中都被認(rèn)定為高風(fēng)險,禁止執(zhí)法部門在公共場合使用這一技術(shù)。該草案還提出,除尋找失蹤兒童,解除恐怖襲擊威脅以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人等三種特定情況外,無差別的大規(guī)模監(jiān)控會被歐盟全面禁止。

而在大洋彼岸的美國,對于人臉識別技術(shù)的使用也十分審慎。2019年,美國有9個州都頒布了關(guān)于禁用人臉識別技術(shù)的法案,嚴(yán)禁警察、政府部門以及在公共場合使用人臉識別技術(shù)。舊金山為美國大城市禁用人臉識別開出了第一槍,隨后包括波特蘭、奧克蘭、波士頓在內(nèi)的城市都已禁止政府使用人臉識別技術(shù),今年7月,美國第一大經(jīng)濟(jì)中心紐約也加入了這一行列。

除此之外,美國的巨頭們也在這一方面退縮了,去年6月,藍(lán)色巨人IBM旗幟鮮明的宣布放棄人臉識別業(yè)務(wù),不再提供任何人臉識別和人臉分析軟件,同時也不再對這項技術(shù)進(jìn)行研究和開發(fā)。另外幾家巨頭如亞馬遜、谷歌等,也表示暫�；蚍艞壢四樧R別相關(guān)業(yè)務(wù)的開發(fā)。

在我國,針對個人數(shù)據(jù)安全的法案也被提上日程,人臉識別等人工智能技術(shù)的監(jiān)管也日加嚴(yán)格。今年1月1日正式實施的《民法典》中規(guī)定,處理個人信息,應(yīng)征的該自然人或其監(jiān)護(hù)人的同意;4月23日,國家標(biāo)準(zhǔn)化管理委員會發(fā)布《信息安全技術(shù)人臉識別數(shù)據(jù)安全要求》征求意見稿,也對人臉識別技術(shù)應(yīng)用場景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范。

8月20日,立法通過的《個人信息保護(hù)法》再次明確:在公共場所安裝圖像采集、個人身份識別設(shè)備,應(yīng)當(dāng)為維護(hù)公共安全所必需,遵守國家有關(guān)規(guī)定,并設(shè)置顯著的提示標(biāo)識。所收集的個人圖像、身份識別信息只能用于維護(hù)公共安全的目的,不得用于其他目的;取得個人單獨同意的除外。

人臉識別不能“一刀切”,用好雙刃劍的有利面

至于如何評價此次歐洲議會的決議,相信大家也是各執(zhí)一詞,有著不同的見解。人臉識別技術(shù)本身存在的問題確實在近幾年暴露無遺,但“一刀切”的做法顯然對于一項進(jìn)步的技術(shù)來說并不合適。

問題的關(guān)鍵在于當(dāng)技術(shù)解決不了當(dāng)下存在的問題時,它就會像一把雙刃劍,一方面方便著人們生活,提高社會效率;另一方面卻又利刃出鞘,鋒芒相向。

就像歐洲議會上表示,“人工智能在執(zhí)法領(lǐng)域的應(yīng)用提供了巨大機(jī)遇,特別是能夠有效打擊金融犯罪如洗錢、恐怖主義融資,以及網(wǎng)絡(luò)犯罪如虐待兒童等,有助于歐盟公民的安全保障。但同時,數(shù)據(jù)顯示AI識別對少數(shù)民族、LGBT人群、老年人和女性的誤識率更高,這可能對人們的基本權(quán)利構(gòu)成重大風(fēng)險。”

在考慮基于AI技術(shù)的人臉識別是否應(yīng)該被全面禁止還是繼續(xù)沿用,都需要考慮其風(fēng)險和效果之間是否成正比,避免人臉識別造成任何有害的影響。

參考資料:

1．《公共場所人臉識別或全面被禁!剛剛,歐洲議會決議,AI監(jiān)管再收緊》,新智元

2．《歐洲議會決議禁止警方公共場所人臉識別,因算法歧視弊大于利》,AI前哨站

3．《歐盟最新AI監(jiān)管草案:全面禁止大規(guī)模監(jiān)控、嚴(yán)限人臉識別》,學(xué)術(shù)頭條