AI安全領域的“雨山機車大賽”,改變的會是什么?
歷史車輪滾滾向前,新舊事物替代是歷史趨勢,然而這個過程并不是一蹴而就的,因為新事物的出現和發(fā)展必然也會伴隨著新問題的出現。
比如在今天看來,火車比馬車要先進得多,但19世紀,利物浦到曼徹斯特的鐵路即將通車時,依然有很多人認為馬拉貨車更靠譜,甚至連鐵路公司董事會里都有人支持在鐵軌上用馬車拉的。這種情況,自然不能靠行政命令去強制都使用蒸汽機車,怎么辦呢?
只能“是騾子是馬,拉出來遛遛”,讓蒸汽機車證明自己真的更加方便快捷。于是,一場影響歷史進程的比賽出現了,那就是“雨山機車大賽”。
1829年10月,鐵路公司宣布在“利物浦-曼徹斯特”鐵路已經完工的雨山段,讓參賽者的蒸汽機車來回跑圈,根據速度、重量、馬力、耗煤量、排煙量等指標綜合打分。
這場競技比賽的獲勝者“火箭號”,由工程師斯蒂芬森數次改良,最終創(chuàng)下了57.6公里的時速記錄。自此,英國掀起了建造鐵路的狂潮,現代化的步履也沿著鐵軌鋪遍全世界。
提起這段故事,是為了以史為鑒,映照當下的問題與選擇。AI,是我們所處時代的新事物;安全,則是當代人普遍面臨的新問題。業(yè)內有個共識,“當安全成為問題之前,它不是一個問題;一旦成為問題,就是一個大問題”。
而歷史已經證明,由企業(yè)、創(chuàng)新者、大眾所共同參與的競技比賽,能夠推動解決問題的方法誕生。
12月4日,由OPPO發(fā)起,OPPO安全主辦的“極智擔當,不燃怎YOUNG——OPPO安全AI挑戰(zhàn)賽”,迎來了線下總決賽的高光時刻。來自全球知名高校的學子們組成戰(zhàn)隊,激烈角逐“人臉安全對抗”賽題,積極探索AI時代的安全思路。同時,“AI 安全新戰(zhàn)場”高峰論壇也同步開啟,數字企業(yè)與產業(yè)專家共同探討AI安全的技術攻防之道。
匯聚了科技企業(yè)、研究機構、高校智慧,這場大賽讓我們能夠同時看到,時代背景下的業(yè)界間的聯動將改變什么,AI時代應該如何構建全新的安全“防火墻”。
不妨從大家都關心的AI安全問題,審視這場或將影響你我生活的比賽。
AI安全,比馬車PK火車更殘酷的競技場
縱然沒有一場“雨山機車大賽”,蒸汽機車也會很快展現出超越馬車的能力,進而推廣到全世界。但當下人們在AI時代面臨的安全挑戰(zhàn),解決起來就困難多了。
首先,AI安全隱患更加多元。AI被運用到越來越多的生活場景當中,無論是手機、手表、家電等物聯網設備,還是出行、金融、政務等生活服務場景,由此產生了更多的安全威脅,除了傳統(tǒng)的基于 Web 的攻擊,各類惡意應用程序的威脅,還有個性化服務帶來的隱私泄露和被監(jiān)視的等風險。
其次,AI安全問題更加隱蔽。AI能夠利用復雜的機器學習算法從非敏感形式的數據中推斷敏感信息,讓安全威脅防不勝防。比如通過一個人鍵盤打字模式,就可以推斷他的情緒狀態(tài),如緊張、自信、悲傷和焦慮等;根據照片分享中記錄的時間地點,可以自動推斷出活動規(guī)律……
同時,AI安全問題面臨的挑戰(zhàn)也更加復雜。復雜和隱蔽的AI安全,需要在算法、數據、應用等多個環(huán)節(jié)進行攻堅,這對任何國家、科技企業(yè)都帶來了挑戰(zhàn)。2021年OPPO與益普索聯合發(fā)布的《2021年-中國智能手機用戶安全需求洞察報告》顯示,用戶普遍關注安全隱私問題,其中,80%在日常生活中設置或采用了安全防護措施,僅32%表示滿意,安全隱私的防護體驗提升仍有較大空間。
作為一家研發(fā)技術驅動的生態(tài)型科技公司,OPPO以“用戶體驗”為核心,始終關注用戶的安全與隱私問題。面對時代交付的必答題,OPPO自然不能后退。今年,“OPPO安全挑戰(zhàn)賽”作為升級后的OPPO安全技術賽事品牌,再次啟航。
通過此次AI安全競技賽事,中國的高?苿(chuàng)人才如何抓住時代需求與機遇,創(chuàng)造新的歷史?我們到比賽中去看一看。
人臉識別,不容逃避的安全命題
在諸多AI應用中,人臉識別可能是大眾最熟悉的一項。
在疫情新常態(tài)下,人臉識別成為“無接觸服務”的標配,數字政務、遠程辦公、閘機驗證打卡簽到、刷臉支付、在線醫(yī)療等等,都依靠人臉識別來進行身份校驗。
人臉識別與大眾衣食住行等生活綁定得越深,帶來的安全隱患也就越多。2021年的3·15晚會上,就曝光了某連鎖家具門店使用“無感式”人臉識別技術,未經同意擅自收集消費者人臉數據,并進行持續(xù)分析,獲取消費者的 性別、年齡、心情等數據。
OPPO攜手德勤聯合發(fā)布《移動應用(APP)個人信息保護白皮書》也顯示,有近52.95%受訪者對生物識別技術,如人臉識別、指紋識別等,表示比較擔心或非常擔心。
為了解決上述問題,國內外都開始對人臉識別技術進行全生命周期的安全合規(guī)監(jiān)管。除了法律法規(guī)層面的努力,在技術上不斷精進,防范人臉識別技術風險,就成了科技企業(yè)與創(chuàng)新人才的時代擔當。
本屆OPPO安全AI挑戰(zhàn)賽就聚焦“人臉識別安全對抗”,以賽代練,激發(fā)高校人才探索安全技術領域的潛力與創(chuàng)新力。
具體來說,采用魯棒的對抗人臉生成或者合成技術,能夠欺騙人臉識別系統(tǒng),使其給出錯誤判斷,從而在用戶的人臉照片主動分享或者被動泄露的情況下,不法分子也無法用其照片進行訓練模型或者用模型識別出照片中的人物是誰。
為了模擬真實的人臉識別場景并增加比賽的難度,OPPO在后臺使用精度高魯棒性強的一組模型集成起來作為黑盒模型,選手對提供的測試樣本進行修改,提交生成的結果數據傳至線上進行攻擊評測。
自賽事發(fā)布以來,來自全國高校的2000多支參賽團隊歷經5個月的激勵角逐,清華大學的“trivial”戰(zhàn)隊、重慶理工大學及北京大學組成的聯合戰(zhàn)隊“green hand”、 北京航空航天大學及中國科學院大學的聯合戰(zhàn)隊“TOP10我來了”等10支高校戰(zhàn)隊順利晉級線下總決賽,爭奪60萬元獎金。
從技術層面,參賽者聚焦在可感知、可掌控、可信賴的隱私安全防護上,防止人臉識別等生物特征的偽造,避免關鍵生物認證信息被竊。煌ㄟ^研究豐富的對抗樣本生成算法,參賽者不斷獲得掌聲和好評。
從參與維度看,賽事匯聚了全國高校的創(chuàng)新智慧,將技術與真實場景、產業(yè)問題相結合,增強創(chuàng)造力和產業(yè)洞察力,有效幫助人才練兵。
技術在更迭,人才在成長,成為數字中國未來發(fā)展的兩項基本動力。其中,科技企業(yè)扮演了怎樣的角色?
時代的擺渡人:安全變局中的三重角色
在工業(yè)革命時代,鐵路公司絕對是最高精尖的科技企業(yè),除了商業(yè)價值之外,也起到了推動科技研發(fā)、孵化產業(yè)人才、推進現代化進程的重要作用。如果沒有鐵路公司舉辦的雨山機車大賽,工匠和科學家們也不可能在短時期內數次優(yōu)化蒸汽機車設計,加速鐵路商業(yè)化的腳步。
今天,上十億的互聯網人群讓中國站到了萬物智聯的風口,這個過程中,有許多問題等待著中國科技企業(yè)去解決。以安全為例,OPPO就在其中扮演了三重角色。
1.安全水位的捍衛(wèi)者。作為智能產品的研發(fā)者、制造者,OPPO等科技企業(yè)及移動應用平臺方,必須建立嚴格而多元的安全體系,不斷通過技術創(chuàng)新,將更具安全屬性的產品交付給消費者。
在此次峰會中,OPPO也分享了自身在移動應用個人信息保護的實踐,比如整體統(tǒng)籌,成立了安全與合規(guī)委員會來制定安全與合規(guī)總體戰(zhàn)略規(guī)劃,統(tǒng)籌推進個人信息保護整體工作;三道防線,分別由業(yè)務部門、專職的安全隱私部門、審計部門擔任,緊密結合,各司其職,發(fā)生違規(guī)情況也能清晰問責;六層防御,在技術方面,通過六層防御體系打造數據安全防御機制, 運用AI、大數據等新技術,實現智能化數據安全防護能力,有效感知威脅并做出預警和處置,將安全活動貫穿產品全生命周期。這些制度、技術上的創(chuàng)新,讓OPPO能夠堅守住安全水位,幫助消費者防御安全威脅。
2.新型人才的培養(yǎng)者。安全是一場“魔高一尺,道高一丈”的攻防戰(zhàn),需要源源不斷地創(chuàng)新人才加入,而當下亟須既懂安全、又懂AI的新型人才。為此,OPPO一方面積極通過安全相關賽事,以賽代練,推動年輕創(chuàng)新人才持續(xù)關注安全隱私技術問題,先后在2018年和2019年,舉辦了“OGeek算法挑戰(zhàn)賽”和“OGeek網絡安全挑戰(zhàn)賽”,不斷讓創(chuàng)新人才與新銳時代命題相連接;同時,OPPO也提供了學業(yè)與事業(yè)的接口,提升賽事的含金量和產業(yè)價值,成功晉級復賽并在決賽上表現優(yōu)異的選手,不但有機會進入OPPO安全實習、在OPPO校招中免去筆試環(huán)節(jié),還有機會擁有直接入圍綜合復試的機會,產研聯動培養(yǎng)智能安全領域的新型人才。
3.安全長城的組織者。相比某一種設備、某一個品牌的“單點安全”,AI時代也要求從數字生活全鏈路,搭建一個守護用戶安全的“新長城”,這就需要生態(tài)合作伙伴來共建共榮。此前,OPPO就與多家企業(yè)/機構合作,與德勤聯合發(fā)布白皮書、與益普索聯合發(fā)布洞察報告等,共筑互聯網生態(tài)安全。此次線下總決賽期間,還啟動了“AI 安全新戰(zhàn)場”高峰論壇,匯聚了京東、英特爾及四川大學的多位行業(yè)及學術界處于前沿研究領域的大咖,與全社會一起共同探討AI安全技術難題。
會上,OPPO高級算法工程師張文剛在《智能護盾安全大腦:移動應用智慧檢測能力構建》的主題演講中指出,OPPO通過基于大數據和AI的安全大腦能夠實現從測試、上架到卸載、下架貫穿APP全生命周期的安全隱私治理。安全大腦集成多個智能引擎,包括利用前沿深度學習、知識圖譜等AI能力的智能應用檢測引擎、智能文本檢測引擎等,廣泛應用于用戶使用APP的所有場景,為用戶構建起了縱深防御體系。其次,通過對開發(fā)者開放了安全隱私云查服務、安全檢測SDK和安全加固能力,OPPO安全為開發(fā)者提供公平、綠色、可持續(xù)的 APP 生態(tài)環(huán)境。實現了為開發(fā)者賦能,開發(fā)者共筑安全生態(tài)的目標。
從工業(yè)時代的雨山機車大賽,到AI時代的OPPO安全挑戰(zhàn)賽,或許我們可以看到,在科技產業(yè)的關鍵變革時期,人才的創(chuàng)造力才是開啟未來最重要的生產力。而科技企業(yè)所扮演的角色,就是將未來的舞臺、劇本、道具交到年輕人手中,讓他們在時代大幕下綻放光彩。
高校也好,企業(yè)也好,都是年輕人的“擺渡者”,載著他們不斷抵達未知的彼岸,構建固若金湯的安全防護體系,切實保護各類用戶的安全隱私。
請輸入評論內容...
請輸入評論/評論長度6~500個字
圖片新聞
最新活動更多
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市