/

新的AI安全攻防戰(zhàn)打響。

文｜鄭久宇 編｜張弘一出品｜商業(yè)秀

當(dāng)你看到馬斯克代言一個激進的投資產(chǎn)品時，有人告訴你，這其實只是詐騙犯通過剪輯馬斯克的真實采訪，并使用AI 技術(shù)復(fù)制其聲音、口型來制作的一則虛假廣告。

你可能不會相信，但真實情況是有人已經(jīng)因此落入了黑灰產(chǎn)利用AI技術(shù)設(shè)下的圈套。

據(jù)《紐約時報》報道，自去年年底以來，馬斯克時常出現(xiàn)在近1/4 的深度偽造詐騙視頻中，其中一位82歲的退休老人Steve Beauchamp看到視頻后，聯(lián)系了廣告背后的公司，隨后在幾周的一系列交易中花光了自己的退休賬戶，最終投資了超過69萬美元。

在和金錢交易相關(guān)的場景下，各類基于AI技術(shù)的網(wǎng)絡(luò)安全攻擊現(xiàn)象逐漸增加，尤其是對金融行業(yè)的影響也愈加明顯。因為金融機構(gòu)聚集在云端的數(shù)據(jù)、錢以及資產(chǎn)，有高價值、高質(zhì)量的特點，更易被趨利的黑客們攻擊，進而威脅到整個金融生態(tài)。

和以往不同的是，這些金融安全攻擊在生成式AI的“驅(qū)動”下，使防御方更難招架。騰訊云副總裁胡利明在近日“2024騰訊云金融安全峰會”上也指出，“從去年到今年，行業(yè)里逐步出現(xiàn)很多結(jié)合最新AI技術(shù)的新型攻擊方法，使得攻擊手段越來越多，而且成本越來越低。”

近些年來，金融行業(yè)的數(shù)字化轉(zhuǎn)型面臨著更多前所未有的安全挑戰(zhàn)，比如高危漏洞、復(fù)雜攻擊、數(shù)據(jù)泄露、勒索等各種問題層出不窮。業(yè)內(nèi)有一個有意思的觀察——隨著金融數(shù)字化轉(zhuǎn)型的推進，業(yè)務(wù)和系統(tǒng)越來越多，現(xiàn)在的金融機構(gòu)已經(jīng)成為一個高達100層樓的摩天大廈，而這棟樓里的每一扇窗，都可能成為攻擊的對象。

面對新的技術(shù)挑戰(zhàn)，在金融數(shù)字安全領(lǐng)域，越來越多金融機構(gòu)主動和安全廠商一起加入到與黑客們的攻防對抗中，它們更早一步地研究對手和應(yīng)用AI新技術(shù)，主動布局和實施新策略，試圖找到圍繞AI技術(shù)與數(shù)字安全的最優(yōu)解。

-Business Show-01攻也AI，防也AI

在數(shù)字安全領(lǐng)域，隨著AI技術(shù)的發(fā)展，以往那些技術(shù)含量較低的攻擊手段，不僅正被大語言模型等最新技術(shù)替代，實現(xiàn)了大規(guī)模、低成本的攻擊，而且攻擊效果也呈現(xiàn)了“進階”。

網(wǎng)絡(luò)釣魚郵件就是其中之一。近10年來，網(wǎng)絡(luò)釣魚郵件一直被用于誘騙受害者點擊惡意鏈接或下載惡意附件。而隨著大語言模型的誕生和迭代，黑客們借此技術(shù)生成了更加逼真和難以察覺的網(wǎng)絡(luò)釣魚郵件，進一步提升了受害者的受騙風(fēng)險。

網(wǎng)絡(luò)安全公司Darktrace的一份報告指出，攻擊者使用ChatGPT等生成式 AI，通過增加文本描述、標點符號和句子長度，讓社會工程攻擊量增加了135%。

除了更逼真的語言，攻擊事件中涉及的人聲、臉部信息也愈發(fā)真實。比如，攻擊者可以利用AI技術(shù)克隆公司高管或同事的聲音，在電話中要求用戶提供賬號密碼或直接轉(zhuǎn)賬；或是利用AI換臉異地登錄用戶的金融賬號，實施轉(zhuǎn)移財產(chǎn)。

隨著技術(shù)的逐漸演變，辨別信息的“真?zhèn)巍币殉蔀檎麄�行業(yè)棘手的難題。

騰訊安全副總裁、玄武實驗室負責(zé)人于旸表示，這些年來在攻防對抗中，攻擊隊已開始廣泛應(yīng)用大模型。雖然大模型還不能完全替代人力，但可以極大地提高攻擊效率，“以前很多在攻擊隊工作當(dāng)中相對比較繁雜、但技術(shù)含量不高的工作，現(xiàn)在可以用大模型替代。”于旸說。

可見，在AI 技術(shù)不斷演進的過程中，金融數(shù)字化轉(zhuǎn)型中的“矛”和“盾”始終相伴而生——尤其是在金融安全領(lǐng)域，攻擊方固然可以利用AI技術(shù)進行網(wǎng)絡(luò)攻擊，然而防御者同樣可以借助“AI+安全”的手段強化防護。

過去，面對復(fù)雜的威脅，眾多金融機構(gòu)只能被動防御，如今防御方必須比攻擊方更積極主動。騰訊安全服務(wù)總經(jīng)理蘇建東告訴「商業(yè)秀」，“如今的攻擊方受利益驅(qū)動，永遠會比防守方更早一步地去研究新的技術(shù)，找到新的技術(shù)弱點，然后利用它來發(fā)起攻擊。而防守方基本上仍處于一個被動防守的狀態(tài)。”

銀行和金融機構(gòu)是時候要轉(zhuǎn)換思路了。蘇建東認為，針對新型風(fēng)險，金融機構(gòu)應(yīng)該與時俱進地去研究新技術(shù)，學(xué)習(xí)如何在全新的AI技術(shù)場景下開展風(fēng)險防御。

當(dāng)然，要讓AI技術(shù)切實服務(wù)于金融數(shù)字安全，僅靠金融機構(gòu)一己之力遠遠不夠。政府、產(chǎn)品和技術(shù)提供商等各方都需共同關(guān)注、投入，達成“進化與安全并重”這一共識，在AIGC出現(xiàn)大規(guī)模爆發(fā)之際，更積極地迎接新質(zhì)生產(chǎn)力帶來的降本增效。

-Business Show-02AI大模型：在隱秘的角落理性的防守

在金融安全的前沿陣地上，部分率先遭遇AI 安全挑戰(zhàn)的金融機構(gòu)，已然開始將大模型塑造為防御體系的“智慧大腦” 。

對于任何一場安全攻防較量而言，梳理自己的防御面和暴露面，無疑是機構(gòu)建立穩(wěn)固防御機制的核心要訣。在這背后，需要大模型在“隱秘的角落”發(fā)揮作用，全力修補防御體系中潛藏于深處、尚未浮現(xiàn)于表面的漏洞。

那么，AI究竟如何幫助防御體系進行“查漏補缺”呢？騰訊云安全產(chǎn)品架構(gòu)師張華在接受「商業(yè)秀」采訪時總結(jié)道：

第一，在威脅情報的研判中，AI大模型可以降低外部混雜的、無效的告警或誤報，提高可讀性，減輕安全運營人員的壓力。

第二，AI可以基于用戶的長周期或短周期行為，有效發(fā)現(xiàn)內(nèi)部人員的不當(dāng)行為（如“內(nèi)鬼”），并識別“影子資產(chǎn)”。

他進一步解釋道，“影子資產(chǎn)”是指那些不在企業(yè)和組織IT部門掌控下的IT設(shè)備、軟件及服務(wù)，這些資產(chǎn)缺乏有效的管理和監(jiān)控，往往是攻擊者關(guān)注的重點目標。其一旦被拿下，就可能成為攻擊者突破安全防線的入口，為金融機構(gòu)帶來網(wǎng)絡(luò)安全風(fēng)險。

例如，“影子資產(chǎn)”就可能被攻擊者利用，成為“僵尸主機”或“釣魚”主機，甚至成為內(nèi)網(wǎng)橫向攻擊的跳板。

第三，AI可以通過問答式處理積累知識庫，增強運營人員的知識儲備量，后者也是提高金融機構(gòu)整體防御能力的重點。

總體而言，AI在數(shù)據(jù)的分類分級管控、安全事件的分析和過濾、威脅情報的輔助分析等諸多關(guān)鍵層面，給金融領(lǐng)域帶來了實質(zhì)性的幫助。當(dāng)下，更多金融機構(gòu)逐漸覺醒，意識到步入AI時代，自身的安全防御體系也該積極求變。

蘇建東觀察到，“金融行業(yè)的客戶對安全非常重視，看到黑客針對AI大模型的攻擊后，會主動來尋求合作�！�他表示，目前合作需要主要圍繞兩個方面——一是聚焦于內(nèi)容安全層面，杜絕AI大模型“胡說八道”的亂象；二是著眼于AI大模型本體的安全性防護，抵御黑客的惡意滲透和數(shù)據(jù)竊取行徑。

不過，蘇建東也指出，雖然在形式上金融安全防御正不斷地融入前沿新技術(shù)，但鑒于當(dāng)前AI技術(shù)尚處于發(fā)展的早期階段，整個行業(yè)的安全防御邏輯并沒有發(fā)生根本性的顛覆與變革。

在將AI技術(shù)融入金融安全防御體系的漫漫征途中，各參與方一直保持著謹慎和理性的態(tài)度——既巧妙利用AI技術(shù)的優(yōu)勢，全力提高防御的效率和準確性，又關(guān)注AI技術(shù)的局限性和風(fēng)險，確保金融安全防御體系的穩(wěn)健和可靠。

-Business Show-03安全領(lǐng)域的“防守大師”如何煉成？

可以確定的是，全球金融數(shù)字安全的形勢日益嚴峻，如何在安全問題發(fā)生前最大化地做好防御，將是未來金融安全領(lǐng)域競爭的決勝點。

而騰訊安全、360安全、奇安信等更多安全廠商正在參與到這場決戰(zhàn)中來，它們在行業(yè)前沿積極為金融機構(gòu)提供最新的解決方案。

比如，為了讓金融機構(gòu)從被動防御變?yōu)橹鲃臃烙��?/strong>騰訊安全提出了“安全前置”策略。為了保證這個策略得以實施，騰訊實驗室功不可沒。蘇建東表示，“騰訊多個實驗室的研究團隊，就像是一個‘智囊團’，預(yù)設(shè)攻擊方可能利用的所有手法，并層層設(shè)置控制，實現(xiàn)安全前置�！�

簡而言之，在攻擊方的動作發(fā)生之前，攻擊問題就已經(jīng)被防御方是識破并“解決”。同時，安全廠商也在進一步結(jié)合AI技術(shù)，為金融機構(gòu)提供風(fēng)控大模型、威脅情報、數(shù)據(jù)安全等領(lǐng)域的服務(wù)。

以風(fēng)控大模型為例，過去大部分金融機構(gòu)用的是一套“靜態(tài)模型+動態(tài)策略規(guī)則”，很難應(yīng)對未來黑灰產(chǎn)AI欺詐的態(tài)勢。

如今，行業(yè)頭部玩家提供的都是可以實現(xiàn)全面監(jiān)控和管理的解決方案，比如騰訊云推出的智能風(fēng)控體系，就包括了“獲客+授信準入+貸中管理+貸后管理”的全流程。

據(jù)其公布的數(shù)據(jù)顯示，目前騰訊安全已覆蓋金融領(lǐng)域超過80%的標桿客戶。

一個值得注意的現(xiàn)象是，近年來，越來越多安全廠商意識到，AI時代的安全防護，應(yīng)該表現(xiàn)為全方位、全鏈路的安全閉環(huán)。

以某證券公司的攻防演練為例，騰訊云既提供了前期的自動化體檢服務(wù)，也部署了4道防線。前期體檢，主要是為了理清相關(guān)的資產(chǎn)、暴露面、脆弱性、收縮權(quán)限。在整體網(wǎng)絡(luò)架構(gòu)被識別或確定之后，進行必要的漏洞修復(fù)和網(wǎng)絡(luò)管控措施。

不過，這其中存在的一大難點是，如果不能回溯到更久的時間，就很難發(fā)現(xiàn)更多關(guān)于安全攻擊的線索，攻防也難以有效開展。

而騰訊今年新推出的NDR+安全湖的方案，解決了這一核心問題——金融機構(gòu)長期積累的網(wǎng)絡(luò)數(shù)據(jù)，可以進行低成本的存儲、高效率的檢索。數(shù)據(jù)顯示，最遠的回溯時間，從過去的一周提升到現(xiàn)在的6個月；檢索的時間也從耗時幾個小時，降低到3分鐘左右。

此外，騰訊還部署了“四道防線”——騰訊云安全“4+N”體系中的“4”，即數(shù)據(jù)安全、主機安全、Web應(yīng)用防火墻和云防火墻，借此解決金融云上安全的“基礎(chǔ)設(shè)施建設(shè)”問題。

更重要的是，在解決了云環(huán)境下的基礎(chǔ)設(shè)施安全后，整個網(wǎng)絡(luò)安全的防御體系也不能忽略，兩者在互相補充的前提下，共同構(gòu)成了一個完整的安全防護體系。

騰訊的整個網(wǎng)絡(luò)安全防御體系包括邊界、終端、云上、云下等多個防御面。張華告訴「商業(yè)秀」，“騰訊安全通過一系列實戰(zhàn)，如邊界防御改造、天幕防護體系和旁路改造等，構(gòu)建了一個全面的網(wǎng)絡(luò)安全防護體系，不僅能有效阻擋外部攻擊，還能減少單點故障對業(yè)務(wù)連續(xù)性的影響，提升安全運營效率。”

騰訊云副總裁胡利明認為，騰訊安全是在海量的攻擊中能成長為“防守大師”，包括騰訊天幕、御界、東風(fēng)等產(chǎn)品，都是在“自我測試”的場景當(dāng)中積累起來的。

而如果從整個行業(yè)來看，新技術(shù)引發(fā)的金融安全問題，同時也帶來了市場參與者的反思。無論是金融機構(gòu)還是安全廠商，如果想要抓住AI安全行業(yè)大爆發(fā)的確定性機會，仍需共同搭建起一條互相協(xié)作、緊密聯(lián)系的整體防御體系，在多方配合、實戰(zhàn)積累和長周期投入中，完成AI安全的布局卡位�！竿辍�

       原文標題 : 在金融隱秘的角落，AI安全“防守大師”如何煉成