10分鐘騙走430萬,如何堤防詐騙新技術(shù)?
01
AI騙子,防不勝防
AI進(jìn)化的速度有多快,騙術(shù)也跟著變得更狠。
福州一位科技公司的老板,某天突然接到了個(gè)好友的微信視頻,說是自己的朋友在外地競標(biāo),需要 430 萬的保證金,想走他的公司賬戶過個(gè)賬。老郭在確認(rèn)視頻通話里的人和聲音都是他朋友之后,就同意了。
隨后,對方就給老郭發(fā)了一張銀行卡轉(zhuǎn)賬成功的截圖,說是錢已經(jīng)轉(zhuǎn)到老郭的戶頭上了,由于老郭之前已經(jīng)確認(rèn)了朋友的身份,在沒確認(rèn)錢到帳與否的情況下,直接就把 430 萬轉(zhuǎn)到了好友給的銀行卡上。
結(jié)果,這是一場騙局,還是AI操控的。雖然接到報(bào)警后,福州、包頭兩地警銀迅速啟動(dòng)止付機(jī)制,成功止付攔截336.84萬元,但仍有93.16萬元被轉(zhuǎn)移。
還有利用AI進(jìn)行聲音合成實(shí)施的詐騙。騙子通過騷擾電話錄音等來提取某人聲音,獲取素材后進(jìn)行聲音合成,從而可以用偽造的聲音騙過對方。
已經(jīng)有人因?yàn)锳I聲音被騙了。曾有某公司財(cái)務(wù)接到領(lǐng)導(dǎo)電話,要求立刻給供應(yīng)商轉(zhuǎn)款2萬元,并將轉(zhuǎn)賬信息以郵件形式發(fā)送,轉(zhuǎn)款理由是避免繳納滯納金,因?yàn)槔习宓目谝羰直普,?cái)務(wù)也信了,在1小時(shí)內(nèi)轉(zhuǎn)款完成,轉(zhuǎn)完才發(fā)現(xiàn)被騙。
AI 換臉早已不是什么新鮮事,很多短視頻鬼畜博主都精通這種操作,但擬聲技術(shù)相對復(fù)雜一些,畢竟犯罪分子需要獲取你的聲音,然后通過軟件將聲音變成他們想要的內(nèi)容。
實(shí)際上,如今的騙子想要獲取聲音也并不難,最普遍的方法就是騷擾電話,只要你接電話后并說了幾句話,那么犯罪分子就會(huì)對你的聲音進(jìn)行錄制,并提取你聲音的信息。
有業(yè)內(nèi)人士表示,犯罪分子通過這一套流程進(jìn)行詐騙的成功率基本是 100%,尤其是面向那些并不懂AI、防范意識可能薄弱的老年群體,AI詐騙更容易發(fā)生。
類似的聲音騙局,國外也早有發(fā)生。
一個(gè)國外的詐騙公司,使用 AI 模擬了“卷福”的音頻,打電話給一家新西班牙的小電影公司,稱想要和對方合作,并要求對方先打款 20 萬英鎊才能見面,結(jié)果在電影公司付完錢之后,他們才發(fā)現(xiàn)這次事件,完完全全就是一場AI騙局。
對于AI騙局,有律師表示,使用人工智能技術(shù)手段模仿真人面容、聲音,冒充親友、熟人、領(lǐng)導(dǎo)等,很容易達(dá)到以假亂真的程度,具有極強(qiáng)的迷惑性。與其他類型電信詐騙相比,AI詐騙迷惑性更強(qiáng),針對性更強(qiáng),辨識更困難。
如今,耳聽,眼見都不一定為實(shí),各種騙局真是讓人防不勝防。
02
AI有多強(qiáng)大?讓孫燕姿本人都害怕
最近,關(guān)于AI還發(fā)生了一個(gè)熱點(diǎn):孫燕姿本人親自回應(yīng)AI孫燕姿。
對于熱門歌手AI,孫燕姿自己都承認(rèn),“諷刺的是,人類再怎么快也無法超越它。”
她在回應(yīng)小作文里寫道,“人類無法超越AI技術(shù)已指日可待,凡事皆有可能,凡事皆無所謂。”就算暫時(shí)能夠辨認(rèn)出AI歌手和真人歌手的區(qū)別,很快這條護(hù)城河也將不復(fù)存在。這種被虛擬淹沒真實(shí)的感受,如今已經(jīng)在全世界蔓延。
AI不光是唱歌可以完全貼近真人,連直播帶貨的活都可以接。
最近有人在直播間里發(fā)現(xiàn),正在賣貨的竟是當(dāng)紅女星。然而再定睛一看,這些明星居然是使用了AI實(shí)時(shí)換臉技術(shù)的普通主播。
AI實(shí)時(shí)換臉,正在直播間悄然出現(xiàn),楊冪、迪麗熱巴、angelababy等當(dāng)紅女星,成為了AI換臉的熱門。雖然目前還沒有曝出被騙新聞,但由于明星臉的帶貨主播往往擁有更好的引流效果,消費(fèi)者或明星粉絲很可能會(huì)沖著明星效應(yīng)進(jìn)行消費(fèi)而被坑騙。
而這種技術(shù)門檻也并不高。有媒體報(bào)道,AI實(shí)時(shí)換臉全套模型購買價(jià)僅需3.5萬元。
買不起全套模型,還有“AI換臉特效插件”供買家選擇,售價(jià)數(shù)百元,只對電腦配置有一定要求,購買后使用者只需更換素材照片,軟件就能自己運(yùn)行完成“換臉”。這款軟件不僅能對圖片進(jìn)行換臉,也能在視頻上進(jìn)行換臉。
AI換臉的風(fēng)靡,還帶來了“AI脫衣”的新問題。早在今年3月,一則“女子地鐵照被AI一鍵脫衣傳播”的新聞沖上了熱搜,一名女性搭乘地鐵時(shí)的一張照片被人用AI軟件“一鍵脫衣”,遭到惡意傳播,罪犯還廣泛散布不實(shí)信息對該女子進(jìn)行污蔑。
更可怕的是,AI深度偽造(DeepFake)內(nèi)容,可以利用互聯(lián)網(wǎng)平臺在全球范圍內(nèi)病毒式傳播。比如AI現(xiàn)在居然還能通過發(fā)布假新聞,讓股市抖三抖。
幾天前,多個(gè)經(jīng)過驗(yàn)證的推特賬戶,齊刷刷分享了一張聲稱在五角大樓附近發(fā)生爆炸的假照片,頓時(shí)引起轟動(dòng),并導(dǎo)致股市短暫下跌。
這張照片雖然具有AI生成的所有特征,但是因?yàn)楸辉S多經(jīng)過驗(yàn)證并打上了藍(lán)色勾的推特賬戶分享,不少人還是信以為真,謠言一傳十十傳百,甚至有人聲稱這張照片與彭博新聞?dòng)嘘P(guān)。
連印度一家電視臺都信了,共和國電視臺(Republic TV)報(bào)道稱五角大樓發(fā)生了爆炸,并在節(jié)目中播放了這張假圖片,后來,當(dāng)發(fā)現(xiàn)美國當(dāng)?shù)毓賳T證實(shí)沒有發(fā)生此類事件后,共和國電視臺快速撤回了這則報(bào)道,這一番操作下來也是相當(dāng)尷尬。
03
AI騙局,并非沒有破綻
隨著AI技術(shù)的不斷發(fā)展,被AI騙的人越來越多。根據(jù)殺毒軟件 McAfee 公布的最新報(bào)告,基于人工智能的語音詐騙越發(fā)猖獗,在接到 AI 詐騙電話的群體中,有 77% 的人會(huì)上當(dāng)受騙。
今年3月,一份名為《暫停大型人工智能研究》的公開信在未來生命研究所官網(wǎng)上發(fā)布,包括特斯拉CEO埃隆·馬斯克(Elon Musk)、蘋果公司聯(lián)合創(chuàng)始人史蒂夫•沃茲尼亞克(Steve Wozniak)等人在內(nèi)的千名科學(xué)家、企業(yè)高管簽字呼吁暫緩GPT-4以上版本的研發(fā),他們矛頭所指都是強(qiáng)大AI技術(shù)可能的負(fù)面用途。
不過AI詐騙雖然逼真,但它并不是沒有破綻,比如AI換臉技術(shù)會(huì)導(dǎo)致臉部變形,一些主播低下頭頭頂會(huì)發(fā)黑,AI的聲音,也很難表達(dá)真實(shí)的主觀情緒。
正如不少網(wǎng)友所說,AI孫燕姿“根本不是孫燕姿的唱法。”“AI孫燕姿能模仿她的音色,但模仿不到她的感情;AI孫燕姿能模仿她的聲音,但模仿不了她的現(xiàn)場。”
與此同時(shí),國內(nèi)與AI換臉、換聲相關(guān)的法律法規(guī)也在不斷完善。
在過去,“AI換臉”被大量使用到影視劇二度創(chuàng)作、趣味惡搞視頻、表情包制作當(dāng)中,其中隱藏的法律風(fēng)險(xiǎn)和侵權(quán)糾紛,如今都在得到重視,不少擦邊行為已經(jīng)得到了及時(shí)的懲治。
比如近期,據(jù)企查查官網(wǎng)信息顯示,上海魚腥草信息科技有限公司就因旗下一款換臉手機(jī)APP遭多位網(wǎng)紅博主起訴,很快在監(jiān)管部門約談后,這款A(yù)pp下架,因?yàn)閾Q臉侵犯了公民的肖像權(quán)。
去年12月,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布,對人臉生成、替換、操控,合成人聲、仿聲等都有明確約束。顯然,隨著制度設(shè)計(jì)更精準(zhǔn),相關(guān)立法更健全,AI肆意換臉的空間將越來越小。
就在4月11日,國家互聯(lián)網(wǎng)信息辦公室又迅速起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》,涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù),可以說,對當(dāng)下的AI偽造都進(jìn)行了更為全面的約束。
AI究竟是天使還是魔鬼,全在于使用者的一念之差,但唯一可以確定的是,潘多拉魔盒,已經(jīng)打開。
參考資料:
《AI詐騙正在全面爆發(fā)》,紅星新聞;
《“AI換臉”詐騙防不勝防?要用“法”打敗“魔法”!》,京報(bào)網(wǎng);
《警惕四大AI新騙術(shù),有人10分鐘被騙430萬》,智東西
原文標(biāo)題 : 10分鐘騙走430萬,如何堤防詐騙新技術(shù)?
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
即日-12.26立即報(bào)名>>> 【在線會(huì)議】村田用于AR/VR設(shè)計(jì)開發(fā)解決方案
-
1月8日火熱報(bào)名中>> Allegro助力汽車電氣化和底盤解決方案優(yōu)化在線研討會(huì)
-
即日-1.14火熱報(bào)名中>> OFweek2025中國智造CIO在線峰會(huì)
-
即日-1.24立即參與>>> 【限時(shí)免費(fèi)】安森美:Treo 平臺帶來出色的精密模擬
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動(dòng)化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容