導語：科技向善的另一面。

出品丨數(shù)科社

作者丨林木

國產(chǎn)科幻電影《流浪地球2》中最感人的部分之一，莫過于天才數(shù)字工程師圖恒宇為了讓因車禍去世的女兒丫丫成為永生數(shù)字生命，所做出的種種決斷。

該電影借用數(shù)字生命主題成功塑造了一個背負著地球命運和父愛私心的人物角色，探討人性深度的同時，也與強人工智能MOSS毫無人性的一面形成鮮明對比，進一步引發(fā)了人工智能如何與人類文明共生共存的思考。

隨著近年來數(shù)字科技、人工智能的飛速發(fā)展，這已然成為人們現(xiàn)實生活中正在面臨的新課題。

自ChatGPT引爆AIGC市場以來，短短一年多時間，AI技術讓創(chuàng)造數(shù)字生命這件事變得更加簡單、真實。生成式AI只需要一張照片、一段語音或一個視頻，就能創(chuàng)造出一個能開口說話、做出表情的數(shù)字人。

然而，無論人工智能如何進化，卻始終保留著作為機器的工具屬性，它所被賦予的“人性”，取決于投喂“食物”的好壞，以及背后使用它的人。這也意味著，AIGC的自我成長正給當今社會帶來雙面沖擊，有人在通過它“復活”親人、改變世界，有人在利用它吸金引流、顛倒黑白。

01丨變臉

“我要給丫丫完整的一生。”《流浪地球2》中圖恒宇道出了人們對于數(shù)字生命的終極想象。但在現(xiàn)實生活，能夠與逝去的親人再次對話已足夠慰藉不少人的思念之苦。

今年初，著名音樂人包小柏用AI“復活”女兒以表達思念。他的女兒三年前因病不幸離世，為了走出痛失愛女的陰影，包小柏開始鉆研AI技術并攻讀相關專業(yè)博士，希望重現(xiàn)女兒的音容笑貌。

最近，包小柏終于如愿用AI復刻出“數(shù)位女兒”，可即時響應問話，還讓女兒給妻子唱了生日歌。他在訪談中表示：“我的女兒又回來了。”

消息發(fā)酵后，“AI‘復活’親人”這一話題再次引發(fā)網(wǎng)友熱議。隨著生成式AI的橫空出世，近年來用AI“復活”親人已不止在電影中上演。早在去年清明，B站00后UP主吳伍六就曾用AI工具還原已故奶奶，并和她聊起家常。

AI技術的不斷迭代進化下，AI“復活”親人的門檻越來越低。在電商平臺上，最便宜的服務，只需要一張照片就能讓其動起來并做出表情，根據(jù)復刻效果，價格在十元到幾百元不等。

AI成了不少人寄托與傳達思念的工具，但一故事的走向卻并沒有到此為止。就在網(wǎng)友尚沉浸在AI傳遞出的溫情之際，不少逝世明星被人“復活”，頻繁出現(xiàn)在短視頻平臺。

這種現(xiàn)象遭到了逝者家屬的嚴厲譴責與堅決抵制，喬任梁父親對此表示感到非常不適，“他們未征求我們同意，這是在揭傷疤。”

而在AI“復活”逝者的倫理爭議水面下，不止有人在通過“復活”別人的親屬賺取流量，還有人利用AI“換臉”技術，惡搞造謠以滿足一己私欲，更有黑產(chǎn)團伙偽裝成他人的親朋好友榨取錢財。

今年315晚會，AI 擬聲/變臉詐騙被點名曝光。過去一年的相關詐騙案例中，AI所展現(xiàn)的擬聲、變臉技術已讓普通大眾真假難分。據(jù)央視報道，在某些網(wǎng)絡交易平臺上，花 2 元錢就能買到上千張人臉照片。

更早之前，AI合成技術在色情地帶早已臭名昭著，合成換臉色情內(nèi)容泛濫成災，不少名人影星都曾遭過毒手。但如今，隨著AI技術已進化至“換臉”、“換頭”，甚至能無中生有的階段，被偷臉、造黃謠等現(xiàn)象逐漸盯上了更多普通人。

AIGC繁榮發(fā)展的另一面，陰暗也在隨之蔓延叢生。

02丨界線

盡管人性才是造成一切禍水涌動的根源，但不能否認的是，不斷進化的AI生產(chǎn)力，確實讓一些界線劃分變得更加模糊不清，比如內(nèi)容版權問題。

今年2月，全球首例生成式AI服務侵犯著作權判決在廣州互聯(lián)網(wǎng)法院生效，引發(fā)業(yè)內(nèi)外廣泛關注。案件經(jīng)過簡單來說是一位用戶在AIGC平臺上，用AI畫出了奧特曼形象被訴侵權。

原告為擁有奧特曼系列獨占授權的動漫IP代理商上海新創(chuàng)華文化，被告并非用戶，而是為會員用戶提供AI繪畫功能服務的一家AIGC網(wǎng)絡公司。

最終，這家公司被判定在提供算力服務過程中，侵犯了原告對案涉奧特曼作品所享有的復制權和改編權，并應承擔相關民事責任。

這一判決的意義已遠超普通的知識產(chǎn)權糾紛，亦可視為AIGC被劃下法律界線的一次落筆。

事實上，自AIGC爆火出圈以來，關于它的洗稿、洗畫等侵權疑慮與糾紛就沒有停止過：去年1月，多名藝術家狀告“Stable Difussion”從網(wǎng)絡上采集近60億張圖像來訓練其AI侵犯了“數(shù)百萬藝術家”的權利；去年12月，《紐約時報》訴Open AI事件持續(xù)發(fā)酵，多家媒體加入反抗隊伍……

AIGC以強大的學習能力、理解能力和創(chuàng)造力顛覆行業(yè)過往的認知，但這些能力來自于背后海量數(shù)據(jù)的投喂與訓練。

在繪畫創(chuàng)作領域，僅輸入關鍵詞便能生成大量新鮮畫作的AIGC，無疑幫助缺乏足夠繪畫技能的廣大人群大幅降低了創(chuàng)作門檻。前提卻先要被投喂大量圖片、畫作，其中很大一部分抓取于互聯(lián)網(wǎng)上各類藝術家、畫家的作品，以這些作品為養(yǎng)料生成新作品。

而在文本生成層面，AIGC已不單單涉及到侵權問題。不久前，有海外醫(yī)學研究團隊進行了一項用生成式AI制造虛假信息的測試，短短一個小時內(nèi)，他們就制作出超過100篇誤導性的博客、20張欺騙性圖片，以及一段深度偽造視頻，聲稱有關健康的虛假信息。讓人哭笑不得的是，這段視頻還能輕松轉(zhuǎn)化成40多種語言。

AIGC當前最大的缺陷在于無法判斷“食物”的好壞以及進食的界線，這也讓一些深受其害的人找到了反擊空間。

美國芝加哥大學教授 Ben Zhao 領導開發(fā)團隊，開發(fā)出了一款名為Nightshade的工具，通過用AI給AI“投毒”的方式，幫助藝術家防止作品風格被AI抄襲。

Nightshade利用生成式AI大肆進食的安全漏洞，訓練出有毒的“食物”樣本，一旦被AI模型抓取進食，毒素就會滲透整個模型集，導致用戶想用AI畫一只狗，最后卻生成一只貓，或者其他動物。

如今，這種方法被業(yè)內(nèi)貼切形容為“毒丸”，原本發(fā)起的反擊也演變成攻擊，被不少人惡意使用。

03丨博弈

人工智能概念自20世紀中葉誕生以來，就一直被視為一把雙刃劍�！督K結(jié)者》《黑客帝國》等許多早期經(jīng)典科幻作品的創(chuàng)作，都投射出人們對于未來人工智能的恐懼情緒。毋庸置疑的是，過去七十余年里，人工智能化身為一個巨大生產(chǎn)力，在推動著人類文明不斷前進。

2015年首次出版的《未來簡史：從智人到智神》一書中，以色列歷史學家瓦爾·赫拉利以其獨特的視角，深入討論了人工智能的崛起將如何改變?nèi)藗兊纳�活和工作方式，又給社會帶來何種挑戰(zhàn)。

這并非只是一部制造恐慌情緒的預言。相反，作者在書中同樣展現(xiàn)了科技發(fā)展所帶來的巨大機遇，還提出一系列富有挑戰(zhàn)性的觀點，引導我們思考如何適應和引導科技的發(fā)展。

事實上，人類與人工智能的共生共存，本身就是一種博弈。這是一個關于人機交互和協(xié)作的問題，涉及到人工智能的可信度、可控性、可解釋性、倫理性等諸多方面。核心宗旨是讓人工智能更多的造福社會，服務于人。

但作為受人掌控的智能體，人工智能顯然又陷入一種雙面性的矛盾中，這也導致每一次人工智能的進化，都會對社會文明帶來一種新的博弈和挑戰(zhàn)。

當前，以ChatGPT代表的AIGC的誕生，無疑讓人們對人工智能風險的防備心日益加深。

去年年底，中國信息通信研究院發(fā)布了2023年人工智能風險管理體系。該體系將人工智能帶來的風險分為兩類，即自身技術系統(tǒng)造成的風險和應用產(chǎn)生的風險，并參考我國現(xiàn)行網(wǎng)絡安全等級保護要求將人工智能風險劃分為5個等級。

其中，最低層風險是指不會對個人、企業(yè)、組織造成權益?zhèn)�害的產(chǎn)品，如專用于下棋領域的AlphaGo；最高層風險則是指對人類社會有一定顛覆性影響，如不受人控制的強人工智能。

法律界線的劃分無疑能人類在這場博弈中更加占據(jù)主動權。過去幾年，全球都在積極探索人工智能層面的監(jiān)管和治理路徑：

2019年4月，歐盟委員會發(fā)布《可信賴人工智能道德準則》，列出了可信賴人工智能系統(tǒng)應滿足的七項重要要求；同在這年通過的經(jīng)合組織（OECD）《確定OECD的人工智能發(fā)展原則》報告，提出了人工智能的五項原則；2023年8月，我國公布的《生成式人工智能服務管理暫行辦法》正式施行，首次針對于當下爆火的AIGC產(chǎn)業(yè)進行規(guī)制。

就在不久前，歐洲議會全體會議通過《人工智能法案》，標志著歐盟掃清了立法監(jiān)管人工智能的最后障礙。這是全球首部人工智能法案，也預示著2024年將迎來人工智能全球治理的“大年”。

如果說“沒有人類的文明毫無意義”，那么沒有科技的世界也將無法前進，我們與人工智能的博弈永遠不會結(jié)束。

       原文標題 : “雙面”AIGC：變臉、界線與博弈