南京科技館內，工作人員在A(yíng)R虛擬演播館演示直播效果。 孫忠南攝（人民視覺(jué)）
2020年，中共中央印發(fā)《法治社會(huì )建設實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術(shù)應用的規范管理辦法”。作為一項互聯(lián)網(wǎng)新技術(shù)應用，深度偽造技術(shù)正越來(lái)越廣泛地應用于現實(shí)場(chǎng)景，也出現被濫用錯用的情況。推動(dòng)技術(shù)的健康成長(cháng)和使用，需構建更完善的法律和技術(shù)保護體系。
有一種技術(shù)，能對聲音、影像進(jìn)行篡改、偽造，從而實(shí)現“變聲”“換臉”，并且高度逼真、很難甄別——這項互聯(lián)網(wǎng)新技術(shù)叫做深度偽造技術(shù)。
借助人工智能技術(shù)可實(shí)現“換臉”“變聲”
日常生活中，深度偽造技術(shù)的應用并不少見(jiàn)：智能客服的擬人回答、影視劇對角色的換臉處理……這些應用場(chǎng)景通過(guò)對圖像、聲音、視頻的篡改、偽造和自動(dòng)生成，產(chǎn)生高度逼真的效果。
深度偽造技術(shù)本質(zhì)上是一種人工智能合成內容技術(shù)。據奇安信集團反金融犯罪專(zhuān)家盧維清介紹，起初，研究者使用自編碼器實(shí)現對原始人臉的圖像分解再還原。隨著(zhù)深度學(xué)習和先進(jìn)算法的出現，深度偽造技術(shù)變得更加復雜成熟，除了圖像，聲音、視頻都能被更精細地偽造或自動(dòng)合成。以生成對抗網(wǎng)絡(luò )算法為例，其同時(shí)搭載了生成器和鑒別器兩個(gè)神經(jīng)網(wǎng)絡(luò )，前者基于一個(gè)數據庫自動(dòng)生成模擬該庫中數據的樣本，后者評估生成器生成數據的真偽，兩者在互相博弈學(xué)習中產(chǎn)生大規模和高精確度的輸出，實(shí)現真假難辨的效果。
技術(shù)是一把雙刃劍。深度偽造這項人工智能技術(shù)起初僅限于學(xué)術(shù)研究，后來(lái)廣泛應用于多個(gè)現實(shí)場(chǎng)景，發(fā)揮著(zhù)一定正面效應。
盧維清舉例說(shuō)，在教育場(chǎng)景中出現的虛擬教師和虛擬歷史人物，能讓數字教學(xué)更具互動(dòng)性和代入感；影視制作通過(guò)還原或者修改角色鏡頭，降低修復成本，提高制作效率；虛擬新聞主播和客服，無(wú)需真人出現，可以降低人力投入；安防領(lǐng)域借此技術(shù)生成更加逼真的圖像、視頻，測試現有安全系統，尋找技術(shù)漏洞，助力更新迭代；娛樂(lè )休閑應用程序則可以對圖片和視頻做特效處理，增加趣味性……
但是，隨著(zhù)技術(shù)的發(fā)展及應用門(mén)檻的降低，許多個(gè)人用戶(hù)也能輕松實(shí)現“換臉”“變聲”，還有一些人將深度偽造技術(shù)應用于安全漏洞攻擊、虛假音視頻詐騙等，技術(shù)濫用帶來(lái)的風(fēng)險逐漸為人們所知。
可能被詐騙、網(wǎng)絡(luò )攻擊等非法行為利用
此前，有國外網(wǎng)民利用換臉技術(shù)偽造藝人的影像資料并發(fā)布了視頻，引發(fā)爭議。
深度偽造技術(shù)被濫用的隱患，簡(jiǎn)單來(lái)說(shuō)就是盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真，混淆真相。
據專(zhuān)家介紹，若無(wú)有效的監管措施，任由深度偽造技術(shù)被濫用錯用，社會(huì )生活中的每個(gè)人都存在被這項技術(shù)侵害的可能性。
例如，面部識別、聲紋認證等生物特征識別機制有可能面臨失效；公司企業(yè)可能被虛假消息欺詐，內部資料可能因為偽裝登錄而面臨丟失、篡改、刪除；有關(guān)部門(mén)在司法認證、證據收集、識別環(huán)節將面臨真假難題；金融機構管理的賬戶(hù)可能遭遇偽裝竊取，轉移資金；電信詐騙里偽裝公檢法、銀行、通信人員的手段會(huì )更加復雜，令人防不勝防……這些場(chǎng)景有可能帶來(lái)一系列更深層次的社會(huì )問(wèn)題。
構建更完善的法律和技術(shù)保護體系
2020年，中共中央印發(fā)《法治社會(huì )建設實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術(shù)應用的規范管理辦法”。今年3月，國家互聯(lián)網(wǎng)信息辦公室、公安部指導各地網(wǎng)信部門(mén)、公安機關(guān)加強對語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應用安全評估工作，并對未履行安全評估程序的11家企業(yè)進(jìn)行約談，引發(fā)社會(huì )關(guān)注。
面對深度偽造技術(shù)被濫用錯用引發(fā)的犯罪和不良社會(huì )影響，專(zhuān)家建議，需盡快制定應對措施，防范化解風(fēng)險。
宜鼓勵研發(fā)鑒偽和溯源技術(shù)。盧維清認為，目前學(xué)術(shù)界和商業(yè)界的防偽開(kāi)發(fā)項目多針對特定產(chǎn)品而非通用的音視頻，還沒(méi)有構建通用性的視頻鑒偽網(wǎng)絡(luò )。要加大對通用且高效鑒偽技術(shù)的研發(fā)投入和支持力度，鼓勵科研院所和企業(yè)研究檢測算法、主動(dòng)防御算法、深度偽造圖像和偽造語(yǔ)音的融合檢測技術(shù)等。
宜加強對社會(huì )各界的科普。通過(guò)培訓等方式讓人們意識到深度偽造技術(shù)被濫用錯用帶來(lái)的危害，逐步提高用戶(hù)的防范意識和鑒別能力，為相關(guān)鑒別技術(shù)的發(fā)展提供機會(huì )，促進(jìn)深度偽造技術(shù)的合法利用。
宜加強相關(guān)司法體系的建立。專(zhuān)家建議，建立更加完整的法律法規體系，對惡意制作或傳播的用戶(hù)進(jìn)行懲戒。2019年，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《網(wǎng)絡(luò )信息內容生態(tài)治理規定》，網(wǎng)絡(luò )信息內容服務(wù)使用者和網(wǎng)絡(luò )信息內容生產(chǎn)者、網(wǎng)絡(luò )信息內容服務(wù)平臺不得利用深度學(xué)習、虛擬現實(shí)等新技術(shù)新應用從事法律、行政法規禁止的活動(dòng)。盡管已出臺了相關(guān)法律法規遏制深度偽造技術(shù)的濫用，但還需要相關(guān)部門(mén)建立更加完整細致的法律體系，在區分偽造視頻是屬于娛樂(lè )還是惡性傳播等問(wèn)題上厘清邊界，為新技術(shù)的應用劃好紅線(xiàn)。
對一般用戶(hù)而言，由于不具有專(zhuān)業(yè)知識，很難識別出偽造的信息。尤其在技術(shù)發(fā)展迅速的背景下，專(zhuān)業(yè)人士也很難鑒別深度偽造的音視頻。
盧維清建議，在有關(guān)財產(chǎn)、信用、安全等敏感問(wèn)題的處理上，用戶(hù)要更加謹慎，做好數據備份以便取證，對于不確定的情形及時(shí)聯(lián)系官方客服或報警求助。
日常使用手機時(shí)，最好設置安全等級高的訪(fǎng)問(wèn)密碼，拒絕打開(kāi)陌生的網(wǎng)站和應用軟件，尤其是系統提示有安全隱患的訪(fǎng)問(wèn)要及時(shí)停止，并定期對電腦系統殺毒，盡量減少在網(wǎng)上發(fā)布帶有個(gè)人信息的圖像、音視頻等。如果身份證、駕駛證等有關(guān)個(gè)人安全和信息的物件丟失，要第一時(shí)間掛失。平時(shí)多學(xué)習法律知識，關(guān)鍵時(shí)刻采用法律武器維護個(gè)人的合法權益。
防范深度偽造技術(shù)被濫用錯用，僅依靠個(gè)人的力量還不夠，國家、企業(yè)都要肩負起重任，保護公民隱私，依據社會(huì )職能構建更完善的法律和技術(shù)保護體系。
編輯：薛姣
