作為人工智能領(lǐng)域的新實踐，近年來，利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術(shù)，已在多個領(lǐng)域大量應(yīng)用，伴隨著不斷涌現(xiàn)的使用需求，深度合成內(nèi)容數(shù)量和關(guān)注度呈現(xiàn)快速增長態(tài)勢。但另一方面，惡意使用該技術(shù)生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個人、企業(yè)造成了聲譽(yù)損害和財產(chǎn)損失，也對社會、國家安全造成威脅。
近日，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心聯(lián)合發(fā)布《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術(shù)研究、領(lǐng)域應(yīng)用、發(fā)展趨勢等多個方面，全面深入地介紹和研判深度合成技術(shù)及應(yīng)用帶來的機(jī)遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實可行的建議和措施。
多個領(lǐng)域落地應(yīng)用，深度合成內(nèi)容迎爆發(fā)式增長
深度合成的圖像、視頻、音頻、文本等內(nèi)容，例如熱門影視劇片段、話題明星的換臉視頻等等，具有極強(qiáng)的娛樂性與傳播性，伴隨著技術(shù)的發(fā)展成熟，越來越多的創(chuàng)作者在互聯(lián)網(wǎng)上發(fā)布和分享深度合成內(nèi)容，數(shù)量逐年高速增長。
數(shù)據(jù)說明：在10家國內(nèi)外平臺中（愛奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關(guān)鍵詞進(jìn)行檢索，并通過URL去重后，統(tǒng)計出數(shù)據(jù)結(jié)果。
以視頻為例，《報告》顯示，在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。此外，深度合成內(nèi)容關(guān)注度也呈指數(shù)級增長，通過對互動數(shù)據(jù)進(jìn)行統(tǒng)計，2021年新發(fā)布的深度合成視頻的點(diǎn)贊數(shù)已超過3億。
數(shù)據(jù)說明：在10家國內(nèi)外平臺中（愛奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關(guān)鍵詞進(jìn)行檢索，并通過URL去重后，將具有視頻分類標(biāo)簽的數(shù)據(jù)進(jìn)行統(tǒng)計得到的分析結(jié)果
正因為如此，深度合成在影視制作、廣告營銷、社交娛樂等領(lǐng)域發(fā)展出多元化的商業(yè)應(yīng)用，例如AI合成主播、虛擬偶像、修復(fù)歷史老照片、影視劇本地化配音、“數(shù)字復(fù)活”已過世演員等。
一些面向公眾開發(fā)的合成類產(chǎn)品也陸續(xù)推出，《報告》顯示，視頻、語音和文本形式的服務(wù)最為普遍，例如支持風(fēng)格定制的特效視頻制作軟件等風(fēng)靡網(wǎng)絡(luò)；語音方向衍生出了語音導(dǎo)航、有聲讀物、自動新聞播報等應(yīng)用；文本合成則在新聞報道、詩文創(chuàng)作、聊天問答等方面發(fā)揮著重要作用。
風(fēng)險加劇，技術(shù)檢測成重要應(yīng)對舉措
深度合成激發(fā)了新內(nèi)容創(chuàng)造力的同時，也帶來了新的威脅。隨著技術(shù)逐步“平民化”，不法分子可輕易偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動態(tài)視頻破解身份核驗，為黑灰產(chǎn)業(yè)提供注冊虛擬手機(jī)卡等技術(shù)支撐的案件。近年來，類似事件開始更多的進(jìn)入公眾視野。
深度合成內(nèi)容模糊了真實和虛假的邊界，將對社會信任、媒體信任、政治信任產(chǎn)生巨大的影響。負(fù)面風(fēng)險不斷加劇，如何有效甄別深度合成內(nèi)容就成為了關(guān)鍵，但隨著合成質(zhì)量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。
數(shù)據(jù)說明：在arXiv中，論文摘要范圍內(nèi)以“GAN”等16個關(guān)鍵詞進(jìn)行檢索，統(tǒng)計圖像、視頻、音頻、文本合成領(lǐng)域的論文發(fā)表數(shù)量
《報告》顯示，目前學(xué)術(shù)界和產(chǎn)業(yè)界均已對反深偽檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機(jī)構(gòu)均推出了深度合成視頻認(rèn)證的方法或產(chǎn)品。
構(gòu)建多維度治理機(jī)制，引導(dǎo)深度合成技術(shù)良性發(fā)展
深度合成技術(shù)的良性發(fā)展，離不開多維度治理機(jī)制的探索。
《報告》顯示，除了發(fā)展深度偽造內(nèi)容檢測技術(shù)以外，近幾年來，針對深度合成技術(shù)惡意使用所帶來的挑戰(zhàn)，世界各國紛紛出臺相關(guān)法律法規(guī)，探索深度合成的治理路徑。國際方面，美國從聯(lián)邦和州層面進(jìn)行專門立法，歐盟將深度合成納入《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架規(guī)制。此外，德國、新加坡、英國、韓國等國家，均有適用于深度合成技術(shù)相關(guān)犯罪案件審理的法律法規(guī)。
我國也在積極探尋有效的治理機(jī)制。2019年11月起先后出臺的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《中華人民共和國民法典》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，均對生成合成類內(nèi)容等提出了不同程度的監(jiān)管要求。今年1月，國家網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，對深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出了具體規(guī)定。
《報告》也建議，各方應(yīng)當(dāng)與時俱進(jìn)落實好新的規(guī)范要求，并在此前提下不斷追求技術(shù)突破，不斷開拓深度合成技術(shù)應(yīng)用場景，創(chuàng)立示范標(biāo)桿，形成對人工智能行業(yè)整體的帶動效應(yīng)，從而促進(jìn)新技術(shù)的持續(xù)健康發(fā)展。
