記者 | 姜菁玲

如果可以隨意換臉，世界會發生什么？ 

近日，界面新聞從人工智能公司瑞萊智慧處了解到，當下人工智能所支持的深度合成技術門檻以及成本已經“十分低”。瑞萊智慧CEO田天告訴界面新聞記者，普通人可以通過下載帶有換臉功能的APP，上傳照片后即可生成換臉圖像，甚至遷移至虛擬人上。雖然一些爆火的換臉APP很快被下架，但是目前一鍵換臉的開源APP非常多，公眾可以很輕松拿到。

“由于這些工具的使用，現在你在任何社交平臺都可以看到大量的虛假視頻，有影視娛樂也有帶有惡意意圖的內容。”田天表示。 

田天指出，換臉由深度合成技術所支持，指的是包含利用人工智能技術所生成的比較逼真，甚至以假亂真的視頻、語音、文本以及各類生成內容。 

根據瑞萊智慧發布的《深度合成十大趨勢報告》，深度合成技術的影響范圍正在不斷擴大。相比2017年，2021年國內外十家主流音視頻平臺中的深度合成內容新增量級超過十倍，涉及到影視、音樂、科技、教育、生活、娛樂、咨詢等不同方面。2021年深度合成視頻的新增點贊和喜歡達到了3.16億次，相比2017年增加了100倍以上。虛擬偶像、虛擬手語主播、老照片修復、劣跡藝人替換等新場景需求不斷涌現。

同時，深度合成技術濫用所造成的負面風險也在不斷加劇，并且產生許多實質性的傷害。田天稱，危害可能涉及社會國家安全、公司以及個人名譽造成的損失。比如，犯罪分子利用深度合成技術偽造親人的換臉視頻或者語音去詐騙，騙取他人信息和資產，以及影視藝人被偽造不雅視頻在網絡中傳播等等。

而在社會層面，中國社會科學院科學技術和社會研究中心段偉文教授告訴界面新聞記者，由于人類對視覺更加信任，視覺上的偽造要比其他媒體形式的偽造影響更大。如果視頻內容的造假持續，公眾會對所有的視覺內容真實性產生懷疑，它會大大削弱公眾對于媒體的信任，甚至喪失對揭示真相的信心，最終引發一種虛無主義。 

“目前深度合成的鑒別需求在快速增長，但是鑒別難度也在快速提升。”田天指出，鑒別難度提升的原因主要有兩點，一是深度合成的逼真度正在快速提高，已經超越了人眼鑒別的能力范圍，人眼鑒別它的難度越來越大，甚至到沒有辦法分辨的成都。其次，目前新的深度合成技術具有強對抗性，它天然針對一些檢測方法進行對抗攻擊，使檢測方法失效。

具體來看，瑞萊智慧副總裁唐家渝分析稱，深度合成鑒別具體的技術難度主要有三點：偽造的規則不斷快速迭代、再編輯導致的傳播效果折損可能無法保證檢測效果、算法判斷需要可解釋性。

目前，圍繞深度合成技術，國家層面已經逐步建立治理和監管的機制。國際方面，2018年美國已經從聯邦和州層面進行立法，歐盟方面將其納入了既定法律框架進行規制。2019年起，我國已開始在相關法律法規中對深度合成技術進行監管規制，網信辦等部門推出的《網絡音視頻網絡管理規定》提到不得利用深度合成傳播虛假信息；2022年，網信辦發布的《互聯網信息服務深度合成管理規定（征求意見稿）》里，旨在促進深度合成技術依法合理有效利用，并且規范發展互聯網信息服務深度合成活動，對深度合成的應用治理提出了非常明確的要求規范。 

“深度合成技術無論在哲學上還是現實生活中，都涉及到社會認知層面，我們需要提升這方面的安全意識，將它作為集體的責任，從媒體到公眾都應該了解它的內涵、惡意使用和濫用的場景，從而加深對它的了解，提高對它的鑒別力。”段偉文教授表示。