（一）定義

深度偽造技術(shù)（Deepfake）是指利用人工智能、機器學習、神經(jīng)網(wǎng)絡(luò)等方法來偽造圖片、音頻及視頻等內(nèi)容的一種技術(shù)手段。它是人工智能技術(shù)發(fā)展過程中衍生出來的，核心原理是利用生成對抗網(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)等算法對語音、圖像、文字等信息內(nèi)容進行修改。例如，2017 年，一位網(wǎng)名為 “deepfakes” 的用戶利用人工智能技術(shù)，將以色列女演員蓋爾?加朵的臉替換在色情片女主角上，并發(fā)布一系列換臉女明星的色情片視頻，深度偽造技術(shù)由此首次出現(xiàn)在大眾視野。

基于深度學習的生成模型是深度偽造的技術(shù)基礎(chǔ)，主要有生成對抗網(wǎng)絡(luò)（GAN）和變分自編碼器（VAE）。生成對抗網(wǎng)絡(luò)包括生成器和分類器，通過兩者的對抗訓練，最終達到生成以假亂真的圖片的目的。目前較為常用的生成對抗網(wǎng)絡(luò)模型有 InfoGAN、CycleGAN 等。變分自編碼器相比自編碼器具有更好的耐噪聲能力，在深度偽造過程中通過添加解碼器和編碼器或者在編碼中注入信息來進行身份或動作的篡改。

深度偽造技術(shù)的發(fā)展帶來了嚴重的安全威脅，因此人們開始關(guān)注針對深度偽造技術(shù)的對抗策略。圖像與視頻的深度偽造檢測技術(shù)主要分為針對偽造痕跡進行取證的檢測方法和數(shù)據(jù)驅(qū)動的檢測方法。前者主要檢測 “圖像處理取證，生物信息，融合痕跡，時序連貫和模型指紋” 等圖像偽造痕跡；后者則利用卷積神經(jīng)網(wǎng)絡(luò)對常用的人臉偽造方法進行檢測，得到相關(guān)的特征向量，再判斷輸入圖像是否經(jīng)過偽造。語音深度偽造檢測一般分為前端和后端，分別從音頻中提取聲學特征，以及利用分類模型根據(jù)聲學特征對目標音頻進行分類，從而判斷語音是否經(jīng)過偽造。目前，一些先進的深度偽造檢測工具和技術(shù)也在不斷涌現(xiàn)，如 Sentinel、英特爾的實時深度偽造檢測器、WeVerify、微軟視頻驗證工具以及使用音視元素不匹配進行深度偽造檢測的技術(shù)等。這些工具和技術(shù)利用先進的人工智能算法，以不同的方式分析和檢測深度偽造，為應(yīng)對深度偽造的威脅提供了有力的手段。

深度偽造技術(shù)對國際關(guān)系的影響不可小覷。它會破壞國際社會的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境。從國際形勢穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機構(gòu)以及國際關(guān)系行為體彼此間的信任。根據(jù)美國權(quán)威數(shù)據(jù)科學公司的一項測試，通過語音生成算法，只需要借助兩小時的語料并訓練五天時間，就可以模擬一份以假亂真的特朗普向俄羅斯宣戰(zhàn)的語音。對于在國際社會試圖制造事端的國家與非國家行為體而言，它們可以隨時獲取和利用深度偽造技術(shù)，擴大參與并深度影響國際關(guān)系形勢。

深度偽造很可能會成為國際恐怖活動的催化劑。早期的恐怖組織缺乏制作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術(shù)的成熟，它們可以輕而易舉地制造這類作品了。恐怖組織通過深度偽造的視頻或音頻，針對對手包括政府官員發(fā)表煽動性言論或從事挑釁性行動，最大限度地對其目標受眾產(chǎn)生有利于恐怖組織的影響。例如，恐怖組織可能利用深度偽造技術(shù)制作虛假的領(lǐng)導人講話，煽動民眾的不滿情緒，從而達到其恐怖活動的目的。

深度偽造技術(shù)可能操縱新聞輿論，消解公眾信任，影響社會穩(wěn)定。人工智能為虛假信息的傳播者提供了快速偵察目標國家社交媒體受眾并識別其心理弱點的能力。人工智能驅(qū)動的系統(tǒng)可以快速生成修改過的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動針對目標國家民眾和國家利益的虛假敘事，沖擊目標國家民眾的心理。

眾所周知，我們對世界的經(jīng)驗以及我們對世界作出自信判斷能力需要我們有一些證據(jù)來源。然而，深度偽造技術(shù)的出現(xiàn)使得這些證據(jù)的真實性受到了挑戰(zhàn)。虛假的新聞報道、視頻和圖片可能會誤導公眾，影響公眾對事件的判斷和決策。例如，在一些重大事件中，深度偽造的新聞報道可能會引發(fā)社會的恐慌和不穩(wěn)定。

此外，深度偽造技術(shù)還可能被用于政治目的，影響選舉結(jié)果。虛假的候選人演講視頻、新聞報道可能會誤導選民，影響選舉的公正性和合法性。在一些國家的選舉中，已經(jīng)出現(xiàn)了深度偽造技術(shù)被用于影響選舉的情況，這引起了國際社會的廣泛關(guān)注。

在快手信息流投放中，常常會遇到新計劃新素材流量少以及老計劃老素材消耗低等問題。新計劃新素材流量少可能表現(xiàn)為新廣告是否過審、新廣告計劃 / 組是否開啟、日預算是否過低等情況。若出現(xiàn)這些問題，需要檢查基礎(chǔ)設(shè)置、適當提高日預算。同時，定向是否過多也會影響流量，適當放開定向后，1 - 2 個小時觀察曝光數(shù)量。此外，新廣告視頻內(nèi)容若和歷史素材一致也會導致流量少，此時需要修改素材，視頻情節(jié)可以一致，但拍攝的主人公要不一致。還有 OCPC 出價過低的情況，可適當提高目標轉(zhuǎn)化出價（5%-20%），3 個小時調(diào)整一次。若自查無果，可提供廣告計劃、組、廣告 ID 給快手運營，說明具體表現(xiàn)及嘗試的操作。

老計劃老素材可能會出現(xiàn) ECPM 高但消耗低的情況。定向過多時，適當放開定向，放開后 1 - 2 個小時觀察曝光數(shù)量。若 ECPM 每小時持續(xù)下跌、CTR 每小時下跌，可更換視頻封面。廣告質(zhì)量分過低、負反饋多、素材過于虛假誘導時，需要修改視頻內(nèi)容。實際 CVR 過低時，要檢查視頻是否引導下載、視頻與頁面內(nèi)容相關(guān)性是否高、下載地址 / 表單提交是否暢通。自查無果同樣可提供廣告計劃、組、廣告 ID 給快手運營，說明具體情況及嘗試操作。

深度偽造技術(shù)給消費者和企業(yè)帶來了巨大損失，成為網(wǎng)絡(luò)欺詐的難題。例如，僅 2022 年一年，冒名欺詐就給英國消費者造成了 1.07 億英鎊的損失，給美國消費者造成了 26 億美元的損失，給新加坡造成了 1.01 億新元的損失。在中國，利用 AI 實施電信詐騙的案例也屢見不鮮。2023 年 5 月，內(nèi)蒙古包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能 AI 技術(shù)進行電信詐騙的案件，福州市某科技公司法人代表郭先生 10 分鐘內(nèi)被騙 430 萬元。騙子通過智能 AI 換臉和擬聲技術(shù)，佯裝好友對他實施了詐騙。

在企業(yè)側(cè)，不法分子可通過深度偽造技術(shù)偽造員工身份，進而非法訪問企業(yè)內(nèi)部系統(tǒng)。通過精心制作的偽造視頻和音頻，模仿高層管理人員的面部表情、語氣甚至行為模式，增加對指令的信任度，實現(xiàn)非法操作或竊取敏感數(shù)據(jù)。這不僅可能導致企業(yè)遭受重大經(jīng)濟損失，還可能泄露核心商業(yè)機密，影響企業(yè)的競爭力。Gartner 預測，到 2026 年，30% 的企業(yè)將因為 AI 生成的人臉生物識別深度偽造攻擊，而認為此類身份認證和驗證解決方案不再能夠起到可靠的作用。到 2025 年，生成式 AI 的采用將導致企業(yè)機構(gòu)所需的網(wǎng)絡(luò)安全資源激增，使應(yīng)用和數(shù)據(jù)安全支出增加 15% 以上。

政府在應(yīng)對深度偽造技術(shù)帶來的風險中起著至關(guān)重要的作用。制定相關(guān)法律法規(guī)是明確深度偽造技術(shù)使用邊界和責任的關(guān)鍵步驟。例如，中國已出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，對計算機合成內(nèi)容進行管控，要求對算法生成合成的信息做顯著標識，并明確了提供互聯(lián)網(wǎng)新聞信息服務(wù)的算法推薦服務(wù)提供者和使用者的責任，不得生成合成虛假新聞信息。

歐盟于 2022 年 6 月更新《反虛假信息行為準則》，要求社交媒體公司從其平臺上刪除深度偽造和其他虛假信息，否則將處以高達公司全球營收 6% 的罰款。歐盟《數(shù)字服務(wù)法》也要求平臺展示舉報和刪除非法內(nèi)容的機制。

美國眾議員也提出了相關(guān)法案，如《真實的政治廣告法案》和《人工智能披露法案》，對競選廣告提出人工智能生成內(nèi)容披露要求，在任何人工智能生成的內(nèi)容中添加披露聲明。

通過這些法律法規(guī)的制定和實施，可以有效地加強對深度偽造技術(shù)的監(jiān)管，打擊利用該技術(shù)進行的違法犯罪活動。

科技公司和研究機構(gòu)應(yīng)承擔起技術(shù)防范的重任。加大對深度偽造技術(shù)的研究力度，開發(fā)相應(yīng)的技術(shù)手段來檢測和防范深度偽造內(nèi)容的傳播。

目前，已經(jīng)有許多先進的深度偽造檢測技術(shù)涌現(xiàn)出來。例如，英特爾推出的 FakeCatcher 實時深度偽造檢測儀，以 96% 的準確率檢測出虛假視頻，并在幾毫秒內(nèi)返回結(jié)果。微軟視頻驗證工具可以分析靜態(tài)照片或視頻，并提供置信度分數(shù)，以表明媒體是否被操縱，檢測深度偽造的混合邊界和人眼無法察覺的細微灰度元素。

此外，基于頻域信息的深度偽造檢測算法也取得了優(yōu)秀的準確率和 ROC 曲線下面積，且在面對低質(zhì)量視頻時，具有更好的魯棒性。

科技公司和研究機構(gòu)還應(yīng)不斷創(chuàng)新，提高虛假內(nèi)容識別準確率，為防范深度偽造提供更強大的技術(shù)支持。

加強對深度偽造技術(shù)的科普宣傳是提高公眾辨別能力的重要途徑。通過教育和培訓，提高公眾的科學素養(yǎng)，增強對深度偽造技術(shù)的認知和警惕。

可以利用各種媒體渠道，如電視、報紙、網(wǎng)絡(luò)等，向公眾普及深度偽造技術(shù)的原理、風險和識別方法。例如，介紹深度偽造技術(shù)是如何通過人工智能算法生成虛假內(nèi)容的，以及如何通過一些特征來判斷視頻、音頻或圖像是否為深度偽造。

同時，還可以通過舉辦科普講座、展覽等活動，讓公眾親身體驗深度偽造技術(shù)的效果，提高他們的辨別能力。

提高公眾意識不僅可以減少深度偽造對個人的影響，還可以形成全社會共同防范深度偽造的良好氛圍。