輸入一段文字，即可生成逼真視頻……今年年初，Sora橫空出世引起全球關注。這類技術的普及應用，也使詐騙門檻變得更低、辨別難度加大，一些不法分子利用這類AI技術，“AI換臉”后冒充親友、上司、公職人員進行詐騙，讓人防不勝防。

近期，警方披露多起利用“AI換臉”等技術實施詐騙的案例，“AI換臉”詐騙隨之成為焦點。“AI換臉”技術發展到了什么程度？騙子套路有哪些？如何實施詐騙？我們如何防范？針對這些問題，羊城晚報記者進行了采訪了解。

案例

“多人視頻會議”

只有一個是真人

隨著人臉識別技術的廣泛應用和人工智能技術的進步，人臉識別驗證類犯罪隨之而生，不法分子利用即時通訊、網絡直播、網絡社交、電商平臺、金融支付等重點App，實施“AI換臉”詐騙。

香港警方近日就披露了這樣的典型案例：一名職員參加總部首席財務官發起的“多人視頻會議”，并按要求將2億港元轉賬到5個本地銀行賬戶，其后向總部查詢方知受騙。警方調查發現，會議中只有他一個“真人”，其他都是“AI換臉”后的詐騙人員。

“現在利用‘AI換臉’詐騙的案件越來越多，我們身邊也有很多實際的例子。”廣州大學網絡空間先進技術研究院院長魯輝接受羊城晚報記者采訪時如是表示。

3月17日，央視《新聞直播間》播出節目《AI造出“老同學”女子險被詐騙40萬》，受害者是內蒙古鄂爾多斯市的李女士，詐騙團伙以“老同學”名義加好友后發來視頻對話邀請，再裝作信號不好掛斷，并在聊天中借錢，收到轉賬后便將李女士拉黑。

相關主管部門也關注到這一新型犯罪手法。2023年8月10日，公安部相關負責人在新聞發布會上表示，當時已破獲“AI換臉”案件79起，抓獲犯罪嫌疑人515名……

專家

技術日益成熟

仿真程度極高

“AI換臉”背后的技術原理是什么？

“騙子使用一個換臉視頻軟件，放到即時通訊聊天視頻中，生成仿真度極高的點對點視頻。”魯輝表示，騙子實施“AI換臉”詐騙時，深度偽造你所熟知的人的視頻和聲音，加之了解你的個人信息，詐騙成功率非常高。

“現在人工智能技術發展越來越快，也有越來越多的技術手段。”魯輝告訴記者，此前有deepfake(深度偽造技術），是一個開源的人臉識別分析工具，能運用圖片一鍵換臉；今年年初出來的Sora更加智能，可以直接用文本生成不同的人在不同場景里非常逼真的圖像、視頻。

“目前‘AI換臉’技術基本上是基于深度神經網絡技術，該技術已經很成熟。”廣州運通鏈達金服科技有限公司CEO鄒均博士還進一步解釋說，“AI換臉”技術通常涉及生成對抗網絡（GAN）或自編碼器等深度學習模型，這些模型能夠學習人臉的幾何結構和紋理信息，并生成逼真的人臉圖像。同樣，人的音頻特征也能被學習提取，可以生成與目標對象類似的音色，以及匹配說話的嘴型……

“使用門檻越來越低，使得生成式AI更容易被濫用。”魯輝指出，作為一把雙刃劍，AI技術的迭代升級，讓人們生活變得便利的同時，也讓犯罪分子實施遠程視頻詐騙變得更為輕松。

調查

“換臉服務”僅需幾十元

“AI換臉”App隨處可見

AI技術的迅猛發展，讓不少人發現了商機。記者調查發現，“AI換臉”技術服務的購買和使用如今也變得越來越容易。

AI視頻換人臉、AI人臉識別監控、AI復活親人視頻……昨日，羊城晚報記者在某網絡平臺搜索“AI視頻”幾個關鍵字，隨即便跳出上述各類“服務”。有商家告訴記者，現在不僅能P圖、摳圖，還能將視頻換人臉，收費幾十元或上百元。一名商家告訴記者，提供一張照片，一段照片本人說話的音頻，編輯好要說的話發給他們，1天內就可提供表情和動作惟妙惟肖的視頻，任何人都能成為視頻中的主人公，收費90元。

記者還在手機應用商店搜索“AI換臉”幾個字，即時出現視頻換臉秀、AI換臉、換臉秀、視頻換臉、一鍵換臉等App可下載使用，都可以實現換臉的目的。

在魯輝和鄒均看來，上述商家提供的視頻換臉服務的效果，可能仿真度還較低，但利用像Sora這類軟件制作視頻來進行詐騙，肉眼已很難識別，可以說防不勝防。

防范

遇到要錢的

要線下核驗

普通民眾如何防范“AI換臉”詐騙？

有網友提出，視頻通話時，可以讓對方在臉部揮手、摸鼻子來鑒別對方是真人還是“AI換臉”后的騙子。對此，魯輝稱，揮手過程可造成面部數據的干擾，使人臉出現一些異常情況。“但這可能很快就被技術手段修正。”他認為，可通過設置一些只有你和對方知道的內容來辨別。

專家們認為，最重要的是要樹立反詐防范意識。“犯罪分子無非是要錢，遇到要錢的，就要提高警惕！”

魯輝、鄒均等專家表示，市民如接到線上的電話或視頻，不要輕易相信對方身份。可以進行多輪問話查驗核實對方身份。特別是涉及轉賬、資金交易或重大合約簽署，更要反復核查，最好通過線下核驗。切忌粗心大意，輕信受騙。

鄒均還提醒說，普通民眾如果遇到類似“AI換臉”的勒索事件，可以咨詢法律意見，不要輕易受騙上當。

提醒

照片視頻勿輕易泄露

保護好兩類敏感信息

目前，人臉識別（支付）、指紋支付、刷掌支付、刷臉入戶日趨普遍，需要警惕的是，犯罪分子還可能深度偽造臉部、指紋等信息，套取錢財或入戶盜竊等。

公安部相關負責人曾強調，隨著人工智能、區塊鏈、物聯網等新技術、新業態、新應用的發展變化，黑客犯罪分子的作案手法也在不斷升級，使用人工智能技術偽造人像和語音套取他人財產的新情況層出不窮。

對此，專家特別提醒，市民在社交媒體分享含有清晰人臉的照片和視頻時，一定要謹慎，因為這些照片可能會被生成之后用于人臉識別驗證，或者其他一些非法目的。此外，一定要保護好兩類敏感信息：我們的人臉、虹膜、聲紋、指紋等生物特征信息；身份證號、銀行卡號、體檢報告等重要個人信息。

能否應用AI技術反“AI換臉”詐騙呢？

魯輝透露，近年來，有很多技術企業已經開始嘗試不斷優化檢測模型，探索將反詐模型部署在手機、電腦或社交、會議軟件中，但網絡信號與算力仍是待解決的難題。鑒于目前防范“AI換臉”詐騙的規則和技術還不是特別成熟，他呼吁，民眾要提高防范意識，希望能出現更好的反詐技術，政府層面能從企業監管、法律等層面制定更細致的條例來預防。