日前，全國多地警方發布了多個“AI詐騙”的典型案例，案件披露后，“AI詐騙正在全國爆發”話題一度沖上熱搜第一，引發網友熱議。

(資料圖片)

如果你以為這樣的詐騙成本高昂，那你就錯了。換臉詐騙僅需正面半身照即可換臉，成本低至數十元。但是它的欺騙性卻奇高，足以以假亂真。

兩起案件掀開新騙術

繼包頭警方發布“福州市某科技公司法人代表郭先生10分鐘內被人用AI換臉詐騙430萬元”后，5月25日，安徽警方也通過當地媒體披露了一起類似案件，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”，導致安慶經開區的何先生被詐騙245萬。

在郭先生的案例中，“好友”通過微信視頻聯系他，表示自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。郭先生轉賬后撥打好友手機，才知道被騙。

而在何先生的案例中，其微信“好友”突然向其發起視頻通話，手機接通后，何先生看到“好友”正在一間會議室內，并借故會議有事，通過QQ要求周轉資金，導致何先生被騙。

有專家表示，此類AI換臉的詐騙手段都是定向針對性詐騙，而非傳統意義上“廣撒網，打打手機”的電信詐騙，往往干的也都是“大單”。源頭上需要防止賬號被盜用，不要輕易加陌生人，也要防止其他人用小號加你，過一段時間改成你親友，然后再實施詐騙。

詐騙背后野蠻生長的行業

“眾女星換臉女兒國國王誰更適配？楊超越、迪麗熱巴……”在B站上，這樣的明星換臉視頻播放量往往突破10萬次。除明星換臉外，電商平臺上有商家抓住了人們對過世親人的思念，推出“AI想念的人”等視頻合成服務，一條合成視頻收費50元，月銷量超40件。

在這樣的交易中，需要搜集大量的面部識別信息，而這恰恰是用戶最核心的個人信息。個人信息一旦被比對之后，如果落到不法分子的手里，極易威脅到財產安全和人身安全。

其實，AI換臉技術并非直到近期才成熟。早在2019年起該技術就風靡全球。2019年換臉技術DeepFake一出現便引發了巨大倫理和法律爭議，但彼時的技術已經證明，“一鍵換臉”起碼從技術上來看，并不存在什么門檻可言。

不過，技術的細節迭代還是發生了。比如相比此前肉眼能夠比較輕松識別、在生成式AI技術浪潮爆發的當下，AI換臉正在越來越變得毫無痕跡。

業內專家認為，隨著AI技術發展越來越快，研究越來越深，AI換臉、換聲音，破綻會越來越小。AI詐騙亟待更高層面監管，比如監管部門應該建立專門的人工智能安全機構，監督AI技術在不同領域內的應用。技術企業也應該加強數據合規建設，在人工智能設計中嵌入個人信息保護機制，并采用技術措施和管理制度，確保個人信息安全。現在已經到了大規模、集中化討論AI風險的關鍵時刻。

圖靈三巨頭之一、蒙特利爾大學的教授Yoshua Bengio此前曾公開表示對AI技術的擔憂。他在解釋自己為什么簽名贊成暫停超強AI研發時說，自從ChatGPT發布以來，大家發現不那么謹慎守規矩的玩家會有競爭優勢，如果是這樣的話，通過降低謹慎和道德監督的水平，就更容易出頭。

防騙有技巧

識別對方是否AI換臉，也有一些小技巧可以應用。AI換臉目前在連續動作的實時渲染方面還是會存在技術缺陷，比如在說話的時候嘴部動作、眼部動作，如果仔細看都會存在一定的“不和諧”情況，如丟幀、嘴巴時大時小等問題。

此外，“AI假臉”的紋理特征也存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細節容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細節不一樣；很多偽造視頻由于視頻分辨率低于原始視頻，偽造出來的視頻牙齒邊緣過于整齊等。

不過，沒有經過訓練的普通人想要用肉眼識別視頻是否為AI合成，難度極高。騙子甚至不會給你詳細判斷的機會，幾秒就掛斷。公眾與其花費大量精力分辨騙子發來視頻的真假，不如在有懷疑時直接換一種渠道驗證對方身份，業內稱為“雙因子身份驗證”。比如好友視頻聊天后要求轉賬，你就撥打對方手機號碼再次確認；對方使用微信談論交易，你就不妨用QQ再找他問問。多渠道驗證要比肉眼分辨視頻容易得多，也可靠得多。

關鍵詞：