(資料圖片)

中國消費者報報道（記者王小月）從ChatGPT火爆全網，到“AI換臉”新騙局全國頻發，生成式人工智能再次受到了市場廣泛關注。近日，微博上“AI詐騙正在全國爆發”沖上微博熱搜。據“平安包頭”微信公眾號消息，內蒙古自治區包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。

4月20日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。

“張嘴、搖頭，攝像頭捕捉到人的動作后，屏幕上原本靜態的人像可以動起來，動作幅度和真人一致，還能眨眼和露齒微笑，仿真度頗高，幾分鐘內就能生成一段視頻，臉還能被任意替換。”這就是“AI換臉”技術，成為不少黑產分子新型詐騙的工具。

記者了解到，不法分子利用“AI換聲”“AI換臉”技術，偽裝成特定人物，實時與他人進行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯系被害人，博取被害人信任后實施詐騙。

據了解，“AI換臉”背后采用的是深度合成技術，利用深度學習、虛擬現實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫療等諸多領域不斷深化應用，有較大的技術價值和商用潛力，不過也存在著一定的安全隱患，“雙刃劍”效應明顯。

對此，全聯并購公會信用管理委員會專家安光勇對《中國消費者報》記者表示，目前AI換臉技術主要通過深度學習和計算機視覺技術實現。它使用了深度神經網絡來分析和識別視頻中的人臉，并將一個人的臉部特征映射到另一個人的臉上。在微信視頻中，犯罪分子可能會通過發送特制的視頻或使用特定的換臉應用程序，將自己的臉替換為受害者的臉，以獲取對方的信任并實施詐騙行為。

那么，“AI換臉”成熟度如何，是否達到以假亂真的程度？

安光勇表示，換臉技術的成熟度隨著時間的推移在不斷提高，但是否已經完全以假亂真還存在一定的限制。盡管現代換臉技術在某些情況下可以產生逼真的結果，但仍然存在一些瑕疵，比如細節不完美或者在某些情況下可能顯得不自然。

長沙市反電詐中心提醒，涉及資金轉賬時，市民要提高安全意識，通過多種方式確認對方是否為本人，也可將轉賬到賬時間設定為 “24小時到賬”，以預留處理時間。針對支付軟件以及網銀軟件，要使用多種登錄及轉賬驗證方式。

針對花樣翻新的智能AI詐騙，公眾要提高防范意識，應謹慎使用各類“AI換臉”“AI變聲”軟件，加強個人信息保護意識，避免注冊不需要的賬號、填寫不必要的個人信息，以防個人信息泄露。面對不斷更新的網絡技術和詐騙方式，要堅持不輕信、不透露、不點擊、不轉賬。