最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
杭州8月8日電 (錢晨菲 吳怡欣)8月8日,浙江杭州舉行打擊治理電信網絡詐騙犯罪工作情況新聞發布會。據悉,今年前7月,杭州公安積極開展涉詐重點人員教育勸返工作,敦促滯留境外的涉詐人員回國。截至目前,該市涉詐重點人員勸返率達92.14%。 數據顯示,今年1月至7月,杭州全市電信網絡詐騙案件受理數、損失數、重大案件數同比分別下降10.1%、33.2%、68.6%,破獲案件數、抓獲犯罪嫌疑人數分別同比上升13.6%、7.3%,返還涉案資金1.94億元。同時,該市明確了600餘名境外電詐回流人員的身份和落腳點。 「雖然杭州反詐工作取得了一定的實效,但電信網絡詐騙犯罪依然是刑事犯罪的主流。當前,犯罪手法更新迭代快,攻防對抗不斷升級,犯罪形勢依然嚴峻。」杭州市公安局黨委委員、副局長田國剛表示。 8月8日,浙江杭州舉行打擊治理電信網絡詐騙犯罪工作情況新聞發布會。杭州公安供圖 具體來看,犯罪手段迭代變化加速。通聯手段從電話、通用聊天軟體等向FaceTime、小眾聊天軟體、境外通訊軟體等方式轉變,犯罪分子運用屏幕共享、遠程控制、AI技術等,迷惑性更強。同時,犯罪組織化特徵更加明顯。詐騙團夥組織嚴密、分工明確,詐騙金主、頭目和骨幹往往在境外,具有產業化分布、精細化分工、跨境式布局等特徵。 例如,2025年3月21日,杭州市公安局拱墅區分局接某女士報警稱,3月初通過某網絡社交平臺相親帖認識嫌疑人,被網戀誘導投資虛擬幣,共損失超100萬元。案發後,杭州市區兩級公安機關立即成立專案組,前往中國多地進行抓捕,明確詐騙窩點位於東南亞某地,境外詐騙分子通過小眾加密聊天軟體發布指令,由境內灰黑產犯罪團夥接單收取黃金。截至目前,該案已經抓獲多環節犯罪嫌疑人9人,合計追贓挽損超20萬元。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
89635
96
2026-02-26 19:54
51974
71
2026-02-26 19:54
47832
85
2026-02-26 19:54
47538
16
2026-02-26 19:54
64253
65
2026-02-26 19:54
78539
71
2026-02-26 19:54
68947
64
2026-02-26 19:54
31462
45
2026-02-26 19:54
73946
31
2026-02-26 19:54
82139
63
2026-02-26 19:54
72598
67
2026-02-26 19:54
41869
71
2026-02-26 19:54
42658
45
2026-02-26 19:54
54317
81
2026-02-26 19:54
46795
64
2026-02-26 19:54
38921
69
2026-02-26 19:54
14652
82
2026-02-26 19:54
18792
82
2026-02-26 19:54
74219
46
2026-02-26 19:54
68243
57
2026-02-26 19:54
26435
19
2026-02-26 19:54
36127
65
2026-02-26 19:54
58249
42
2026-02-26 19:54
82937
82
2026-02-26 19:54
48762
72
2026-02-26 19:54
38276
12
2026-02-26 19:54
23649
41
2026-02-26 19:54
51786
69
2026-02-26 19:54
34965
43
2026-02-26 19:54
47162
68
2026-02-26 19:54
49257
82
2026-02-26 19:54
98714
31
2026-02-26 19:54
65487
39
2026-02-26 19:54
28736
41
2026-02-26 19:54
39625
62
2026-02-26 19:54
75218
67
2026-02-26 19:54
12946
63
2026-02-26 19:54
86452
91
2026-02-26 19:54
34872
23
2026-02-26 19:54
79862
56
2026-02-26 19:54
63192
89
2026-02-26 19:54
37186
53
2026-02-26 19:54
38261
67
2026-02-26 19:54
15937
92
2026-02-26 19:54
89621
92
2026-02-26 19:54
49183
58
2026-02-26 19:54
71863
29
2026-02-26 19:54
49213
79
2026-02-26 19:54
84612
42
2026-02-26 19:54
18345
21
2026-02-26 19:54
96418
31
2026-02-26 19:54
49352
45
2026-02-26 19:54
89356
78
2026-02-26 19:54
| 魅影直播间 | 青柠直播 |
| sky直播 | |
| 比心直播 | 暖暖直播 |
| 月夜直播app夜月 | |
| 绿茵直播 | 金桔直播 |
| 心动直播 | |
| 现场直播 | 曼城直播 |
| 凤凰网直播 | |
| 柚子直播 | 樱桃直播 |
| 西甲直播 | |
| 桃子直播 | 魅影直播视频 |
| 黄瓜直播 | |
| 桃子直播 | 鲨鱼直播 |
| 樱花直播nba | |
| 巧克力直播 | 春雨直播全婐app免费 |
| 名模直播 | |
| 月夜直播 | 九球直播 |
| 心动直播 | |
| 密桃直播 | 暖暖直播 |
| 成人抖阴 | |