最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
近期,有騙子偽裝成商家,以幫顧客退換貨為幌子實施詐騙。今年6月,家住河南的市民李女士就遭遇了這樣的騙局,在被騙了4萬元後,又險些被騙走12萬多元。 事情發生在今年6月5日,辦案民警接到了一條來自反詐中心的預警信息,稱轄區市民李女士從銀行分兩次取走了125000元現金,但當銀行工作人員詢問她錢款的用途時,她卻前言不搭後語,銀行工作人員判斷她疑似遭遇了詐騙。於是,警方立即與李女士取得聯繫。 一開始,李女士並不承認自己遇到了詐騙,面對民警的詢問,她說取錢是為了家裡裝修用。 在民警耐心的勸阻下,李女士終於放棄了把錢交給騙子的念頭。之後,她來到潦河鎮派出所,跟警方講述了上當受騙的經過。原來,在今年5月28日,李女士從網上花16元錢購買了一瓶驅蚊液,在到貨後不久,她就接到了自稱是商家客服打來的電話。 被害人 李女士:對方說給我發錯貨了,我想找她退或者換了,她給了一個教程,讓我按步驟在手機上下載了軟體。 以售後補償為餌 誘導入群刷任務 所謂客服告訴李女士,為了表達發錯貨的歉意,只要她根據引導下載指定的App,再加入會員群,就可以領取28元的紅包,外加一瓶驅蚊液、知名品牌冷風機作為補償。李女士在收到這些紅包及小禮品後,便信任了對方。在加入會員群後,所謂的金牌導師開始引導她做廣告投放任務。一開始,李女士按照要求轉發廣告,確實每天都有幾十元的收益。 幾天後,金牌導師建議李女士升級成代理,可以賺更多的錢。只要她往App帳戶裡充值502元現金,就返還她600多元。此外,對方還讓李女士籤訂了一份保密協議,要求她在廣告投放期間不能向家人及朋友洩露關於廣告投放的一切信息。 操作失誤帳戶被凍結? 對方提出買黃金解凍 金牌導師告訴李女士,她的操作有失誤,想要修復失誤就要再做一個40000元錢的任務,而且還說目前轉帳會被凍結,稱可以通過購買黃金或者取現的方式進行充值完成任務解凍帳戶。 6月4日下午2點左右,李女士按照要求把錢放好用手機拍好圖片傳給對方,但她卻沒有等來所謂的回款。 這一次,金牌導師承諾李女士,只要再取出12.5萬元,交給前來取錢的人,就可以把之前投入的4萬元一併返還給她,此外還給她16000元的收益。於是,李女士來到銀行取錢,反詐預警系統及時發現了異常。 在發現李女士被騙後,警方對取走李女士4萬元錢的人展開調查,發現取錢的是一個來自南陽市淅川縣以馬某為首的非法取現團夥。 據警方介紹,這類非法取現團夥往往使用境外聊天軟體跟上線詐騙團夥聯繫,詐騙團夥會在群聊裡發布取現訂單。為了避免黑吃黑,取現團夥在接單後,負責取現的人需要先交一筆保證金給詐騙團夥,成功拿到錢款後,取現團夥會抽取10%的詐騙金額作為佣金。 辦案民警通過調取公共場所視頻,發現前來取現的犯罪嫌疑人一共有三人,案發當天,他們開車來到指定地點,派出其中兩人去取錢,剩下一人負責在車裡望風。在成功拿到李女士的4萬元現金後,開車離開了現場。 南陽市公安局臥龍分局潦河派出所民警魏召京:鎖定了嫌疑人的車輛和嫌疑人的信息,發現嫌疑人到了淅川縣之後,準備再次作案,我們就抓緊時間通報了淅川縣公安局的反詐中心。 將計就計 「取現」現場擒獲3人 通過梳理排查,辦案民警發現淅川縣金河鎮一名群眾疑似遭遇詐騙,而負責取現的正是馬某這個團夥,於是警方將計就計,提前布控,在「取現」現場將馬某等3名犯罪嫌疑人抓捕歸案。 目前,以馬某為首的3名犯罪嫌疑人,已被檢察院批准逮捕,案件還在進一步辦理中。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
58972
85
2025-11-20 01:51
42598
17
2025-11-20 01:51
31869
45
2025-11-20 01:51
64893
97
2025-11-20 01:51
25714
35
2025-11-20 01:51
53986
47
2025-11-20 01:51
15739
25
2025-11-20 01:51
92437
84
2025-11-20 01:51
26534
92
2025-11-20 01:51
42958
98
2025-11-20 01:51
26475
17
2025-11-20 01:51
78563
91
2025-11-20 01:51
82175
42
2025-11-20 01:51
76245
71
2025-11-20 01:51
21456
79
2025-11-20 01:51
28196
26
2025-11-20 01:51
58923
34
2025-11-20 01:51
72895
35
2025-11-20 01:51
94751
74
2025-11-20 01:51
36259
42
2025-11-20 01:51
63875
73
2025-11-20 01:51
56132
93
2025-11-20 01:51
15379
36
2025-11-20 01:51
16794
43
2025-11-20 01:51
74835
31
2025-11-20 01:51
18752
49
2025-11-20 01:51
18453
62
2025-11-20 01:51
51463
76
2025-11-20 01:51
61439
96
2025-11-20 01:51
96358
51
2025-11-20 01:51
67158
85
2025-11-20 01:51
65923
15
2025-11-20 01:51
39126
21
2025-11-20 01:51
39152
75
2025-11-20 01:51
32461
76
2025-11-20 01:51
78236
43
2025-11-20 01:51
62593
87
2025-11-20 01:51
58721
95
2025-11-20 01:51
15784
34
2025-11-20 01:51
86927
14
2025-11-20 01:51
71526
82
2025-11-20 01:51
42618
19
2025-11-20 01:51
46218
54
2025-11-20 01:51
93586
61
2025-11-20 01:51
53726
25
2025-11-20 01:51
65279
79
2025-11-20 01:51
63475
29
2025-11-20 01:51
18945
19
2025-11-20 01:51
23198
42
2025-11-20 01:51
45217
75
2025-11-20 01:51
65187
38
2025-11-20 01:51
98126
51
2025-11-20 01:51
84561
86
2025-11-20 01:51
| 趣播 | 奇秀直播 |
| 杏爱直播 | |
| 成人抖阴 | 桔子直播 |
| 抓饭直播 | |
| 伊人下载 | 樱花直播nba |
| 苹果直播 | |
| 魅影5.3直播 | 仙凡直播 |
| 月夜直播app夜月 | |
| 伊对免费下载 | 蝶恋直播 |
| 伊人下载 | |
| 看b站a8直播 | 桃鹿直播 |
| 樱桃直播 | |
| 抖音成人版 | 夜月视频直播 |
| 杏仁直播 | |
| 魅影直播 | 柠檬直播 |
| 黑白直播体育 | |
| 秀色直播app下载安装app | 妲己直播 |
| 零点直播 | |
| 春雨直播全婐app免费 | 鲍鱼直播 |
| 蜜桃app | |