最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
學校剛組建的新生家長群卻混進了騙子,冒充老師發布收費通知及收款二維碼,致使多名家長受騙! 8月上旬正值中學新生錄取報到高峰期,反詐中心通報一起最新發案,提醒學校及老師組建新生家長群時務必進行身份核驗,不在群內收取錢款並做好防範提示,家長對群內收費信息也應謹慎甄別。 班級群未設置身份驗證 9名家長被騙共4000餘元 近日,北京一所中學近日完成新生錄取工作後,為了方便家長溝通信息,建立了兩個高一新生家長QQ群,並將QQ群二維碼列印在新生入學手冊上,和錄取通知書一起通過快遞發送給新生家長,家長們只要掃描二維碼就能入群。 沒承想,騙子也混入群內,冒充「群主」老師發送交費通知:「麻煩各位家長交一下季度學習資料、練習題試卷等資料費490元、複印費5元,合計共495元整。各位家長掃碼進行繳費並備註好學生名字,方便核對登記,謝謝各位家長配合……」緊接著還發布了支付二維碼,並@群內成員,要求儘快交費。 由於是學校建立的新生家長群,「老師」通知交費的數額也不多,還「貼心」地讓家長交費時備註好學生姓名,交費後截圖接龍便於登記,家長們便信以為真。短短40多分鐘內,共有9名家長掃碼交費,共計4000餘元。另一名「老師」還將交費的家長拉進小群。 群內有家長起了疑心,向學校老師核實。真正的群主老師立即在群內發布消息,告知家長有人冒充老師騙錢並封禁發言,將騙子「踢」出群,緊接著向學校報告並報警。 民警經初步詢問調查發現,這個200多人的新生家長群,未設置管理員審核後加入的權限,騙子在夜間趁人不注意混入群內,之後冒充老師發布交費信息。如果不是發現及時,騙子還可以在小群中繼續詐騙上當的家長。 警方提示 嚴禁在群內發布任何收費信息 「7月底至8月初正值中學新生錄取報到的高峰期,騙子就是利用新生家長對學校、老師的信任及對學校工作的不了解,混進群內實施詐騙。」 反詐民警提示,學校在組建新生家長群時,務必嚴格設置入群審核機制,確保群成員身份真實可靠。同時,要明確群內溝通規範,嚴禁在群內發布任何收費信息,所有涉及費用的事宜要通過校園官網、官方公眾號、線下通知等方式發布,並主動向家長說明收費項目、標準及繳費途徑,引導家長通過學校對公帳戶繳費。 家長們也要提高警惕,加入群後,可先與班主任或學校確認群內管理人員身份,對群內發布的收費、轉帳等信息保持高度警惕,切勿輕易掃描不明二維碼或點擊陌生連結。遇到疑問時,務必通過官方聯繫方式向學校核實,不要直接在群內詢問陌生「管理員」或「老師」,避免被騙子誤導。 一旦發現疑似詐騙行為,要第一時間向學校反映並報警,留存好相關聊天記錄、轉帳憑證等證據,配合警方調查處理。 (央視新聞客戶端綜合平安北京)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
96134
35
2025-10-26 03:57
68297
83
2025-10-26 03:57
32895
87
2025-10-26 03:57
18724
59
2025-10-26 03:57
43719
82
2025-10-26 03:57
36192
41
2025-10-26 03:57
16839
69
2025-10-26 03:57
74925
81
2025-10-26 03:57
18367
53
2025-10-26 03:57
56938
59
2025-10-26 03:57
92358
49
2025-10-26 03:57
57431
67
2025-10-26 03:57
98346
63
2025-10-26 03:57
72461
17
2025-10-26 03:57
16579
92
2025-10-26 03:57
39215
15
2025-10-26 03:57
62938
96
2025-10-26 03:57
16942
53
2025-10-26 03:57
65942
94
2025-10-26 03:57
48659
97
2025-10-26 03:57
13597
91
2025-10-26 03:57
58613
71
2025-10-26 03:57
18534
64
2025-10-26 03:57
46573
79
2025-10-26 03:57
26974
49
2025-10-26 03:57
29643
13
2025-10-26 03:57
72946
17
2025-10-26 03:57
89265
48
2025-10-26 03:57
64378
54
2025-10-26 03:57
52369
58
2025-10-26 03:57
79851
87
2025-10-26 03:57
94651
35
2025-10-26 03:57
16358
68
2025-10-26 03:57
92845
31
2025-10-26 03:57
97632
61
2025-10-26 03:57
53482
15
2025-10-26 03:57
65389
89
2025-10-26 03:57
76983
59
2025-10-26 03:57
93786
72
2025-10-26 03:57
82537
37
2025-10-26 03:57
26475
56
2025-10-26 03:57
46123
13
2025-10-26 03:57
56814
41
2025-10-26 03:57
15637
91
2025-10-26 03:57
26759
79
2025-10-26 03:57
12674
18
2025-10-26 03:57
54831
83
2025-10-26 03:57
32178
18
2025-10-26 03:57
27538
75
2025-10-26 03:57
35842
59
2025-10-26 03:57
24813
92
2025-10-26 03:57
27548
75
2025-10-26 03:57
37165
75
2025-10-26 03:57
| 九球直播 | 蜜疯直播 |
| 极速直播 | |
| 婬色直播 | 抖音成人版 |
| 魅影app免费下载安装 | |
| 么么直播 | 密桃直播 |
| 美女直播 | |
| 午夜直播 | 牡丹直播 |
| 大鱼直播 | |
| 深夜直播 | 彼岸直播 |
| 蜜糖直播 | |
| 大鱼直播 | 桃鹿直播 |
| 仙凡直播 | |
| 橘子直播 | 蜜桃app |
| 蜜糖直播 | |
| 黑白直播体育 | 黄播 |
| 春雨直播 | |
| 金莲直播 | 魅影直播 |
| 花儿直播 | |
| 蜜桃直播 | 美女直播app |
| love直播 | |