最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
上海8月11日電 (李姝徵 馬凱)加QQ進群就能獲得免費明星周邊?日前,上海徐匯警方在「礪劍2025」夏季戰役中,在多地同步開展收網行動,搗毀一詐騙未成年人的犯罪團夥,抓獲涉案人員3名,收繳作案手機16部,串併案件9起,累計涉案金額26萬餘元。 2025年5月某晚,家住徐匯的女生小馮在某社交平臺看到一條帖文說可免費領取明星親筆籤名,便留言詢問。對方私信讓其加入一個QQ群。小馮進入該群後不久,有個QQ名「張警官」的人也進了群,聲稱該群已涉嫌「洩露他人隱私以及非法發放明星周邊」,需要群裡所有人配合調查。「警方已對本群實施實時監控,不配合調查擅自退群後果自負,也會留下終身案底……」年幼的小馮一下子懵了,私信「張警官」求助,對方發來一張警官證照片,還讓其掃碼添加了一個名叫「李某某」的企業微信號。對方還通過視頻通話(自己黑屏未露臉,僅讓小馮拍攝本人及周邊情況)稱需要排除其涉案嫌疑,未成年人要用家長手機掃碼驗證調查,並通過支付一定數量的款項來測試帳戶資金走向,查證是否存在為嫌疑人轉過錢款等違法犯罪行為。「張警官」還稱,在線調查過程要全程保密,否則將立即對小馮開展上門公開調查。 小馮猶豫片刻後,以做學校作業需要兩個手機為由問外婆借來手機,並騙外婆說交作業需要家長刷臉證明。不明就裡的老人均一一照辦。於是,當晚小馮通過外婆的微信零錢和網上銀行分8筆向「張警官」提供的幾個付款碼累計轉出15000餘元,並按照對方要求刪除了相關轉帳記錄。 其間,儘管小馮也有質疑,但架不住騙子的威逼利誘。騙子甚至讓其去拿母親的手機來操作,小馮不願意配合之際,對方變得氣勢洶洶,「讓你配合你不配合,你好好看看這裡是哪裡?」然後,原本黑屏的視頻通話那頭,一名戴著口罩、身著制服、坐在電腦前的警察形象一閃而過,桌上似乎還有幾本案卷。「不配合是吧?行,那錢也回不來了,你等著我們上門吧!」幾番催促無果後,對方掛斷通話並將小馮拉黑。 第二天,外婆發現自己的錢少了,詢問小馮才知道昨晚遇到騙子了,一家人這才報了警。 徐匯警方經過持續追蹤發現,該案系一組織化運行的詐騙團夥操控多個引流群、話術群所為。逐步釐清以柴某、張某為主要嫌疑人,向某等人為資金結算人員,以有償招募兼職人員進行相關引流的犯罪團夥。 2025年6月至7月間,警方分赴外省市多地開展抓捕,在當地警方協助下,先後抓獲柴某、張某、向某等涉案人員,收繳作案手機16部,在嫌疑人柴某手機內發現大量用於詐騙的警察照片、視頻和詐騙話術截圖。此外,警方關聯各地相關案件9起,被害人均為未成年人,累計涉案金額26萬餘元。 經訊問,犯罪嫌疑人柴某、張某、向某交代,自2024年起,柴某、張某二人開始利用相關話術在網上對追星心切的未成年人實施詐騙。其中,柴某、張某負責在幕後組織協調,張某還負責扮演警察與未成年被害人直接語音或視頻交流,對其實施恐嚇和脅迫。為了逃避追查,他們僱人拍攝各地茶館、麻將館等商業場所的收款碼照片,讓被害人掃碼付款,再和商家協商將已支付的款項套現。而在各社交平臺發帖引流的兼職人員,則是由向某等人負責建群管理和結算報酬的。 目前,犯罪嫌疑人張某因涉嫌詐騙罪已被檢察機關依法批准逮捕,柴某、向某被公安機關採取刑事強制措施,案件的深挖擴案、上下遊關聯團夥的打擊工作仍在進一步開展中。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
97842
16
2025-11-16 06:16
52136
91
2025-11-16 06:16
25389
38
2025-11-16 06:16
82941
83
2025-11-16 06:16
34869
65
2025-11-16 06:16
36754
83
2025-11-16 06:16
86513
87
2025-11-16 06:16
26934
85
2025-11-16 06:16
92658
24
2025-11-16 06:16
61827
53
2025-11-16 06:16
83461
63
2025-11-16 06:16
16572
37
2025-11-16 06:16
18532
15
2025-11-16 06:16
62451
83
2025-11-16 06:16
62317
67
2025-11-16 06:16
83197
28
2025-11-16 06:16
58396
16
2025-11-16 06:16
52943
21
2025-11-16 06:16
98152
47
2025-11-16 06:16
83675
27
2025-11-16 06:16
91674
64
2025-11-16 06:16
16238
48
2025-11-16 06:16
35874
16
2025-11-16 06:16
79462
96
2025-11-16 06:16
76352
59
2025-11-16 06:16
17594
68
2025-11-16 06:16
24561
64
2025-11-16 06:16
26415
48
2025-11-16 06:16
92413
54
2025-11-16 06:16
69185
35
2025-11-16 06:16
15984
54
2025-11-16 06:16
64953
96
2025-11-16 06:16
41279
21
2025-11-16 06:16
14725
17
2025-11-16 06:16
18673
41
2025-11-16 06:16
64197
48
2025-11-16 06:16
83972
81
2025-11-16 06:16
48253
67
2025-11-16 06:16
89641
48
2025-11-16 06:16
23645
15
2025-11-16 06:16
36715
98
2025-11-16 06:16
62739
39
2025-11-16 06:16
82146
78
2025-11-16 06:16
67943
34
2025-11-16 06:16
12798
86
2025-11-16 06:16
21684
46
2025-11-16 06:16
97826
64
2025-11-16 06:16
37682
85
2025-11-16 06:16
49173
82
2025-11-16 06:16
19824
76
2025-11-16 06:16
79683
24
2025-11-16 06:16
| 柚子直播 | 青柠直播 |
| 零点直播 | |
| 小k直播姬 | 妲己直播 |
| 9.1樱花ppt网站大片 | |
| 尖叫之夜免费直播 | b站刺激战场直播 |
| 糖果直播 | |
| 看少妇全黄a片直播 | 趣播 |
| 秀色直播 | |
| 么么直播 | 私密直播全婐app免费 |
| 春雨直播全婐app免费 | |
| 百丽直播 | 直播黄台app凤蝶 |
| 莲花直播 | |
| 杏爱直播 | 花瓣直播 |
| 小妲己直播 | |
| 蜜糖直播 | 柚子直播 |
| 免费直播行情网站大全 | |
| 香蕉app免费下载 | 夜月视频直播 |
| 蜜疯直播 | |
| 伊人app | 看b站a8直播 |
| 夜魅直播 | |