最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
上海8月12日電 (記者 李姝徵)記者12日從上海市公安局閔行分局獲悉,今年3月及7月,警方連續破獲兩起針對「蜂花」品牌的銷售假冒註冊商標商品案,打掉兩個犯罪團夥,累計抓獲17名犯罪嫌疑人,現場查獲假冒「蜂花」產品3000餘瓶、標籤4萬餘張,涉案金額逾1000萬元。 警方清點假冒「蜂花」產品。(上海市公安局閔行分局 供圖) 今年年初,上海蜂花日用品公司通過閔行公安「一站式」警企在線服務平臺反映,其電商部門發現多個電商平臺存在店鋪未經授權銷售「蜂花」洗髮水、護髮素等產品。經企業鑑定,相關商品均為假冒註冊商標產品,涉嫌侵犯智慧財產權,損害品牌聲譽。 接報後,警方迅速成立專案組開展偵查。經查,30餘家店鋪使用「正品國貨」標籤並配以「蜂花」產品圖片,上架銷售多款洗護產品,其中「生薑健發」「石榴滋養」洗髮露及兩款「柔順營養」護髮素為假冒高發品類。這些假冒產品在外包裝、香型等方面與正品高度相似,普通消費者難以有效識別。部分店鋪還同時混售其他日化用品,以「魚目混珠」方式幹擾平臺監管和消費者判斷。據統計,涉案店鋪的假冒「蜂花」產品銷售金額均超過5萬元。 偵查過程中,專案組還發現犯罪團夥為製造「原產地」的假象,刻意將發貨面單標註為「上海」,企圖利用「蜂花」作為本土老字號「原產地」的公眾認知,為假冒商品披上「正品」外衣,而實際發貨地則為外省某地。 經深入調查,專案組確定犯罪團夥具有明顯「家族化」特徵。其中,犯罪嫌疑人遊某負責拓展下線,其妻王某負責接單發貨,其母楊某負責資金管理,由王某堂兄楊某的日化加工廠生產假冒「蜂花」產品,最後通過電商渠道銷售。據此,警方還鎖定了以陳某、郭某為首的下遊銷假團夥。 圖為抓捕現場。(上海市公安局閔行分局 供圖) 3月,專案組在多地同步開展收網,抓獲遊某、王某等7名犯罪嫌疑人,並當場查獲完整制假生產線及相關設備。 專案組持續深挖擴線,於7月鎖定並抓獲另一10人犯罪團夥。經查,犯罪嫌疑人楊某松夥同他人,從外省採購假冒「蜂花」成品,以當地承租的倉庫作為儲藏、貼標、物流中轉的據點,並通過線上店鋪銷售牟利。據嫌疑人交代,一款市場價30餘元的洗髮水,在其網店的售價低至半價,而採購成本僅為3元至4元,仍具可觀利潤空間。 此外,為規避電商平臺監管和消費者投訴,嫌疑人楊某松還頻繁借用他人身份信息「換殼」開設新網店,數量達20餘家。 目前,上述兩起案件中的17名犯罪嫌疑人因涉嫌銷售假冒註冊商標的商品罪,已被閔行警方依法採取刑事強制措施。其中,3人已移送檢察機關依法審查起訴,案件正在進一步偵辦中。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
97631
37
2026-01-05 14:39
98647
38
2026-01-05 14:39
24693
32
2026-01-05 14:39
48359
32
2026-01-05 14:39
27615
94
2026-01-05 14:39
74136
87
2026-01-05 14:39
68795
16
2026-01-05 14:39
23476
64
2026-01-05 14:39
21785
36
2026-01-05 14:39
94156
18
2026-01-05 14:39
74195
14
2026-01-05 14:39
13526
38
2026-01-05 14:39
24931
76
2026-01-05 14:39
15987
52
2026-01-05 14:39
21759
69
2026-01-05 14:39
74862
93
2026-01-05 14:39
94721
81
2026-01-05 14:39
12738
36
2026-01-05 14:39
53784
71
2026-01-05 14:39
15673
39
2026-01-05 14:39
46128
84
2026-01-05 14:39
13946
17
2026-01-05 14:39
24738
58
2026-01-05 14:39
23715
31
2026-01-05 14:39
29613
95
2026-01-05 14:39
12539
78
2026-01-05 14:39
98127
89
2026-01-05 14:39
54869
48
2026-01-05 14:39
95314
31
2026-01-05 14:39
73695
51
2026-01-05 14:39
18537
69
2026-01-05 14:39
92148
36
2026-01-05 14:39
97832
47
2026-01-05 14:39
62457
25
2026-01-05 14:39
12679
39
2026-01-05 14:39
59783
87
2026-01-05 14:39
21495
14
2026-01-05 14:39
23918
93
2026-01-05 14:39
49623
63
2026-01-05 14:39
34752
89
2026-01-05 14:39
83172
96
2026-01-05 14:39
18954
65
2026-01-05 14:39
34297
98
2026-01-05 14:39
93728
91
2026-01-05 14:39
81967
68
2026-01-05 14:39
89364
72
2026-01-05 14:39
29473
28
2026-01-05 14:39
12794
29
2026-01-05 14:39
85947
84
2026-01-05 14:39
93281
48
2026-01-05 14:39
62153
85
2026-01-05 14:39
| 小白兔直播 | 月夜直播app夜月 |
| 少女6夜半直播nba | |
| 小猫咪视频 | 黄瓜直播 |
| 桃花app | |
| 金莲直播 | 柚子直播 |
| 伊人下载 | |
| 零七直播 | 韩国直播 |
| 婬色直播 | |
| 五楼直播 | 么么直播 |
| 少女6夜半直播nba | |
| 阴桃直播 | 魅影直播 |
| 桔子直播 | |
| 小k直播姬 | 苹果直播 |
| 六月直播 | |
| 绿茶直播 | 魅影直播 |
| 桔子直播 | |
| 荔枝网直播 | 糖果直播 |
| 伊人直播网站 | |
| 蜜桃直播 | 小k直播姬 |
| 9.1樱花ppt网站大片 | |