最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
74歲老人刷視頻被籤約直播帶貨 「70多歲老人怎麼會搞帶貨?」近日,成都李女士為家中老人籤約直播帶貨一事而發愁。8月6日李女士告訴記者,暑假她回家發現,74歲的爺爺有一筆2690元的支出,這筆支出是和一家商務信息諮詢公司籤約,內容是「直播帶貨」。他們家屬認為老人信息不對等受到了誘導欺詐,跟對方申請退款被拒絕,然後向屬地公安報警,這時才發現涉事公司早已是經營異常狀態。 被忽悠了?74歲老人籤約直播帶貨公司 李女士說,74歲的爺爺籤的是一份名為「電商AI帶貨」的協議,甲方是註冊在四川的一家商務信息諮詢公司。「74歲的老人怎麼會搞帶貨?」她發現後追問爺爺這是什麼情況。老人告訴她,是之前在網上刷短視頻的時候,彈出來連結,點進去後,有自稱工作人員添加了他的微信。後來,就被要求籤署了一個協議,稱協議培訓費為2690元,並發過來一些「教學視頻」。 李女士而後看了合同和「教學視頻」,她認為這所謂的「教學視頻」一眼就是那種零成本的網上搬運視頻,視頻內容粗糙,且上了年紀的老年人很難學會。 於是,她向對方申請退款。在退款時,卻遇到了新的問題,對方告訴她,這筆費用屬於協議裡面的「培訓費」,且教學視頻也發給了她爺爺,以此為由拒絕退款。李女士認為對方是利用信息不對等,忽悠高齡老人籤署的合同。爺爺奶奶生活節儉,一個月生活費最多就幾百塊,現在這個所謂的「直播帶貨」就忽悠老人給了2000多元,她撥打12345熱線電話投訴,之後又在當地派出所報警。 「帶貨課程」需步步收費 學員達不到預期申請退款遭拒 李女士搜索該公司關鍵詞,發現有著同樣遭遇的人還有不少。不少人反映,所謂的「帶貨」課程環環相扣,交了2690元後,需要一步步達到預期,然後每個過程還要收費,其中第一階段預估需要花一周時間和1000多元,第二階段預估需要花一個月費用6000多元,然後第三階段預估花一個月的時間費用9000多元,以此類推,最終還提供明星授權,這樣帶貨可以24小時不間斷賺錢。 還有網友投訴,在這家公司籤訂帶貨協議繳費後,宣傳廣告提到在第五階段帶貨的利潤會翻倍,「但交完錢之後發現必須是個體戶或企業才能達到這個預期,個人店鋪做不到,升級個體戶還得再交錢,費用5880元至19880元不等。」有網友表示,自己一步步「投錢」過後,發現個人達不到預期就不想學了,申請退費,該公司回復因個人原因退費,只能退10%的費用。 李女士在報警之後,發現該公司今年6月18日顯示已處於經營異常,有網友在該公司註冊地址也沒有發現實體店。 8月6日下午,記者嘗試聯繫該公司,多個電話顯示已是空號,公司法定代表人也處於失聯狀態。 註冊地址為虛擬地址 已被列入「經營異常」名錄 根據國家企業信用信息公示系統顯示,李女士投訴的這家商務信息諮詢公司,在今年6月18日被內江市東興區市場監管局列入經營異常名錄,理由是通過登記的住所或者經營場所無法聯繫。 8月7日上午,記者聯繫到該局,一名工作人員告知,他們前段時間確實收到過該公司的投訴內容,這家公司在轄區的註冊地為「虛擬地址」。執法人員到場核查,未發現該公司在註冊地經營,發現上述情況後立即將該公司納入異常經營名錄,並將相關線索移送至公安部門。 華西都市報-封面新聞記者宋瀟
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
71426
34
2025-11-03 22:52
96835
64
2025-11-03 22:52
81973
95
2025-11-03 22:52
14253
68
2025-11-03 22:52
35124
97
2025-11-03 22:52
28314
81
2025-11-03 22:52
32416
83
2025-11-03 22:52
19764
97
2025-11-03 22:52
65417
17
2025-11-03 22:52
36589
89
2025-11-03 22:52
46185
78
2025-11-03 22:52
98473
53
2025-11-03 22:52
86172
46
2025-11-03 22:52
78651
58
2025-11-03 22:52
14726
78
2025-11-03 22:52
35412
39
2025-11-03 22:52
46753
93
2025-11-03 22:52
49135
79
2025-11-03 22:52
62913
78
2025-11-03 22:52
56341
43
2025-11-03 22:52
89614
79
2025-11-03 22:52
57392
95
2025-11-03 22:52
97514
58
2025-11-03 22:52
84736
86
2025-11-03 22:52
36784
97
2025-11-03 22:52
98657
39
2025-11-03 22:52
47319
65
2025-11-03 22:52
91485
58
2025-11-03 22:52
12743
52
2025-11-03 22:52
26837
15
2025-11-03 22:52
34218
56
2025-11-03 22:52
49523
24
2025-11-03 22:52
43851
54
2025-11-03 22:52
35146
41
2025-11-03 22:52
72859
42
2025-11-03 22:52
92648
76
2025-11-03 22:52
79682
51
2025-11-03 22:52
25789
46
2025-11-03 22:52
62831
86
2025-11-03 22:52
82145
42
2025-11-03 22:52
89417
27
2025-11-03 22:52
29346
43
2025-11-03 22:52
86521
95
2025-11-03 22:52
65179
82
2025-11-03 22:52
34897
26
2025-11-03 22:52
87534
85
2025-11-03 22:52
62439
82
2025-11-03 22:52
59862
35
2025-11-03 22:52
31864
96
2025-11-03 22:52
47613
53
2025-11-03 22:52
13648
82
2025-11-03 22:52
94283
42
2025-11-03 22:52
74395
61
2025-11-03 22:52
| 打开b站看直播 | 直播黄台app凤蝶 |
| 么么直播 | |
| 97播播 | 伊人直播网站 |
| 趣爱直播 | |
| 魅影app免费下载安装 | 少女6夜半直播nba |
| 美女直播app | |
| 奇秀直播 | 蜜桃app |
| 69美女直播 | |
| 蜜桃app | 国外b站刺激战场直播app |
| 秀色直播app下载安装app | |
| 魅影直播间 | 浪花直播 |
| 月夜直播在线观看 | |
| 伊对免费下载 | 六月直播 |
| 魅影直播游客免登录 | |
| 茄子直播 | 520直播 |
| 榴莲视频 | |
| 花椒直播 | 月夜直播 |
| 花儿直播 | |
| 成人直播app推荐免费 | 贵妃直播 |
| 魅影5.3直播 | |