最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
8月1日,廣東省惠州市惠東縣境內的網紅景點「愛心潭」處,有6人下水遊玩時被水衝走,其中1人被困在小島上,另5人失聯。3日下午,極目新聞記者從當地有關部門獲悉,截至當天14時15分許,失聯5人全部找到,均已無生命體徵。悲劇發生後,惠東文旅部門緊急發布警示,強調當前正值汛期,擅自進入未開發、未開放區域風險極高。(8月3日極目新聞) 這5條鮮活的生命,再次以最慘痛的方式,將「未開發網紅景點」的巨大安全隱患暴露無遺。而類似的悲劇,近年來已屢見不鮮:4月19日,雲南昭通魯甸縣牛欄江段(未開發網紅景點),因水位驟漲致4人被困,3人遇難;今年五一假期,廣東清遠英德「一線天」溪谷(網紅溯溪點),一驢友在組織活動時溺亡,引發後續糾紛;5月25日,福建泉州安溪縣一非旅遊景點,一名女子在爬山時墜崖身亡…… 這些本應令人敬畏、需要專業知識和充分準備才能探索的自然區域,在短視頻的濾鏡效應和網紅博主的「種草」攻略下,被包裝成「人少景美」「必去秘境」,輕而易舉地塞進了遊客的「打卡清單」。它們憑藉未經雕琢的原始風貌吸引眼球,卻因完全缺乏基本的安全保障、應急設施、管理維護和專業指引,成為了名副其實的「死亡陷阱」。 地方文旅部門的警示即便不是姍姍來遲,在精心包裝的「網紅攻略」和追求「出片」的衝動面前,也會顯得蒼白無力。如同惠州文旅早已反覆提醒未開放區域的種種風險,卻依然未能阻止住冒險的腳步。 網紅經濟時代,流量絕不能以安全為代價!血的教訓要求我們多方行動: 平臺必須壓實主體責任。對涉及未開發區域的所謂「探險攻略」「秘境推薦」,必須強制添加顯著的風險警示標籤,並嚴格審核內容是否誇大其詞、淡化風險。流量推薦需建立安全閥,對高風險的「野景點」內容應限制流量。 職能部門不能「亡羊補牢」。對於已形成事實人流的網紅「野景點」,不能僅停留在事後警示和救援上。應主動進行安全評估,對極高風險區域設置物理隔離、加強巡邏勸阻、設立醒目警示牌,並探索可能的規範化管理路徑。 每一位遊客務必心存敬畏。風景再美,也絕不值得用生命去兌換!清醒認識自身能力,嚴格遵守安全規定,對未開發區域保持足夠警惕。真正的旅行探險,是對自然的尊重和對規則的遵守,而非對危險的無知無畏和對規則的漠視挑釁。 當「網紅」的光環褪去,露出的若是「隱患」的底色,這樣的景點留下的只有無盡傷痛。5條逝去的生命是沉重的警鐘:我們不能再讓流量綁架安全,不能再讓「野景點」成為生命的吞噬者。這不僅是對逝者的告慰,更是對每一個鮮活生命最根本的尊重與負責。 郭元鵬
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
19257
29
2025-11-30 23:43
32951
61
2025-11-30 23:43
25897
27
2025-11-30 23:43
35916
67
2025-11-30 23:43
26817
17
2025-11-30 23:43
65179
23
2025-11-30 23:43
95216
48
2025-11-30 23:43
78261
29
2025-11-30 23:43
82375
28
2025-11-30 23:43
39751
59
2025-11-30 23:43
36148
49
2025-11-30 23:43
87264
52
2025-11-30 23:43
49815
53
2025-11-30 23:43
16893
43
2025-11-30 23:43
37249
58
2025-11-30 23:43
41952
86
2025-11-30 23:43
78456
12
2025-11-30 23:43
16537
48
2025-11-30 23:43
52367
12
2025-11-30 23:43
37516
27
2025-11-30 23:43
57439
81
2025-11-30 23:43
73846
46
2025-11-30 23:43
59163
57
2025-11-30 23:43
12463
73
2025-11-30 23:43
73294
65
2025-11-30 23:43
58963
19
2025-11-30 23:43
41379
57
2025-11-30 23:43
37258
13
2025-11-30 23:43
28613
67
2025-11-30 23:43
29831
97
2025-11-30 23:43
29647
67
2025-11-30 23:43
34615
35
2025-11-30 23:43
39852
52
2025-11-30 23:43
61579
18
2025-11-30 23:43
76298
69
2025-11-30 23:43
36249
72
2025-11-30 23:43
41879
24
2025-11-30 23:43
79865
86
2025-11-30 23:43
57136
47
2025-11-30 23:43
63895
27
2025-11-30 23:43
29785
25
2025-11-30 23:43
15973
47
2025-11-30 23:43
96723
43
2025-11-30 23:43
92876
76
2025-11-30 23:43
61789
52
2025-11-30 23:43
96472
75
2025-11-30 23:43
93716
21
2025-11-30 23:43
93245
21
2025-11-30 23:43
95183
75
2025-11-30 23:43
63847
75
2025-11-30 23:43
97862
18
2025-11-30 23:43
41529
16
2025-11-30 23:43
15239
61
2025-11-30 23:43
| 西瓜直播 | 鲍鱼直播 |
| 优直播 | |
| 红桃直播 | 蜜疯直播 |
| 小白兔直播 | |
| 名模直播 | 小草莓直播 |
| 蜜糖直播 | |
| 零点直播 | 榴莲视频 |
| 苹果直播 | |
| 小草莓直播 | 凤凰网直播 |
| 妲己直播 | |
| 免费直播 | 凤凰网直播 |
| 桃花直播 | |
| 魅影视频 | 蜜糖直播 |
| 春雨app直播免费看 | |
| 少女6夜半直播nba | 看b站a8直播 |
| 免费真人视频网站直播下载 | |
| 少女6夜半直播nba | 尖叫之夜免费直播 |
| 飞速直播 | |
| 百丽直播 | 月夜直播在线观看 |
| 嫦娥直播 | |