【眾行致遠】習言道｜志合者，不以山海為遠
2025-11-12 13:24 9,527次浏览最近，新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後，有網友說「被嚇到了」，還有評價說「像恐怖片」。這是為什麼呢？原來，很多網友沒有想到，AI換臉、換聲能那麼「真」：短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家，女兒撒嬌說航班延誤又掉了一部手機，央求母親轉帳應急。就在母親用網銀轉帳時，門鈴響起，母親以為沒帶鑰匙的父親回家，暫停轉帳去開門。誰知，門外站著女兒。此時，視頻電話裡的「女兒」還在一口一個「媽，你是世界上最好的媽」。 反詐視頻中，真人與AI變臉「面對面」（圖源：新華網視頻截屏）。所以，宣傳片的主題是告訴網友，AI可以模擬人臉和人聲，視頻裡看到和聽到的都不一定是真實的，要警惕新型詐騙電話。不少網友一邊評價「太嚇人」，一邊詢問：AI技術真的進化到可以如此逼真的「換臉換聲」了嗎？答案是肯定的。只要3步，「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾，已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉：第一步，對著演示屏幕的攝像頭，根據提示上下左右轉頭，錄入真人信息；第二步，選擇兩張想要的新臉照片；第三步，演示屏幕顯示，這名技術人員已經擁有了兩張全新的「臉」，新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言，壓根看不出顯示屏幕上的「人」是AI生成的。 左：真人信息錄入；中：選擇要變的「臉」；右：變臉完成（作者攝）。技術人員表示，AI換聲也很方便，很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源，軟體很快就能模擬目標聲音，實現以假亂真的效果。所以，千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展，換臉、變聲已經不再困難。而且，有不法分子已經用換臉、換聲等騙取錢財。前不久，湖北警方就披露了一起「變聲」詐騙案件：被害人劉女士接到「孫子」電話說，不當心傷害到別的孩子，「私了」要2萬元錢，怕被母親責罵，「請奶奶救救我，不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音，決定湊錢幫孫子。接著，孫子說有人來找劉女士拿錢，在交接錢款時，劉女士又聽到了電話裡「孫子」的聲音，確認無誤後，把錢款給了對方。過了幾天，劉女士遇到孫子問起這件事，才發現上當受騙，然後報警。警方經過調查，抓獲了犯罪嫌疑人，並根據被害人提供的線索分析認為，犯罪嫌疑人可能是通過多次撥打座機電話，逐步收集了她孫子的聲紋信息，基於它們用AI技術造假，實施詐騙。識破AI換臉和變聲，這些訣竅有用那麼，如何預防AI換臉、變聲詐騙呢？最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題，當事人要先想辦法求證對方是本人還是AI造假。比如，可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時，AI造假極可能露餡。同時，個人應注意保護隱私信息。高清的面部信息、聲紋信息等，都屬於隱私信息，它們都是被模仿的基礎。所以，在社交平臺上曬視頻、曬照片、曬聲音等行為，其實存在一定的被模仿風險。此外，通訊硬體、軟體等服務供應方，則要有「用魔法打敗魔法」的防範思路。技術人員表示，在生活中，不法分子不僅用AI換臉、變聲詐騙，還會用換臉、變聲「撞庫」，盜取他人錢財。比如，不法分子獲得目標對象的臉部圖像後，試圖通過「人臉識別」的方式，登錄目標對象的各種帳戶，盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大，所以需要從源頭加以識別、攔截。此時，AI也可以成為幫手：AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算，得出鑑定結果。 用AI識別AI造假（作者攝）。「因為AI捕捉和比對的精細度遠遠超過人眼，所以能識別人眼發現不了的造假視頻。」技術人員表示，如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術，那麼能極大限度地防範AI造假。
8月13日電 據網際網路聯合闢謠平臺微信公眾號消息，7月網絡謠言主要集中在公共政策、突發事件、社會民生等領域，假冒權威、憑空捏造，使用AI合成不實圖片和視頻，誤導公眾認知，汙染網絡生態。網信、公安等部門重拳出擊，堅決打擊。 有人重新翻炒「醫保『個人帳戶』將全部取消」舊謠，故意歪曲醫保改革真實內涵，嚴重誤導公眾對醫保改革政策的理解。「有專人上門服務激活醫保碼」，披著「公共服務」的外衣，實有詐騙之嫌和安全風險。憑空捏造「海南規定電動自行車充電不能過夜、頭盔分三季」這一「奇葩規定」，以「新規」話術，擾亂交通管理秩序。 近期，網上接連出現發布虛假「警情通報」的惡性造謠傳謠案件，炮製傳播「昆明駕車撞人案131人死亡」「杭州自來水接入糞水」及涉釋永信虛假「警情通報」，模仿「藍底白字」格式，杜撰聳人聽聞細節，損害政府公信力，嚴重擾亂社會秩序。「院士預測廣東將發生8級以上大地震」公然偽造專家聊天截圖，謊報地震預警。還有造謠者借盛夏高溫酷暑與洪澇災害，編造「安徽淮北、山東泰安等地多人因高溫死亡」 「重慶大暴雨導致15人死亡、4人失蹤」等謠言，蹭炒熱點、煽動情緒。 此外，7月份正值暑期旅遊旺季和水果等農產品收穫季，有自媒體、商家藉機編造傳播涉文旅及農產類謠言，幹擾市場秩序，侵害消費者權益。有商家違規使用人民大會堂建築圖片標識和名稱，仿冒人民大會堂帳號，非法售賣、倒賣參觀門票，損害遊客權益。個別商家剪輯發布「江蘇無錫陽山水蜜桃斷崖式跌價、大量滯銷、爛大街」謠言視頻，再藉機兜售假冒的陽山水蜜桃，博人眼球惡意營銷，擾亂市場秩序。所謂「峨眉山人猴大戰，遊客墜崖，猴王被當場擊斃」景區安全事件一度傳得沸沸揚揚，相關視頻以驚悚情節博取關注，畫面實際是用AI合成拼接製作。 中央網信辦近日開展「清朗·整治『自媒體』發布不實信息」專項行動，重點整治惡意蹭炒誤導公眾、多種手段歪曲事實、不做標註以假亂真、專業領域信息不實等問題。一段時間以來，網信部門會同相關部門依法處置假冒仿冒新聞媒體、政府機構、企事業單位帳號3008個，形成有力震懾；公安機關依法嚴厲查處造謠傳謠違法行為，上述傳播虛假「警情通報」以及「院士預測廣東將發生8級以上大地震」「海南規定電動自行車充電不能過夜」「重慶大暴雨致15人死亡、4人失蹤」等造謠傳謠者均已被公安機關依法予以嚴厲處罰。
免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
魅影看b站直播
「活动」首次登录送新手大礼包
- 软件大小: 987.68MB
- 最后更新: 2025-11-12 13:24
- 最新版本: v19.5.14.14
- 文件格式: apk
- 应用分类:ios-Android 红桃直播
- 使用语言: 中文
- : 需要联网
- 系统要求: 7.83以上
客服热线：137-2856-1293
64521
21
23475
94
2025-11-12 13:24
98576
29
2025-11-12 13:24
39826
61
2025-11-12 13:24
37642
52
2025-11-12 13:24
21849
95
2025-11-12 13:24
52847
48
2025-11-12 13:24
46731
91
2025-11-12 13:24
21937
39
2025-11-12 13:24
16498
31
2025-11-12 13:24
93517
59
34
73
78
58471
