最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
北京8月13日電(記者 左雨晴)8月13日,市場監管總局召開醫療領域廣告監管專題新聞發布會,介紹2025年醫療領域廣告監管執法成效。2025年上半年,全國市場監管部門共查辦醫療廣告違法案件1666件,罰沒金額1278萬元。 市場監管總局廣告監管司市場稽查專員谷保中表示,近年來,市場監管總局持續加大對醫療廣告活動的監管力度,重拳打擊各類「神醫」廣告,陸續制定相關執法指南,持續加強與相關部門的協同聯動和聯合執法,努力提升醫療廣告監管效能。 開展專項整治方面,持續保持對違法廣告的高壓嚴管態勢。 近年來,市場監管總局先後組織開展了醫美專項治理、民生領域廣告監管專項行動,今年還開展了廣告市場秩序集中整治,聚焦網際網路媒介和重點民生領域,持續加大對醫療、藥品、醫療器械、保健食品等領域的廣告監管執法力度。今年以來,市場監管總局集中曝光3批次30起違法廣告典型案例,涉及醫療美容、醫療器械等多個行業,形成有力震懾。 據介紹,2020年至今,上海市市場監管部門共查辦醫療廣告案件1123件,罰沒款2711萬餘元。上海醫療廣告監管依託市整治虛假違法廣告聯席會議工作框架,由上海市場監管局牽頭,聯合上海市衛健委等相關部門協同推進,近五年上海市主要媒體醫療廣告監測違法率逐年下降,從2020年的3.89%,下降到2024年的1.57%,降幅約60%,監管成效顯著。 完善監管規則方面,構建全方位多層次的監管體系。 隨著「網際網路+醫療」的快速發展,醫療廣告與醫療信息、醫療健康科普在表現形式上愈發接近;部分不法經營者假借「科普」的外衣變相發布醫療廣告,甚至虛構「名院」「名醫」吸引患者就醫等亂象時有發生,群眾反映比較強烈。為有力回應民生關切,市場監管總局在加大執法力度的同時,出臺了《醫療廣告監管工作指南》,又聯合國家衛生健康委、國家中醫藥管理局共同制定了《醫療廣告認定指南》。上述執法指南的出臺,進一步明確了醫療廣告與醫療信息公示、醫療健康科普的邊界;進一步細化了違法醫療廣告的認定原則,明確了查處違法醫療廣告過程中規範行使裁量權的有關要求。 例如,北京市市場監管部門出臺優化醫療廣告管理的5項先行先試措施,推行醫療廣告告知承諾、輕微違法行為容錯糾錯等措施,助力醫療和廣告行業健康有序發展。今年以來已累計處罰醫療廣告案件24件,曝光違法宣稱治癒率、誇大治療效果等多起醫療廣告典型案例。後續北京市市場監管部門將持續加大醫療廣告監督執法力度,依法嚴厲打擊涉及生命健康、製造容貌焦慮、虛假誇大等違法廣告行為。 強化部門協同方面,不斷增強跨部門綜合監管效能。 醫療廣告的監管,涉及醫療機構、醫務人員和廣告經營發布主體等多個方面,為做好監管銜接、實現標本兼治,市場監管總局加強與國家衛生健康委、國家中醫藥管理局等部門的貫通協同,在線索移送、會商研判、情況通報、聯動執法等方面完善協作機制,形成廣告監管與行業管理同向發力、相互配合的工作局面。2025年,對於國家中醫藥管理局通報的一批涉嫌醫療廣告違法線索,市場監管總局及時組織屬地市場監管部門依法核查處置。對於經查實發布違法醫療廣告的醫療機構和醫務人員,市場監管部門也將及時向衛生健康行政部門、中醫藥管理部門進行通報。 例如,四川省市場監管部門聯合相關部門制定了優化醫美機構登記管理服務、強化事中事後監管的17條措施,加快實現廣告審查數據線上推送、違法廣告線索共同研判、涉案違法機構聯合懲戒。近兩年來,四川省共監測醫美廣告5.95萬條次,處置線索491條次,立案查處醫療服務類違法廣告案件553件;針對醫美廣告向直播領域拓展,四川省市場監管局去年組織專項監測,統籌省市縣三級力量集中查處醫美機構24戶;成都市對醫美機構的相關舉報同比下降58%。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
67539
84
2026-03-17 08:09
48962
23
2026-03-17 08:09
76315
79
2026-03-17 08:09
56187
93
2026-03-17 08:09
48321
84
2026-03-17 08:09
82731
49
2026-03-17 08:09
53972
26
2026-03-17 08:09
85296
14
2026-03-17 08:09
79845
25
2026-03-17 08:09
57841
62
2026-03-17 08:09
53876
75
2026-03-17 08:09
46372
81
2026-03-17 08:09
15239
68
2026-03-17 08:09
14739
67
2026-03-17 08:09
62349
73
2026-03-17 08:09
63427
83
2026-03-17 08:09
49513
57
2026-03-17 08:09
18239
34
2026-03-17 08:09
58724
42
2026-03-17 08:09
78346
63
2026-03-17 08:09
47386
73
2026-03-17 08:09
35947
48
2026-03-17 08:09
94326
27
2026-03-17 08:09
41263
93
2026-03-17 08:09
51684
23
2026-03-17 08:09
87365
79
2026-03-17 08:09
51287
89
2026-03-17 08:09
85273
69
2026-03-17 08:09
78495
85
2026-03-17 08:09
94875
12
2026-03-17 08:09
47168
78
2026-03-17 08:09
18475
75
2026-03-17 08:09
41295
86
2026-03-17 08:09
69473
57
2026-03-17 08:09
62987
51
2026-03-17 08:09
89175
34
2026-03-17 08:09
16479
27
2026-03-17 08:09
83145
58
2026-03-17 08:09
76892
42
2026-03-17 08:09
42697
43
2026-03-17 08:09
25917
37
2026-03-17 08:09
21986
41
2026-03-17 08:09
95376
82
2026-03-17 08:09
39587
96
2026-03-17 08:09
65389
17
2026-03-17 08:09
45692
57
2026-03-17 08:09
96537
96
2026-03-17 08:09
68432
17
2026-03-17 08:09
12743
27
2026-03-17 08:09
91846
29
2026-03-17 08:09
69123
35
2026-03-17 08:09
24658
74
2026-03-17 08:09
54612
57
2026-03-17 08:09
| 嫦娥直播 | 伊对免费下载 |
| 零点直播 | |
| 奇秀直播 | 九球直播 |
| 比心直播 | |
| 趣播 | 9i安装下载 |
| 六月直播 | |
| 现场直播 | 免费直播平台 |
| 月神直播 | |
| 香蕉app免费下载 | 魅影5.3直播 |
| 春雨直播安装包 | |
| 香蕉app免费下载 | 秀色直播app下载 |
| 巧克力直播 | |
| 桃花app | 97播播 |
| 国外b站刺激战场直播app | |
| 橘子直播 | 香蕉app免费下载 |
| 九球直播 | |
| 桔子直播 | 西甲直播 |
| 伊人下载 | |
| 花瓣直播 | 免费直播行情网站 |
| 春雨app直播免费看 | |