調查顯示日本9月將有逾1400種食品漲價
2025-12-06 00:49 2,986次浏览最近，新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後，有網友說「被嚇到了」，還有評價說「像恐怖片」。這是為什麼呢？原來，很多網友沒有想到，AI換臉、換聲能那麼「真」：短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家，女兒撒嬌說航班延誤又掉了一部手機，央求母親轉帳應急。就在母親用網銀轉帳時，門鈴響起，母親以為沒帶鑰匙的父親回家，暫停轉帳去開門。誰知，門外站著女兒。此時，視頻電話裡的「女兒」還在一口一個「媽，你是世界上最好的媽」。 反詐視頻中，真人與AI變臉「面對面」（圖源：新華網視頻截屏）。所以，宣傳片的主題是告訴網友，AI可以模擬人臉和人聲，視頻裡看到和聽到的都不一定是真實的，要警惕新型詐騙電話。不少網友一邊評價「太嚇人」，一邊詢問：AI技術真的進化到可以如此逼真的「換臉換聲」了嗎？答案是肯定的。只要3步，「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾，已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉：第一步，對著演示屏幕的攝像頭，根據提示上下左右轉頭，錄入真人信息；第二步，選擇兩張想要的新臉照片；第三步，演示屏幕顯示，這名技術人員已經擁有了兩張全新的「臉」，新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言，壓根看不出顯示屏幕上的「人」是AI生成的。 左：真人信息錄入；中：選擇要變的「臉」；右：變臉完成（作者攝）。技術人員表示，AI換聲也很方便，很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源，軟體很快就能模擬目標聲音，實現以假亂真的效果。所以，千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展，換臉、變聲已經不再困難。而且，有不法分子已經用換臉、換聲等騙取錢財。前不久，湖北警方就披露了一起「變聲」詐騙案件：被害人劉女士接到「孫子」電話說，不當心傷害到別的孩子，「私了」要2萬元錢，怕被母親責罵，「請奶奶救救我，不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音，決定湊錢幫孫子。接著，孫子說有人來找劉女士拿錢，在交接錢款時，劉女士又聽到了電話裡「孫子」的聲音，確認無誤後，把錢款給了對方。過了幾天，劉女士遇到孫子問起這件事，才發現上當受騙，然後報警。警方經過調查，抓獲了犯罪嫌疑人，並根據被害人提供的線索分析認為，犯罪嫌疑人可能是通過多次撥打座機電話，逐步收集了她孫子的聲紋信息，基於它們用AI技術造假，實施詐騙。識破AI換臉和變聲，這些訣竅有用那麼，如何預防AI換臉、變聲詐騙呢？最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題，當事人要先想辦法求證對方是本人還是AI造假。比如，可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時，AI造假極可能露餡。同時，個人應注意保護隱私信息。高清的面部信息、聲紋信息等，都屬於隱私信息，它們都是被模仿的基礎。所以，在社交平臺上曬視頻、曬照片、曬聲音等行為，其實存在一定的被模仿風險。此外，通訊硬體、軟體等服務供應方，則要有「用魔法打敗魔法」的防範思路。技術人員表示，在生活中，不法分子不僅用AI換臉、變聲詐騙，還會用換臉、變聲「撞庫」，盜取他人錢財。比如，不法分子獲得目標對象的臉部圖像後，試圖通過「人臉識別」的方式，登錄目標對象的各種帳戶，盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大，所以需要從源頭加以識別、攔截。此時，AI也可以成為幫手：AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算，得出鑑定結果。 用AI識別AI造假（作者攝）。「因為AI捕捉和比對的精細度遠遠超過人眼，所以能識別人眼發現不了的造假視頻。」技術人員表示，如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術，那麼能極大限度地防範AI造假。
當AI越來越普及，有人卻動起了歪心思。 最近，「僅退款AI圖」的相關詞條登上熱搜。起因是，有電商平臺商家在社交媒體上反映，有人利用AI生成商品瑕疵圖片，以此申請退款。而另一邊，也有部分商家用AI美化甚至虛構商品圖。 「AI不該給不誠信行為插上翅膀。」讀者們對此展開熱議。 買家申請退款的圖片 AI痕跡明顯，有的還留著水印 「居然拿AI圖來說產品有問題，真的是太離譜了！」 作為電商平臺商家，李先生有些憤怒。他告訴本報記者，一位同行在電商平臺主要銷售電池等產品，上個月接到了一條投訴消息。「顧客說買到的電池漏液了，要求退款。引起懷疑的是對方發來的圖片，一看就很假，大概率就是AI生成的。」 「同行發給我看的時候，我都震驚了，還是第一次聽說有用AI生成圖片來退款的。」李先生直言，這是用AI將完好的產品改成破損的圖片，藉此向商家索要賠償。 李先生所說的情況並非個例。 在社交平臺，一名電商商家發布視頻稱，前不久，有顧客以商品質量問題要求「僅退款」。同意退款後，他讓顧客將問題產品丟棄銷毀，並拍下一段視頻。「發來的視頻最後，垃圾桶邊突然多『長』出一隻手，很明顯就是AI生成的，簡直又可笑又可氣。」 視頻收到了超1萬條點讚，評論區還引來不少吐槽，還有部分商家稱近期也有過類似遭遇。 「顧客發給我一張商品瑕疵圖，說收到就這樣了。」一名商家發出一張衣物破損和沾有汙漬的圖片，而圖片右下角卻有處「AI生成」的水印。 還有網店的客服說，有顧客發來水杯的破損圖，詢問「裂開了怎麼辦」，客服讓對方換個角度拍一張，卻收到了一張截然不同的照片，「裂紋都變了」。當客服指出「這是AI生成的圖片」，顧客才承認：「好吧，杯子沒啥壞的地方。」 本報記者發現，用AI偽造證據薅羊毛的情況，在生鮮、水果類電商商家中也有出現。 記者在電商平臺隨機找了幾家水果網店，其中，有的客服直言，曾遇到過用AI圖來退款的情況。 「有遇到過，但這種情況不多。」一名水果網店的客服說，有極個別的顧客買了榴槤後，會用AI生成榴槤腐爛的照片，要求退款。「我們會讓錄視頻，跟快遞單合拍錄一個視頻，一般來說可以杜絕用AI的行為。」 商家用AI製造商品效果圖 有的過度精緻，簡直是幻象 與買家濫用AI相對的，是部分商家利用AI製造商品幻象。 記者以「奶油桃」為關鍵詞進行搜索，可以看到有店鋪曬出的商品圖「AI味」較重，有的是桃子外表非常光滑飽滿，沒有一點紋理，果肉也過度精緻，還有不同店鋪用的均為完全相同的圖片。 今年4月，淘寶曾出臺新規治理AI假圖。據其規定，商品圖片應以商品實拍圖作為核心的效果體現，修飾行為應當適度，避免失真。嚴禁利用AI等技術合成方式，呈現顯著失真的與實際不符的商品信息效果圖。這也是電商平臺首次針對AI假圖出臺規定和相應約束措施。 事實上，多部門已經對AI技術濫用和生成內容進行整治和規範。 3月7日，國家網際網路信息辦公室等四部門聯合發布《人工智慧生成合成內容標識辦法》，對人工智慧生成合成內容涉及的文本、圖片、音頻、視頻、虛擬場景等信息加以規範，規定相關內容需添加標識，辦法將於2025年9月1日起施行。 此外，今年4月以來，中央網信辦部署開展「清朗·整治AI技術濫用」專項行動，打擊借AI技術生成發布虛假信息等。據新華社消息，第一階段累計處置違規小程序、應用程式、智能體等AI產品3500餘款，清理違法違規信息96萬餘條，處置帳號3700餘個。 長期專注處理電商消費糾紛和職業打假索賠案件的塗攀躍律師告訴記者，當前AI技術日益普及，使用AI工具的門檻也越來越低，這使得用AI造假的成本大大降低，因此催生了AI製圖惡意退款以及生成虛假商品圖片等情況，這些行為無疑衝擊了電商生態的信任基石。 新聞+ 有法律界人士呼籲 監管還需及時跟上 實際上，由AI製圖引發的亂象，已觸及法律紅線。 「部分買家用AI生成假圖假視頻進行退款，這是最近才開始出現的現象。」塗攀躍表示，此行為不僅破壞了平臺規則，也涉嫌違法。「通過虛構事實、偽造證據騙取的退款，商家有權要求返還並賠償損失。新的《治安管理處罰法》第五十八條規定，詐騙公私財物，無論金額大小，最高可處15日拘留並罰款。」 中銀律師事務所高級合伙人張君律師說，通過AI虛構商品破損、發黴等瑕疵騙取退款，本質是虛構事實獲取不當利益，違背《中華人民共和國民法典》誠實信用原則。 「此類行為通過虛假信息獲取退款，符合『沒有合法依據取得利益而致他人損失』的不當得利構成要件，商家有權依法追討。」他說，此外，該行為還違反《網絡購買商品七日無理由退貨暫行辦法》，該制度明確排除虛假信息退貨情形，不屬於合法「無理由退貨」範疇。 張君分析，現象背後涉及AI技術濫用與規則挑戰的問題。「AI降低了造假門檻，導致部分消費者濫用『無理由退貨』制度，暴露出技術進步與現有監管規則的適配缺口。」 他認為，多方應當合力應對，消費者需堅守法律底線，誠信維權；電商平臺應升級技術審核，識別AI生成的虛假內容；商家可通過法律途徑追償損失；監管部門需完善規則，平衡「消保」與反欺詐需求，應對AI帶來的新型法律挑戰。 塗攀躍也認為，平臺應當肩負起責任，要快速響應，積極完善規則，提高算法和技術甄別能力，比如建立疑似AI造假的商家反饋通道，對偽造證據的用戶進行限制，並可利用大數據匯總建立黑名單制度，對於情節嚴重，破壞平臺規則和交易秩序的可以報警。從平臺層面規範AI造假索賠等現象，有助於電商行業回歸良性競爭，釋放消費活力，促進市場健康發展。
免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
看b站a8直播
「活动」首次登录送新手大礼包
- 软件大小: 765.54MB
- 最后更新: 2025-12-06 00:49
- 最新版本: v16.18.12.17
- 文件格式: apk
- 应用分类:ios-Android 柚子直播
- 使用语言: 中文
- : 需要联网
- 系统要求: 3.18以上
客服热线：139-2546-4372
26395
86279
23541
31
2025-12-06 00:49
38645
26
2025-12-06 00:49
26493
27
2025-12-06 00:49
56724
31
2025-12-06 00:49
57369
61
2025-12-06 00:49
38765
38
2025-12-06 00:49
68735
41
2025-12-06 00:49
98126
64
2025-12-06 00:49
27938
84
2025-12-06 00:49
65
83
54876
53
17
93
34825
92
27
71
15628
46387