最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
上海8月8日電 (記者 鄭瑩瑩)OpenAI最新發布其人工智慧模型GPT-5,引發業界關注。AGI(通用人工智慧)加速來了嗎?北京開放傳神科技有限公司(OpenCSG)創始人兼CEO陳冉8日就此話題接受記者採訪時表示,目前行業模型的能力還處於中早期,在通往AGI的方向上還需要大幅提升,而這其中有個關鍵要素是適配的原生數據不足。 中國首個大模型創新生態社區——模速空間地處上海徐匯區。北京開放傳神科技有限公司是首批入駐模速空間的企業之一。 陳冉解釋,網際網路時代,伴隨各種App的湧現,用戶交互方式發生顯著變化,由此帶來信息爆炸;而AI(人工智慧)時代,真正的新交互方式還沒到來,包括人與智能體、智能體與智能體之間的信息交互還沒達到一個成熟的階段,仍待發展,因此能「投餵」給模型的數據也還需積攢、沉澱。 北京智譜華章科技股份有限公司總裁王紹蘭此前在2025世界人工智慧大會上指出,從大模型到AGI,行業還有很長的路要走。「如果比照自動駕駛分級,把從大模型到AGI分成5級的話,我們可能只在第3級,這條路走了一半都不到。大模型的基礎模型部分還在快速地發展,我們還要持續去做,也願意投入更大的力量。」 在大模型發展加速期,大模型企業該向左走(繼續大量投入基礎模型研發)還是向右走(深入落地來構建商業閉環)?行業怎麼平衡基礎模型的投入以及應用落地的努力? 王紹蘭認為,除了基礎模型「底座」,企業也要持續推動大模型的商業化應用。「因為大模型就是拿來用的,如果大模型一直是純理論研究,不去做商業化落地,我們怎麼證明大模型真正能改變產業呢?我們其實不需要等到大模型真的引領生產力革命的那一天,因為大模型的能力在不斷地擴充、不斷地發展。」 上海稀宇科技有限公司(MiniMax)副總裁嚴奕駿認為,自研底層技術能為企業帶來更高的發展上限,而產品能讓用戶體驗到大模型能力,從而進一步提高AI滲透率。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
73526
76
2025-11-14 01:35
97482
92
2025-11-14 01:35
61752
52
2025-11-14 01:35
48375
95
2025-11-14 01:35
56398
17
2025-11-14 01:35
47158
53
2025-11-14 01:35
76498
61
2025-11-14 01:35
38916
85
2025-11-14 01:35
53417
39
2025-11-14 01:35
57821
82
2025-11-14 01:35
74856
74
2025-11-14 01:35
17584
27
2025-11-14 01:35
31854
36
2025-11-14 01:35
45681
56
2025-11-14 01:35
75849
19
2025-11-14 01:35
39678
17
2025-11-14 01:35
76894
62
2025-11-14 01:35
23156
58
2025-11-14 01:35
67291
25
2025-11-14 01:35
16895
81
2025-11-14 01:35
83459
31
2025-11-14 01:35
31826
94
2025-11-14 01:35
48567
16
2025-11-14 01:35
53798
76
2025-11-14 01:35
69518
46
2025-11-14 01:35
29631
63
2025-11-14 01:35
78963
31
2025-11-14 01:35
21963
74
2025-11-14 01:35
98647
42
2025-11-14 01:35
52198
54
2025-11-14 01:35
32486
46
2025-11-14 01:35
54381
82
2025-11-14 01:35
64795
64
2025-11-14 01:35
96781
32
2025-11-14 01:35
46327
72
2025-11-14 01:35
87926
68
2025-11-14 01:35
71436
79
2025-11-14 01:35
13852
14
2025-11-14 01:35
43578
65
2025-11-14 01:35
47518
14
2025-11-14 01:35
45296
12
2025-11-14 01:35
31647
86
2025-11-14 01:35
47298
59
2025-11-14 01:35
68514
58
2025-11-14 01:35
83541
91
2025-11-14 01:35
63852
98
2025-11-14 01:35
98213
65
2025-11-14 01:35
92753
62
2025-11-14 01:35
67915
61
2025-11-14 01:35
68497
42
2025-11-14 01:35
76139
25
2025-11-14 01:35
26597
15
2025-11-14 01:35
75639
15
2025-11-14 01:35
| 蜜桃视频 | 蜘蛛直播 |
| 贵妃直播 | |
| 小k直播姬 | 少妇免费直播 |
| 奇秀直播 | |
| 九球直播 | 曼城直播 |
| 私密直播全婐app | |
| 直播黄台app凤蝶 | 韩国直播 |
| 阴桃直播 | |
| 柠檬直播 | 樱桃直播 |
| 伊人直播 | |
| 奇秀直播 | 蜜桃app |
| 趣爱直播 | |
| 少女6夜半直播nba | 月夜直播app夜月 |
| 奇秀直播 | |
| 桃鹿直播 | 免费直播行情网站 |
| 魅影直播 | |
| 大鱼直播 | 魅影9.1直播 |
| 百丽直播 | |
| 杏爱直播 | 绿茶直播 |
| 美女直播app | |