自2023年起,被外界譽為「人工智慧教父」的傑弗裡·辛頓每年都會在公開場合發出關於AI的警告。 那一年,他提醒人們,AI的發展將帶來越來越大的風險。 2024年,他聲稱,AI將操控人類。 2025年,他在上海舉辦的世界人工智慧大會上,將人類與AI的關係形容為「把小老虎當寵物」——當幼虎長大後,很可能傷人。 近日,2025世界機器人大會在北京亦莊舉行,各類機器人颳起運動旋風。圖/記者 賈天勇 攝 如今,在AI帶來的蓬勃機遇面前,越來越多的人並非害怕技術本身,而是擔心自己無法掌握方向盤。 人工智慧的發展正以難以預測的速度推進,而治理機制和國際共識仍然滯後。 面對這場技術變革,中國正在給出自己的方案——不僅考慮如何發展,更著眼於如何在發展中確保安全、在競爭中尋求合作。 其一是保證人工智慧健康有序發展。 「不發展是最大的不安全。」幾周前的中國網際網路大會上,清華大學智能法治研究院院長申衛星的這句話,引起了業內共鳴。 他認為,當前在人工智慧領域,不能因為治理或立法,扼殺掉產業發展的機會。「但人工智慧也確實必須保證健康有序發展,這個底線是應該明確的。」 業內普遍認為,人工智慧領域的治理,應在設定明確底線的前提下,為發展留出充足的空間。而鼓勵創新應該作為人工智慧治理的第一原則。 近期召開的國務院常務會議明確指出,當前人工智慧技術加速迭代演進,要深入實施「人工智慧+」行動,大力推進人工智慧規模化商業化應用,推動人工智慧在經濟社會發展各領域加快普及、深度融合,形成以創新帶應用、以應用促創新的良性循環。 其二是加快形成多元協同治理格局。 治理的目標不僅是防範風險,更要讓技術在可控範圍內釋放最大價值。國務院常務會議提出,要提升安全能力水平,加快形成動態敏捷、多元協同的人工智慧治理格局。 中國社會科學院法學研究所網絡與信息法研究室副主任周輝對三裡河表示,人工智慧技術屬於顛覆性技術,在治理過程中,需要將一致性評估、合規性審查等引入人工智慧監管機制。同時,考慮到人工智慧發展速度不斷加快,應適應性地構建敏捷治理機制。 此外,由於人工智慧技術在全球各領域都會產生深遠影響,其發展和應用帶來的風險與挑戰往往是跨越國界的,治理更需國際合作。對此,中國是倡導者也是積極實踐者。 中國工程院院士鄔賀銓在2025網際網路安全大會上指出,數字空間是人類共同的新家園,人工智慧與數字安全的挑戰是全球性的,單打獨鬥無法應對。 復旦大學中國研究院副研究員劉典認為,中國應摒棄個別國家的「小院高牆」政策,通過「一帶一路」等多雙邊框架,推動AI技術務實合作。 中國社會科學院法學研究所教授姚佳表示,打造一個全方位、多層次、匯聚廣泛共識,具有包容性、平等性和多元性的人工智慧治理框架,應是各國未來合作的重要方向。 其三是讓技術解決技術的挑戰。 面對人工智慧帶來的新挑戰,傳統、被動、碎片化的安全防護已力不從心,亟須變革。 鄔賀銓曾多次表示,要創新升級數字安全防護體系,構建AI驅動的主動免疫。 2025世界人工智慧大會期間,辛頓呼籲人類探索通用AI訓練方法,使人工智慧向善。 上海人工智慧實驗室主任周伯文指出,在面對長期風險,特別是管理可能超越人類智能的智能體時,要轉向「內生安全」的新思路,即從「讓人工智慧變得安全」(Make AI Safe)邁向「打造安全的人工智慧」(Make Safe AI)。前者是後置性的安全補丁,缺乏敏捷性和韌性;後者則強調安全的內生性和原生性。 人工智慧的未來,並不只是關於算力的競賽。更重要的是,誰能在技術創新與規則之間找到平衡,誰就有可能贏得真正的主動。 中國正在給出的答案,是一條兼顧發展、治理與技術安全的道路。 (「三裡河」工作室)
最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
74329
96
2025-10-25 11:41
29873
92
2025-10-25 11:41
54768
23
2025-10-25 11:41
36259
74
2025-10-25 11:41
49756
32
2025-10-25 11:41
15426
92
2025-10-25 11:41
12389
94
2025-10-25 11:41
95276
26
2025-10-25 11:41
79346
84
2025-10-25 11:41
38694
63
2025-10-25 11:41
26534
13
2025-10-25 11:41
58317
75
2025-10-25 11:41
38165
29
2025-10-25 11:41
18435
37
2025-10-25 11:41
25173
56
2025-10-25 11:41
21469
59
2025-10-25 11:41
75183
89
2025-10-25 11:41
67219
61
2025-10-25 11:41
61293
81
2025-10-25 11:41
74192
71
2025-10-25 11:41
72395
72
2025-10-25 11:41
39681
32
2025-10-25 11:41
93562
29
2025-10-25 11:41
63519
65
2025-10-25 11:41
63541
54
2025-10-25 11:41
93248
56
2025-10-25 11:41
85792
69
2025-10-25 11:41
29635
45
2025-10-25 11:41
63412
69
2025-10-25 11:41
79365
46
2025-10-25 11:41
59172
21
2025-10-25 11:41
67132
56
2025-10-25 11:41
13674
28
2025-10-25 11:41
42815
36
2025-10-25 11:41
64319
72
2025-10-25 11:41
51362
59
2025-10-25 11:41
19473
53
2025-10-25 11:41
84961
12
2025-10-25 11:41
85372
79
2025-10-25 11:41
54368
53
2025-10-25 11:41
84639
71
2025-10-25 11:41
49215
68
2025-10-25 11:41
85123
39
2025-10-25 11:41
67913
57
2025-10-25 11:41
29746
74
2025-10-25 11:41
43527
72
2025-10-25 11:41
78632
81
2025-10-25 11:41
64138
34
2025-10-25 11:41
68751
32
2025-10-25 11:41
91648
76
2025-10-25 11:41
32781
18
2025-10-25 11:41
46281
45
2025-10-25 11:41
| 私密直播全婐app | 月夜直播 |
| 春雨直播全婐app免费 | |
| 迷笛直播 | 绿茵直播 |
| 免费直播平台 | |
| 夜月视频直播 | 么么直播 |
| 凤凰网直播 | |
| 深夜直播 | 趣播 |
| 桃花直播 | |
| 蜘蛛直播 | 韩国直播 |
| 看b站a8直播 | |
| 黄播 | 魅影app免费下载安装 |
| 西瓜直播 | |
| 花瓣直播 | 绿茵直播 |
| 秀色直播app下载安装app | |
| 妲己直播 | 柠檬直播 |
| 私密直播全婐app | |
| 祼女直播app | 仙凡直播 |
| 深夜大秀直播app | |
| 小蝌蚪app | 苹果直播 |
| 青稞直播 | |