當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
中國新聞周刊記者:張馨予 發於2025.8.11總第1199期《中國新聞周刊》雜誌 採訪進行沒多久,我就意識到,這是一個有關「如何做出合理決策」的故事。 在這個故事中,儘管幾條運河是明面上的主角,但隱形的主角其實是推動修建運河的幾個省份和研究運河問題的一眾專家。幾條運河該不該修?該怎麼修?各方站在不同立場,各有主張,都在盡力提出依據,以求獲得更大支持。 有研究者極為振奮地提出「運河時代」的說法,我完全能夠理解他為什麼會這樣想。 2024年1月底,我第一次做平陸運河的選題。當時,我換乘了幾種不同的交通工具,在結束最後一段顛簸的泥路後,到達位於廣西欽州靈山縣的平陸運河馬道樞紐。那是一個大霧天,即便已經抵達現場,仍然很難看清工程的全貌,工程師開車帶我下到60多米深的基坑,我才看清十幾臺正在作業的機械。工程師指著我們的腳下說,馬道樞紐建成後,將是世界上規模最大的內河省水船閘,目前這裡正在建船閘閘室的邊墩。 在這片原本寂靜的山野中,即將誕生一個巨大的超級工程。在建設者的設想中,它將改寫廣西乃至整個西南地區的發展格局。這很難不讓參與其中的人感到激動。 而其他還未修建、仍在進行前期研究工作的運河,也承載著不同地方的「騰飛」理想。試想一下,在中國的不同省份,多個超級工程陸續開建,它們可能會徹底改寫一些不臨海省份的地理、經濟、人口格局,以線帶面,以各種方式推動區域經濟發展。 不過,隨著採訪不斷深入,我開始看到宏大敘事的更多細節。 今年4月,我再次來到廣西,沒有去平陸運河的施工一線,而是去了平陸運河沿線城市南寧和欽州的產業園區。對於廣西乃至西南地區而言,如果想要讓運河真正改寫區域發展格局,需要更多有前景的產業因運河聚集。然而,這一過程並不非常順利。 在南寧,雖然有比亞迪和太陽紙業這兩個百億項目已經直接或間接因為平陸運河而來,但百億項目也僅有這兩個,是當地政府反覆提及的「獨苗」。在欽州,相關部門始終沒有給出一份具有說服力的平陸運河經濟帶建設規劃,當地也沒有招引到能帶動工業發展的大項目。短期來看,平陸運河似乎只會穿過欽州,卻很難真正給城市帶來足夠的效益。顯然,平陸運河帶來的發展機遇不會隨著運河通航自然出現,而是要在各方的研究、引導下創造,這本身就不是一件容易的事。 至於其他幾條仍停留在規劃中的運河,它們是否能夠承載各方的厚望,發揮設想中的效益,這是一個更難回答的問題。爭論很多,兩方觀點的聲量都很大,沒有哪一種聲音蓋過了另一種。 兩位受訪者的觀點讓我記憶深刻。交通運輸部水運科學研究院研究員謝燮說,對相關工程研究機構來說,拿到一個項目,就是要論證其有必要、工程上可行。但他覺得,「需要建立不可行論證的機制,讓反對者進行數據翔實的不可行論證,讓反對的聲量更大,這樣就能有效避免巨量的無效投資,繼續加碼本已超高的地方債務」。 香港大學地理系原主任王緝憲則說,各種工程的可行性論證是不公開的,基本是認同這個工程的人來論證,那麼一定會論證出工程可行,「有時候,需要我這種不管不顧的人出來說幾句」。 在聽完兩方的聲音後,我並沒有堅定地站在哪一方,只是更加確信了這個故事的主題——這確實是一個有關「如何做出合理決策」的故事,而決策的做出不應該是容易的。 《中國新聞周刊》2025年第29期 聲明:刊用《中國新聞周刊》稿件務經書面授權
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
27586
13
2025-11-07 13:43
79285
62
2025-11-07 13:43
84693
48
2025-11-07 13:43
17345
43
2025-11-07 13:43
75396
81
2025-11-07 13:43
75648
83
2025-11-07 13:43
26973
62
2025-11-07 13:43
28745
15
2025-11-07 13:43
35172
46
2025-11-07 13:43
71285
57
2025-11-07 13:43
19623
61
2025-11-07 13:43
38291
52
2025-11-07 13:43
48975
98
2025-11-07 13:43
42189
35
2025-11-07 13:43
41327
91
2025-11-07 13:43
97524
56
2025-11-07 13:43
63129
74
2025-11-07 13:43
53914
73
2025-11-07 13:43
15482
84
2025-11-07 13:43
48973
72
2025-11-07 13:43
29653
29
2025-11-07 13:43
69274
58
2025-11-07 13:43
62719
93
2025-11-07 13:43
63872
18
2025-11-07 13:43
58634
26
2025-11-07 13:43
51894
37
2025-11-07 13:43
59714
29
2025-11-07 13:43
59124
35
2025-11-07 13:43
46259
93
2025-11-07 13:43
53168
72
2025-11-07 13:43
47561
71
2025-11-07 13:43
96142
93
2025-11-07 13:43
63985
14
2025-11-07 13:43
74591
79
2025-11-07 13:43
13925
41
2025-11-07 13:43
24568
82
2025-11-07 13:43
27195
17
2025-11-07 13:43
31746
94
2025-11-07 13:43
62587
84
2025-11-07 13:43
72563
78
2025-11-07 13:43
89137
24
2025-11-07 13:43
87962
75
2025-11-07 13:43
28196
92
2025-11-07 13:43
46729
75
2025-11-07 13:43
42619
42
2025-11-07 13:43
97861
58
2025-11-07 13:43
64358
51
2025-11-07 13:43
73528
45
2025-11-07 13:43
85642
57
2025-11-07 13:43
94167
96
2025-11-07 13:43
19538
42
2025-11-07 13:43
| 百丽直播 | 蜘蛛直播 |
| 小k直播姬 | |
| 桃鹿直播 | 桃鹿直播 |
| 暖暖直播 | |
| 小狐狸直播 | 花间直播 |
| 免费播放片色情a片 | |
| 苹果直播 | 魅影直播视频 |
| 秀色直播app下载 | |
| 迷笛直播 | 迷笛直播 |
| 免费直播平台 | |
| 月夜直播在线观看 | 小蝌蚪app |
| 奇秀直播 | |
| 么么直播 | 9i安装下载 |
| 520直播 | |
| 蜜疯直播 | 五楼直播 |
| 杏爱直播 | |
| 黄播 | 直播黄台app凤蝶 |
| 绿茶直播 | |
| 仙凡直播 | 杏爱直播 |
| 妲己直播 | |