當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
北京8月11日電 (記者 夏賓)2025開放計算技術大會近日在北京舉行,大會聚焦在MoE(混合專家)大模型與AI智能體的技術發展趨勢下,如何以開放計算更好促進縱向擴展性能(Scale up)與橫向擴展效率(Scale out)的協同發展。 當前,模型算法開源、算力系統開放,已經成為AI時代一個主流趨勢,開源開放的全球化協作平臺正發揮越來越重要的作用,既能以系統化思維,通過提升單系統性能,滿足萬億參數大模型發展的需求;又能應對日益擴張的數據中心規模,通過全球產業鏈協作解決未來GW級AI數據中心面臨的系統性工程挑戰。 2025開放計算技術大會由開放計算社區OCP及開放標準組織OCTC(中國電子工業標準化技術協會開放計算標準工作委員會)聯合主辦,來自中國移動、字節跳動、阿里雲、三星、浪潮信息、清華大學、立訊技術等超千位知名學者、技術專家、應用開發者及廠商代表參與大會。 開源大模型正深刻重塑全球AI產業格局和發展路徑,與之伴生的是,公共雲平臺和模塊化AI基礎設施的普及,為開源模型的規模化落地和應用創新提供了至關重要的開放算力基礎。這種開源模型與開放算力的結合,會有效驅動海量長尾應用爆發,進一步加速AI普惠的實現。 OCP基金會高級總監Michael Schill表示,隨著AI日益成為社區成員關注的核心場景,OCP的工作重心正轉向AI主導,所有核心工作圍繞著AI開放系統(Open Systems for AI)戰略計劃展開,包括數據中心物理基礎設施、數據中心IT基礎設施和系統管理三個重點領域,並且發布了《可擴展基礎設施的藍圖》,這是AI開放系統戰略計劃當中的重要工作成果。 OCTC秘書長陳海認為,產業協同創新要從應用出發、從用戶思維出發,堅持標準引領產業發展,制定更切實落地的規範標準,推動和加速數據中心各領域的技術創新與成果普惠,讓更多的組織和個人從中獲益。 例如,面向多元計算資源組合和多應用場景的伺服器算力算效評估基準,就是通過系統評估伺服器整機的綜合算力與能效表現,為行業提供科學、可信的算力算效評估體系,為用戶伺服器架構選型和優化提供標準範式。 毋庸置疑,開放計算的興起與日益壯大,使得數據中心產業鏈的協同效應更緊密、融合創新能力更強,這一點對於飛速迭代的AI產業至關重要。 目前,MoE大模型的參數量仍在保持高速增長且迭代迅速,對單系統的算力密度與互聯速率提出極致要求,帶動了計算架構的變革。 OCTC輪值主席、中國移動通信有限公司研究院副院長段曉東指出,MoE大模型持續推高大算力,仍然是今天的時代主題,產業將會很快邁入以超節點這種網絡和算力、軟體和硬體全面協同優化的一個時代。 阿里雲基礎設施異構硬體和系統資深總監盧曉偉表示,超大規模MoE帶來了AI基礎設施的算力、互聯、能耗瓶頸,以及可靠性和穩定性的挑戰,需要為AI重構算力系統,Scale Up超節點架構將成為核心發展路徑。 三星電子副總裁、先行開發團隊負責人張實完表示,未來,超節點架構將會採用GPU發起式直連內存,通過GPU友好型介質與存儲,有效減少內存瓶頸,為大模型訓練推理提供強力支持。 字節跳動伺服器架構師高曉軍表示,當產業鏈各方以開放心態共建標準、共享技術、共拓場景,多樣性算力將不再是分散的「孤島」,而是互聯互通的「大陸」。 浪潮信息副總經理趙帥強調,開放計算社區的核心目標就是利用生態力量打破性能瓶頸,推動業務創新發展,這是一種系統化思維與應用價值導向。超節點架構本質上也是系統化思維的產物,它不是某一個點的突破,而是在現有技術、生態和成本約束下,從系統層面去打破晶片本身的性能邊界,最大化用戶價值。 作為社區的一員,浪潮信息後續將向社區成員開放自研的超節點架構設計以及PD分離框架,推動開放超節點架構的發展。 事實上,GW級AI數據中心對算力生態帶來的重要變革,已經推動了跨社區合作的進程加快。目前,OCP正在籌備成立「GW級開放智算中心OCP中國社區小組」,結合中國在能源、算力基礎設施與供應鏈方面的需求與優勢,推動AI開放系統戰略計劃在中國的落地。 同時,OCP也在同OCTC積極合作,探討將OCP領先的AI基礎設施技術架構、參考方案、前沿研究成果等在中國市場落地,在中國建立GW級AI數據中心的全球性標杆。(完)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
97134
64
2026-02-09 12:55
51627
72
2026-02-09 12:55
95748
97
2026-02-09 12:55
61957
95
2026-02-09 12:55
59687
61
2026-02-09 12:55
26134
37
2026-02-09 12:55
25197
29
2026-02-09 12:55
31685
85
2026-02-09 12:55
31698
91
2026-02-09 12:55
61793
89
2026-02-09 12:55
82149
69
2026-02-09 12:55
16384
15
2026-02-09 12:55
23198
74
2026-02-09 12:55
95416
86
2026-02-09 12:55
68427
17
2026-02-09 12:55
45278
43
2026-02-09 12:55
95218
92
2026-02-09 12:55
48576
89
2026-02-09 12:55
32146
58
2026-02-09 12:55
92163
75
2026-02-09 12:55
83517
19
2026-02-09 12:55
49532
13
2026-02-09 12:55
28193
75
2026-02-09 12:55
61479
21
2026-02-09 12:55
75139
23
2026-02-09 12:55
76832
35
2026-02-09 12:55
97458
72
2026-02-09 12:55
21364
73
2026-02-09 12:55
81932
12
2026-02-09 12:55
49672
89
2026-02-09 12:55
41329
39
2026-02-09 12:55
63827
85
2026-02-09 12:55
56732
17
2026-02-09 12:55
91257
83
2026-02-09 12:55
82176
98
2026-02-09 12:55
64398
16
2026-02-09 12:55
47136
28
2026-02-09 12:55
35716
14
2026-02-09 12:55
34652
54
2026-02-09 12:55
68459
42
2026-02-09 12:55
26384
23
2026-02-09 12:55
32915
74
2026-02-09 12:55
68241
86
2026-02-09 12:55
51439
15
2026-02-09 12:55
81697
51
2026-02-09 12:55
62753
36
2026-02-09 12:55
53821
76
2026-02-09 12:55
75136
75
2026-02-09 12:55
34719
35
2026-02-09 12:55
21853
43
2026-02-09 12:55
38195
54
2026-02-09 12:55
56237
17
2026-02-09 12:55
| 魅影直播 | 比心直播 |
| 仙凡直播 | |
| 夜月视频直播 | 杏仁直播 |
| 金桔直播 | |
| 免费直播平台 | 春雨直播安装包 |
| 红杏直播 | |
| 春雨直播 | 花椒直播 |
| 免费直播行情网站 | |
| 抖音成人版 | 小草莓直播 |
| 少女6夜半直播nba | |
| 蝶恋直播 | 金桔直播 |
| 仙凡直播 | |
| 深夜大秀直播app | 桃花app |
| sky直播 | |
| 红杏直播 | 仙凡直播 |
| 巧克力直播 | |
| 快猫 | 妖精直播 |
| 么么直播 | |
| 红楼直播 | 小猫咪视频 |
| 少妇免费直播 | |