當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
世界人形機器人運動會將於8月14日開幕,作為重要項目之一的足球賽預選賽已先一步開賽。來自國內高校的參賽隊GeoHBots在比賽中早早陷入了以少打多的局面。團隊成員向北京商報記者解釋稱,他們的機器人在比賽中吃到紅牌被罰出場,原因是算法不會識別對方的機器人而導致的對抗,被裁判視作背後惡意衝撞,「它只會看球、場地」。 據悉,參加3v3比賽的團隊每支有四個機器人可供使用,三名首發一名替補,少一人的局面無疑讓GeoHBots團隊非常被動。 在綠茵場上跌跌撞撞的金屬身影,實則是一場關乎產業未來的技術練兵——笨拙的動作調試、程序算法的優化、失敗案例的積累,都是人形機器人從實驗室走向商業化場景這一進化路徑上這樣那樣的微調。 技術的綜合考試 機器人足球賽從不是為了復刻人類球賽的精彩,而是給技術能力搭了個實戰考場。 加速進化機器人公司售後技術支持負責人呂明向北京商報記者拆解了這場考試的核心考點:「機器人的運控,就是運動能力、步態這些,下肢能走多快、用什麼樣的步態、有什麼樣的腳法,都是機器人能踢球的基礎;上半身則是感知,主要是視覺,能不能看得準,看得準才能踢得準;最後是決策,就是在什麼情況下用什麼樣的動作,怎麼樣去做接下來要做的動作。」 賽場邊各支隊伍的備賽細節,透出相似的技術打磨縮影:來自馬來西亞的Team Robotedge團隊向北京商報記者介紹,比賽開始前他們要反覆通過電腦調整機器人的靈敏度、運控參數,還要讓機器人持續識別、捕捉比賽用球——這是在針對性訓練運控與感知能力。GeoHBots也向記者透露,他們需要在賽前把自己的代碼、程序刷進去,其中包含視覺、動作、策略等細節,都是為實戰而做的準備。 在現場,你時常能看到一個人類隊員舉著一臺電腦跟著一臺人形機器人,二者通過一根長長的、有點像牽引繩的數據線相連,這正是他們在調試準備——機器人將數據畫面等傳到電腦,人類基於這些數據進行調優。當然,在比賽的時候,這些機器人都需要放開繩子,自主發揮。但考試並不一帆風順,呂明向北京商報記者進一步分析稱,如果機器人的視覺不行,那就看不清、定位不好、踢不準;如果決策不行,該用什麼動作卻做了錯誤判斷。這幾個因素一疊加,強隊跟弱隊的區別就很大了——有的機器人因視覺盲區對著空場地狂奔,有的因決策失誤放棄防守猛衝前場,最終被踢成大比分的慘敗。 但這些考砸了的時刻並非毫無價值——就像企業技術迭代的「錯題本」,每一次失誤都在為算法優化提供精準坐標。 為應用試金 或許有人疑惑,興師動眾讓這麼多人和機器人在賽場折騰,意義何在?答案藏在那些並不非常外顯的技術細節裡。 呂明指著一位在場上做著橫移動作的機器人向北京商報記者解釋:「你看他有那種橫移的,像螃蟹步,這就算是盤帶了。」這種賽場練就的移動步伐,未來可能就是家庭中服務機器人在客廳繞開茶几的靈活身法。 呂明還提到,這些機器人很多是一天要踢四場比賽,在劇烈、頻繁的碰撞下依然能正常運作,摔倒也能自己站起來——這種穩定、耐用,可自我調整的硬體性能,正是工業協作、家庭陪護等場景的核心需求。 前述機器人那種「只認球不認人」的識別局限,也可通過更複雜的算法解決,把環境感知數據練好,未來就能分清水杯、遙控器和毛巾,避免服務場景中的烏龍。 參賽生態還藏著產業進階的新生力量。Geo-HBots團隊向北京商報記者透露,他們賽前僅用不到兩個月準備,依託的正是廠商提供的開源基礎平臺;呂明也向記者表示,現在其實還很難談比賽質量,更多是讓大家上場激發熱情。人形機器人在國內剛起步,加速進化公司的機器人在交付參賽團隊時就自帶一套開源Demo算法供參賽者調試。「要讓學生通過比賽走完流程,對機器人有理解,再有興趣去研究,畢竟做運控、做感知、做策略,理論和實踐是很不一樣的。」 每次有進球發生,現場參賽隊成員總會爆發出不亞於自己踢比賽進球時的歡呼,看得出他們確實很高興,像是以一種主教練的身份——這種包容性強的參與生態,正在培育未來的開發者群體。 慢功夫裡的大未來 比賽當中,有些進攻輪次非常簡單粗暴——某隊的機器人在中場附近大力射門,然後球就徑直跨過半場,滾進對方球門。 但人形機器人產業的進化,不可能是一蹴而就的爆發,需要在包括賽場在內的試錯中沉澱慢功夫。 呂明向北京商報記者強調比賽數據的核心價值:「我們會持續做相關的解決方案,掌握的數據越來越多,機器人模型的學習能力、判斷能力也會變強。最終還是要推動人形機器人領域發展,比賽只是其中一種形式,也是為了驗證我們的硬體、軟體、算法能力,讓它以後能服務更多其他場景。」 這些在綠茵場上積累的硬控穩定性、感知精準度、決策合理性,正在編織一張技術網絡:硬體耐用性達標了,機器人才能走進真實場景;算法識別準了,才能理解人類需求;多模塊協同順了,商業化落地才有底氣。 或許十年後,當家庭機器人熟練地幫你遞水、工廠機器人精準搬運零件時,它們的運動神經和大腦邏輯,最早正是在這場笨拙的足球賽裡,被一群學生和工程師一點點打磨出來的。 眼前跌跌撞撞的機械身影,正在用成功或失敗的動作,攢下人形機器人產業的未來底氣。 北京商報記者 陶鳳 實習記者 王天逸
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
56497
26
2025-11-01 21:11
38571
76
2025-11-01 21:11
51469
16
2025-11-01 21:11
93746
29
2025-11-01 21:11
58473
36
2025-11-01 21:11
39576
21
2025-11-01 21:11
47316
76
2025-11-01 21:11
89175
48
2025-11-01 21:11
82159
31
2025-11-01 21:11
75498
96
2025-11-01 21:11
58713
45
2025-11-01 21:11
14352
96
2025-11-01 21:11
62819
86
2025-11-01 21:11
87645
71
2025-11-01 21:11
71362
95
2025-11-01 21:11
95213
51
2025-11-01 21:11
85314
89
2025-11-01 21:11
23768
98
2025-11-01 21:11
81345
13
2025-11-01 21:11
64279
23
2025-11-01 21:11
15428
47
2025-11-01 21:11
45123
95
2025-11-01 21:11
83541
73
2025-11-01 21:11
31452
15
2025-11-01 21:11
18562
75
2025-11-01 21:11
26943
72
2025-11-01 21:11
62758
96
2025-11-01 21:11
12498
17
2025-11-01 21:11
86412
84
2025-11-01 21:11
98752
78
2025-11-01 21:11
57623
82
2025-11-01 21:11
52196
37
2025-11-01 21:11
89514
96
2025-11-01 21:11
56134
85
2025-11-01 21:11
16392
98
2025-11-01 21:11
35798
43
2025-11-01 21:11
18679
65
2025-11-01 21:11
48752
31
2025-11-01 21:11
28973
75
2025-11-01 21:11
26879
26
2025-11-01 21:11
74593
25
2025-11-01 21:11
31652
92
2025-11-01 21:11
93618
15
2025-11-01 21:11
89124
76
2025-11-01 21:11
98513
64
2025-11-01 21:11
38215
34
2025-11-01 21:11
41753
43
2025-11-01 21:11
| 金桔直播 | 青柠直播 |
| 小猫直播 | |
| 百丽直播 | 秀色直播 |
| 夜月视频直播 | |
| 西甲直播 | 嗨球直播 |
| 小狐狸直播 | |
| 浪花直播 | 快猫 |
| 现场直播 | |
| 红桃直播 | 九球直播 |
| 蜜唇直播app | |
| 97播播 | 美女直播app |
| 仙凡直播 | |
| 伊人下载 | 魅影5.3直播 |
| 桃花app | |
| 绿茶直播 | 小蝌蚪app |
| 红桃直播 | |
| 小狐狸直播 | 仙凡直播 |
| 柠檬直播 | |
| 看b站a8直播 | 仙凡直播 |
| 桃花直播 | |