當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
當北人亦創國際會展中心內的機械臂完成一次精準抓取、格鬥表演的人形機器人完成一輪攻擊,機器人產業規模的曲線便又上揚一些。 一年前,世界機器人大會(WRC)的A、B展廳,也是「滿場」人形機器人,但能動的不多。一年後,摔倒已不是參展商擔心的bug,幾乎每一家都能說出自己已落地的場景,從「炫技」向「量產落地」的轉變不難捕捉。2025年,正成為機器人產業走向賽場的「交卷時刻」,上半年我國機器人產業營收同比增長27.8%。 一個微妙的信號同時出現,宇樹科技雙足人形機器人R1 3.99萬元起售,「人形機器人價格有望大幅下降」,宇樹科技創始人兼CEO王興興在WRC期間預測。當下,所有展臺都需要回答兩個問題:訂單能否跑贏技術?是否準備好迎接價格比拼? 營收額「跳級」 「去年我們全年營收才400多萬元,今年到現在為止已超過5500萬元,預計全年可以破億元。」雲幕智造總經理助理李大衛告訴北京商報記者。這家來自蘇州太倉的企業首次參加WRC,其皮膚人形機器人唐太宗、屈原、孔子等吸引了一波又一波觀眾互動。 「去年我們的營收基本都來自於工業場景,今年文旅場景的營收額佔比達60%。」李大衛說,文旅場景的產品就是那些有著人類皮膚質感的人形機器人。展臺上6款工業人形機器人是鋼鐵之軀,這類產品目前給公司帶來40%的營收。 從100%工業到工業文旅四六開,以雲幕智造的角度看,雙足人形機器人在工業場景的商業化落地,還處於非常局部崗位的應用示範狀態。 優必選、銀河通用等公司則直接把多種場景搬上展臺,其中優必選Walker S2人行機器人可以±162°靈活轉腰,能在0—1.8米全空間作業,做到靈活摸地、極限下蹲、遠距離抓取等動作。銀河通用的輪式人形機器人Galbot,除了展示在零售場景的看家本領,還在工業領域的汽車零件SPS分揀工作中「現場直播」,在多層堆疊且錯位的零件中,依靠視覺識別系統快速鎖定並抓取目標工件。 之所以強調工業,是因為近期曝光的機器人大單主要來自這個場景,如優必選中標覓億(上海)汽車科技有限公司9051.15萬元機器人設備採購項目,在此前,這家上市公司在工業場景的合作已多次曝光。 擎朗智能創始人兼CEO李通並不強調場景,他告訴北京商報記者,「不管是工業、服務還是醫療場景都可以,重要的是,在這個場景中是不是有一些相對簡單的崗位,是目前的技術能夠實現的」。 讓訂單跑在技術之上,這種務實的策略讓擎朗智能累計部署機器人產品超10萬臺。「今年(2025年)訂單增長挺快的,特別是海外市場,至少有50%的增長。」李通向北京商報記者透露。 「未來幾年,全行業人形機器人出貨量每年翻一番的節奏是可以保證的。」王興興也對行業做出了預測。 價格不是制約點 對宇樹科技新款雙足人形機器人R1價格的討論,同樣是WRC期間的焦點。 R1整機重量25千克,集成了語音和圖像多模態大模型,支持用戶進行二次開發與個性化定製,起售價3.99萬元。可以直觀對比的是,表演格鬥、會功夫的宇樹人形機器人G1價格9.9萬元起。 對於3.3萬元的起售價,王興興回應:「我們目前的降價其實是按型號劃分的,比如相對小一點的機器人可能就便宜一點,大的機器人稍微貴一些。不同產品系列裡都會有便宜的和貴的。我們希望給(大家)更好的價格,這樣有更多的人願意採購,也能更多地用起來。」 降價其實早有苗頭,3月優必選聯合北京人形機器人創新中心發布全尺寸科研教育人形機器人天工行者,售價29.9萬元。當時,這款產品主打的是「業內首款30萬元以下全尺寸科研教育人形機器人」,截至7月13日,天工行者在手訂單百臺,2025年預計交付超300臺。 雖然不同功能對應不同的價位,但外界想知道,宇樹科技R1降價,會不會讓行業進入價格戰。 「不會」,在與北京商報記者交流時,靈寶CASBOT創始人、董事長張正濤直截了當。在他看來,「首先,產品降價取決於產品定位,宇樹降價的那一款,屬於小型產品,本身成本就不高,降價是對供應鏈的利潤控制。其次,對於具備全操作能力的人形機器人,其產品能力、通用性和智能性才是根本,價格不是制約點,技術才是」。 雖然產品並未與宇樹科技、靈寶CASBOT直接對標,但處於行業上遊的靈心巧手聯合創始人張延柏也表達了類似的觀點,「宇樹的R1確實是現在人形市場非常低價的一個產品,宇樹能推出這樣的產品,是深厚的運動控制技術積累和規模效應帶來的。在靈巧手行業也不乏低價產品,但從整體的可用性上來看,價格戰應該不會愈演愈烈」。他同時補充,「整體行業價格的普惠化還是很明顯的,長期來看應該會逐步下降」。 等待規模化效應 李通用兩條曲線解釋成本下降後的未來,以海外市場為例,「發達國家勞動力成本高,能接受的價格也高,必然會形成一個剪刀差。整個機器人的成本不斷下降,勞動力成本不斷上升,最終實現一個拐點的時候,大規模落地就開始了」。 他還給出一個數據,擎朗智能的海外商業化採用僱傭制,租用一個機器人的價格是(當地)人力成本的1/3到1/2。 在和一家具有四足機器狗的具身智能創業公司相關人士交流時,對方向北京商報記者透露,自家消費級的產品不久後會推出優惠活動,價格在2萬元左右。 按照產品配置的雷射雷達、傳感器、電機、電池,「這些硬體加起來差不多就是這個價格」,該人士說,「等規模起來,硬體成本一定會下降」。 「技術創新是需要時間的」,WRC期間,多位從業者向北京商報記者強調,要保持長期主義。 機器人被譽為「製造業皇冠頂端的明珠」,具身智能更複雜,產業鏈分為「大腦」「本體」「小腦」三部分。 在屬於本身概念的硬體層面,張延柏這樣解釋長期主義的重要性和複雜性,「工程問題是影響量產非常關鍵的一環,好的靈巧手一定是一個六邊形戰士。需要小體積大力矩、自由度高、完全映射人類數據、多傳感器、支持各種數據採集、耐用性好、價格合適。解決完這樣的複雜問題之後,產品的競爭力和實際需求也是決定能否量產的關鍵因素,只有打開需求市場,才能夠有機會優化供給端的量產條件,實現規模化」。 按照李大衛的說法,當下制約人形機器人在工業場景規模化落地的最大問題是具身智能大腦,「目前工業操作實操數據集嚴重缺乏,導致工業操作底座大模型亟待突破,這是個行業問題,估計還要等待1—2年」。 作為一家聚焦多維觸覺感知的企業,帕西尼展臺上TORA-ONE機器人演示的精細操作能力,實際上是公司6月成立數據採集工廠後想要實現的具身智能未來,「高質量具身智能數據集將用於訓練具身智能模型,讓機器人泛化性得以飛躍性提升」,帕西尼相關人士向北京商報記者解釋。 巧合的是,作為京東展區的一部分,帕西尼TORA-ONE機器人的對面是人氣超高的宇樹機器人格鬥場,身後是「買機器人上京東」的交易平臺,技術與訂單在現實中交會。 北京商報記者 魏蔚/文
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
蜜糖直播 | 成人性做爰直播 |
love直播 |
国外b站刺激战场直播app | 飞速直播 |
小猫直播 |
春雨直播 | 心跳直播 |
趣播 |
小白兔直播 | 小狐狸直播 |
小草莓直播 |
青草直播 | 飞速直播 |
樱桃直播 |
蜜糖直播 | 夜魅直播 |
love直播 |
午夜直播 | 成人免费直播 |
69美女直播 |
桃花直播 | 小k直播姬 |
夜魅直播 |
五楼直播 | 浪花直播 |
深夜直播 |
六月直播 | 月夜直播 |
魅影直播间 |