當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
多地推出暑期託管服務,記者赴一線探訪—— 護健康成長 過安心假期(深聚焦) 早上8點半,北京朝陽區垂楊柳中心小學楊柳校區門口,陸續有家長送來小朋友。學生付千卉與媽媽揮手道別,被老師接進校園。「學校的託管班,解決了暑假帶娃難的問題。」家長劉女士說。 每到假期,「孩子無處去、家長看護難」是許多家庭面臨的情況。7月,教育部辦公廳印發通知,提出做好暑期託管,豐富假期生活,要求各地教育行政部門和學校會同街道(社區)和共青團、婦聯、工會等部門組織各類託管服務,有效解決學生暑期「看護難」問題。 暑期託管效果如何?家長、老師有何期待?記者赴多地探訪。 託給誰 早上在群裡發通知,不到中午託管班就報滿了 為何參加託管?目送女兒入校,劉女士打開話匣子:「我和愛人是雙職工,工作日沒法在家帶孩子。老人雖能幫忙,但精力有限,連續帶2個月,身體吃不消。」 暑假前正犯愁,聽說學校有託管服務,劉女士很快報了名,「孩子很期待,因為這裡有小朋友可以一起玩。」 隨付千卉來到校園,記者看到,第一個環節是晨練,孩子們伴著音樂鍛鍊身體。半小時後是自主學習時間,付千卉讀起從家帶來的課外書,老師不時提醒注意坐姿。11點半,午餐到了,藕盒、木須肉、香蕉……「好吃!」付千卉連連點頭。 除了學校託管,不少街道、社區也開設暑期託管班,推出家門口的官方帶娃服務。 早上8點,安徽合肥廬陽區,在魯園社區翡麗城小區快遞站點工作的秦瓊枝把孩子送到社區暑託班,趕著去幫丈夫送快遞。 「想過把孩子送到興趣班,但有經濟壓力。也想過自己照顧,但收入就會減少。好在有公益託管!」秦瓊枝說,「現在,孩子白天到社區,省錢又放心,我也能安心工作。」 魯園社區黨委書記祝天婷介紹,由於場地有限,為保證託管質量,社區託管班一期招收20個孩子,「早上在群裡發通知,往往不到中午就報滿了。我們正努力嘗試多開幾期,照顧到轄區內更多孩子。」 此外,一些單位、園區也探索託管服務,帶娃上班成為部分家長的選擇。 「單位的愛心託管班解決了後顧之憂。」早上上班,國網湖北超高壓公司職工時偉君把兒子帶到職工活動中心,下班再一起回家。公司工會從球館聘請了教練,還在職工中招募志願者,開展桌球、羽毛球等項目。 共青團湖北省委書記劉治田介紹,今年暑假,全省3800餘個愛心託管班陸續開班,較去年增加300餘個,新點位主要設在園區、商圈、樓宇等,突出對雙職工子女、新興領域青年子女和留守兒童、經濟困難家庭兒童的服務覆蓋。 怎麼管 開放圖書館、運動場,開展文體活動、作業輔導等 根據教育部相關規定,託管服務應以看護為主,確保學生得到充分休息;學校要開放教室、圖書館、運動場館等各類資源設施,合理組織一些集體遊戲活動、文體活動、閱讀指導、綜合實踐、興趣拓展、作業輔導等服務。 孩子在暑託班能做什麼?老師除了「看娃」,可以開展哪些活動? 「預備,開始!」首都師範大學附屬花園小學,小籃球場上,體育老師李廣成吹響哨子、喊起口令,帶孩子們玩投沙包等。 幾個遊戲結束,身體微微出汗,接下來是自由鍛鍊環節:孩子們三五成群,領取喜歡的運動器材,打羽毛球、踢毽子、跳繩…… 「暑期託管,也要幫助孩子們健康成長、全面發展。為保證鍛鍊,體育老師每天值班,上下午各安排1小時體育活動。」學校黨總支副書記張金玉帶著記者參觀校園:閱覽室書籍自由取閱,用餐後要垃圾分類,離校前打掃衛生……點點滴滴,都是育人細節。 豐富的活動,離不開多方參與。在上海普陀區,團區委和教育部門共同組織,在10個街道、鎮開設27個愛心暑託班。「緩解看護難的同時,還希望搭建多維度的實踐育人平臺,引導學生度過安全、快樂、有意義的假期。」團普陀區委書記呂歡說。 「長徵鎮愛心暑託班『智趣AI樂園』活動中,孩子們與歷史人物智能體對話;長壽路街道愛心暑託班,市場監管所工作人員講解食品、藥品等相關知識……」呂歡介紹,暑託班順利開展,背後是多部門聯動:區財政支撐整體運營,教育部門協調保障辦班場地,公安、衛健等條線提供保障,街道、鎮協調招生等前期籌備工作。附近高校、科研院所、社會組織也積極參與,不斷豐富暑託班的服務內容。 「託管要體現假期特色,在安全看護基礎上,提供區別於學期內學科教學的項目,如文體活動、社會實踐等,滿足學生多元化需求。」首都師範大學教育學院教授薛海平說。 難在哪 人員、場地、內容需更多保障 在一所承辦暑期託管的小學採訪時,記者看到,值班幹部的手機消息不停:鬧鈴響了,提醒統計第二天用餐人數;微信群裡,家長留言希望提前接娃;開班不到一周,文件夾裡已有20多個文檔,包括教師安排表等…… 不少教師坦言,辦好暑期託管班並不容易:教師志願參與,需合理安排時間;學生來自不同學校、年級,管理和針對性開展活動有難度。引入更多社會力量參與,是許多基層教育工作者的期待。對此,一些地方積極探索。 引入志願者,人員保障更到位。 唐調吟誦、非遺手工……上海師範大學人文學院30多名學生在徐匯區漕河涇街道愛心暑託班擔任志願者,結合專業所長開展活動。學院黨委副書記戚靜介紹,同學們可以鍛鍊教學和班級管理能力,還能收穫志願服務時長和一定補貼。 「一次,孩子們拉著我的手問:『老師,什麼時候能再見到您?』那一刻,我很感動。」研究生邵敏怡是第四次擔任志願者,她將所學知識用於實踐,與孩子們結下深厚情誼。 在湖北沙洋縣官壋鎮高橋社區,中南財經政法大學志願者開拓了農村娃的視野。「這幾年都有大學生來支教,他們很有責任心。今年有55個孩子報名參加託管,每天幾乎沒有人缺席。」高橋社區黨總支書記張春城說。 用好社會資源,暑期生活更多彩。 合肥包河區青少年活動中心,「湖畔少年團」志願服務夏令營的禮儀實訓環節,小營員們抬頭挺胸,練習講解歷史故事。一旁,合肥包公園景區講解員胡梅不時提出建議。 「家門口有免費的夏令營,我想讓孩子體驗體驗。」家長汪麗說。據悉,包河區青少年活動中心開展非遺、科技創新等主題夏令營,可容納超1000名中小學生。 合肥市教育局基礎教育處副處長郎秋豔介紹,當地多部門挖掘社會育人資源,推出「為您帶娃」暑期服務,共1143個項目,包括託管看護、公益夏令營、場館參觀、賽事觀摩等類別。下一步將繼續整合優質資源,提升暑期託管服務的質量。 「應鼓勵多方主體參與,提高供需匹配度,形成層次多、覆蓋廣的暑期託管服務體系。」上海師範大學哲學與法政學院副教授周立民建議,利用博物館、文化館、青少年活動中心等資源,引導大學生志願者、社會專業人士等參與,提高家校社協同育人效果。 本報記者 吳 月 李俊傑 吳 君 巨雲鵬 《人民日報》(2025年08月10日 第 05 版)
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
心动直播 | 蝶恋直播 |
韩国直播 |
月夜直播 | 比心直播 |
国外b站刺激战场直播app |
山猫直播 | 花蝴蝶app直播 |
蝴蝶直播 |
极速直播 | 花儿直播 |
国外b站刺激战场直播app |
魅影直播 | 柠檬直播 |
大鱼直播 |
榴莲视频 | 红桃直播 |
柚子直播 |
love直播 | 花椒直播 |
花蝴蝶app直播 |
成人免费直播 | 糖果直播 |
蜜糖直播 |
凤凰网直播 | 魅影app免费下载安装 |
柚子直播 |
荔枝网直播 | 魅影直播 |
月神直播 |