當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
閱讀提示 用人單位有權了解勞動者與勞動合同直接相關的基本情況,但是,開展背景調查應確保流程標準、渠道合規,遵循私權侵入最小化、必要性、非歧視原則。 「因為背調結果顯示『黃燈』,我們無法進行下一步了。」 不久前,應聘某食品公司的羅女士,突然接到該公司HR發來的這則不予錄用通知。經過反覆溝通,羅女士才得知自己被背調公司標為「黃燈」的原因——「有過訴訟記錄」「曾經是被告」,羅女士告訴《工人日報》記者。 近年來,背調越來越頻繁地出現在招聘流程中,在有的背調中出現了訴訟記錄、婚戀情況、職場「緋聞」等信息。多位受訪專家呼籲,用人單位開展背調須遵循私權侵入最小化、必要性、非歧視原則,同時明確法律邊界與公德邊界,保護求職者個人隱私,保障勞動者合法權益。 因有訴訟記錄,背調「亮黃燈」 「接到背調結果時人是懵的,想了很久都沒想到我什麼時候成過被告。」羅女士告訴記者,她後來推斷出唯一可能的訴訟記錄,「2018年,我們小區的業主跟物業有過糾紛。當時物業公司起訴了很多業主,估計我也是其中之一。」 後來,羅女士查閱案件公開信息發現,該案中,自己的確被列入了被告名單。最後,羅女士放棄了入職該食品公司的機會。 記者了解到,一些背調公司受用人單位委託對求職者開展背調,並在背調報告中標註「綠燈、藍燈、黃燈、紅燈」,以此代表求職者的「風險」由小至大。在上海市金山區人民法院近日審結的一起勞動糾紛案中,求職者張先生也因有訴訟記錄被用人單位拒絕錄用。 2024年4月,張先生接到一家軟體開發公司的錄用函。在與原公司辦理離職交接手續後,張先生在軟體開發公司旁租房、租車位,積極為入職做準備。 讓張先生未曾料到的是,當月,該軟體開發公司突然聯繫他,表明公司需要背調結果為「綠燈」或「藍燈」的候選人,而張先生的背調結果是「黃燈」,不符合其錄用標準。 後來,張先生從背調公司處得知,自己拿到「黃燈」評價的原因是其存在訴訟記錄。對此,張先生提出異議稱,訴訟記錄是其曾因被騙取錢財而發起的維權訴訟,且自己是原告。此後,背調公司將張先生的背調結果改為「藍燈」,但該公司仍以原理由拒絕錄用。 「誠信是勞資關係的基石,訴訟記錄本身並非拒絕錄用的正當理由。」對於該案,上海市金山區人民法院法官楊鋒分析認為,訴訟作為法律賦予公民的基本權利,不僅是解決糾紛的司法途徑,更是維護社會公平正義的重要機制。 「勞動者若因行使訴訟權利而被拒絕錄用,等於變相剝奪了勞動者維護權益的法律救濟途徑,使得勞動者在就業與維權之間進退兩難。」楊鋒說。 最終,法院經審理認為,軟體開發公司的上述行為違背誠信原則。綜合考慮張先生支出的房租等費用,並結合後續張先生入職的工資報酬酌定的失業賠償,判處該公司向張先生賠償1.32萬元。 背調信息應與勞動合同直接相關 用人單位開展背調有何依據和意義?北京中首律師事務所主任胡勝國表示,依據勞動合同法等法律法規,用人單位有權了解勞動者與勞動合同直接相關的基本情況,勞動者應當如實說明,「其目的主要是降低用工風險,保障用人單位利益」。 在背調程序方面,北京澤盈律師事務所律師林屾提出,開展背調的相關主體應遵循6大程序,分別為籤署授權、確定範圍、多源驗證、結果反饋、加密存檔、到期銷毀,以此確保流程標準、渠道合規。 記者梳理公開案例發現,司法實踐中,一些用人單位與勞動者因背調提供的個人信息範圍、真實性、客觀性等產生爭議。 因前同事的一句「生活作風存在問題」評價被寫入背調報告,求職者王先生入職新單位後每月工資減少約5000元。該案訴至北京市豐臺區人民法院後,法院認為,案涉背調公司在未確認王先生前同事所述內容是否屬實的情況下,直接給其標註「黃燈」,並將該信息寫進背調報告,導致其名譽受損、社會評價降低。最終,法院判決背調公司停止侵權,向王先生賠禮道歉、恢復名譽,並賠償精神損害撫慰金。 「背調不能侵犯個人隱私權,須遵循私權侵入最小化原則。」胡勝國指出,相關主體應通過個人授權和法律規制兩個程序保障權利侵入最小化,即沒有勞動者授權不得調查,即使獲得授權也應遵守民法典和個人信息保護法等規定。 在首都經濟貿易大學勞動經濟學院教授範圍看來,用人單位開展背調還須遵循必要性原則、非歧視原則。「必要性原則是指基於招聘必要進行背調,搜集、調查的信息也是基於招聘崗位的需要,且與勞動合同直接相關。此外,用人單位不得利用搜集的信息對勞動者作出歧視性的僱傭決策。」他說。 明確背調法律邊界與公德邊界 對於用人單位開展背調的邊界,林屾提出,應考量兩個標準下的邊界定義,即「法律邊界」與「公德邊界」。 林屾進一步分析稱,在「法律邊界」方面,可依據個人信息保護法確立的「最小必要原則」這一導向原則。一方面,「最小」指的是信息範圍,即法律僅允許開放最小限度的、與公共生活相關的、可能與他人和服務對象有必要關聯的個人信息,「所有的商業調查行為,均須在這個範圍內開展」。另一方面,「必要」是指信息相對必要,對調查者的權限做出限制。 對於「公德邊界」,在林屾看來,用人單位和背調機構在開展背調時應最大程度地保護被調查者的社會性利益。 範圍建議,勞動行政部門應明確背調具體規範,包括調查前提、調查獲取信息的範圍、調查獲取信息的引用等。此外,對於濫用背調等違法行為,應該依法追究其法律責任。「對於用人單位濫用背調、侵害求職者勞動就業權的,應該對求職者的權益予以保障,如認定用人單位違法拒絕錄用的締約過失責任等。」他說。 「可以利用區塊鏈存證、算法歧視治理等方式強化監管技術的應用。」林屾舉例稱,比如應強制授權書、調查過程上鏈固化,供勞動監管部門實時查驗,同時要求用人單位公開AI背調模型邏輯,防止關於年齡、性別等的隱性歧視。 此外,林屾提出,對於不同用途的背調行為可採取的手段、可提供給需方的信息,可以實施精細化的分類、分級管理。與此同時,確保勞動者擁有信息刪除權。通過立法明確勞動者離職後可要求相關主體刪除背調數據,用人單位亦需設立自動清理機制。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
56798
23
2025-10-27 06:13
18923
34
2025-10-27 06:13
45937
17
2025-10-27 06:13
58941
82
2025-10-27 06:13
43578
57
2025-10-27 06:13
95731
62
2025-10-27 06:13
12489
15
2025-10-27 06:13
24751
98
2025-10-27 06:13
54918
81
2025-10-27 06:13
53974
31
2025-10-27 06:13
83126
94
2025-10-27 06:13
32657
37
2025-10-27 06:13
98153
18
2025-10-27 06:13
26975
25
2025-10-27 06:13
25896
18
2025-10-27 06:13
36724
96
2025-10-27 06:13
25976
14
2025-10-27 06:13
23514
95
2025-10-27 06:13
43986
67
2025-10-27 06:13
25641
53
2025-10-27 06:13
43789
58
2025-10-27 06:13
61497
12
2025-10-27 06:13
97631
32
2025-10-27 06:13
81642
17
2025-10-27 06:13
94351
72
2025-10-27 06:13
76821
13
2025-10-27 06:13
65421
32
2025-10-27 06:13
89145
15
2025-10-27 06:13
45186
32
2025-10-27 06:13
23468
15
2025-10-27 06:13
95347
18
2025-10-27 06:13
38945
83
2025-10-27 06:13
85764
51
2025-10-27 06:13
53987
49
2025-10-27 06:13
26839
31
2025-10-27 06:13
57482
79
2025-10-27 06:13
72345
91
2025-10-27 06:13
38471
63
2025-10-27 06:13
18546
18
2025-10-27 06:13
36479
23
2025-10-27 06:13
24357
47
2025-10-27 06:13
62754
43
2025-10-27 06:13
58672
74
2025-10-27 06:13
23589
36
2025-10-27 06:13
35127
86
2025-10-27 06:13
51463
25
2025-10-27 06:13
32914
18
2025-10-27 06:13
18975
49
2025-10-27 06:13
82591
85
2025-10-27 06:13
98436
16
2025-10-27 06:13
37625
81
2025-10-27 06:13
| 蜜桃app | 趣爱直播 |
| 九球直播 | |
| 伊对免费下载 | 橘子直播 |
| 成人免费直播 | |
| 成人免费直播 | 色花堂直播 |
| 九球直播 | |
| tvn直播 | 咪咕直播 |
| 尖叫之夜免费直播 | |
| 凤凰网直播 | 桃花app |
| 小白兔直播 | |
| 月夜直播在线观看 | 月神直播 |
| 月夜直播在线观看 | |
| 夜月直播www成人 | 百丽直播 |
| 茄子直播 | |
| 嫦娥直播 | 妖精直播 |
| 桃花app | |
| 月夜直播 | 春雨app直播免费看 |
| 桃子直播 | |
| 花间直播 | 桃花app |
| 秀色直播app下载安装app | |