天津8月14日電(記者 孫玲玲)記者13日從南開大學獲悉,近日,南開大學計算機學院媒體計算實驗室取得最新研究成果,不僅從評估的角度揭示了現有AI檢測方法的性能不足,並創新性地提出了「直接差異學習」(Direct Discrepancy Learning,DDL)優化策略,教會AI用「火眼金睛」辨別人機不同,實現AI檢測性能的巨大突破。相關成果論文已被計算機多媒體領域國際頂級會議ACM MM2025(ACM International Conference on Multimedia)接收。 圖為南開大學研究團隊提出的DetectAnyLLM檢測框架以及MIRAGE基準數據集亮點全析。(南開大學 供圖) 近日,OpenAI發布新一代人工智慧模型GPT-5,再次引發全球關注。隨著DeepSeek、ChatGPT、通義千問、豆包等AIGC大模型逐漸從「新奇玩具」變成學習、工作中不可或缺的「生產力工具」,其伴生問題也日益凸顯:AI經常會「一本正經地胡說八道」,生成看似合理的虛假信息,造成「AI幻覺」;依賴AI工具代寫作業甚至畢業論文,極大衝擊著學術誠信和規範;論文AI率檢測系統有待完善,論文被誤判的問題時有發生……如何精準識別AI生成內容,成為亟待解決的熱點問題。 據了解,目前AI生成內容檢測主要有兩種路線,一種是「基於訓練的檢測方法」,使用特定數據訓練一個專用的分類模型;另一種是「零樣本檢測方法」,直接使用一個預訓練的語言模型並設計某種分類標準進行分類。 圖為AI生成內容檢測示意圖。(南開大學 供圖) 多項研究表明,現有檢測方法在應對複雜的現實場景時常顯不足。此前也曾有權威媒體報導,《荷塘月色》《流浪地球》等經典作品被某常用論文AI率檢測系統檢出高AI率。 為何現有的AI檢測工具會「誤判」?論文第一作者、南開大學計算機學院計算機科學卓越班2023級本科生付嘉晨解釋道:「如果把AI文本檢測比作一場考試,檢測器的訓練數據等同於日常練習題,現有檢測方法是機械刷題、死記硬背答題的固定套路,難以學會答題邏輯,一旦遇到全新難題,準確率就會顯著下降。」 「要想實現通用檢測,理論上需收集所有大模型的數據進行訓練,但在大模型迭代飛速的今天幾乎不可能。」付嘉晨說,讓檢測器真正學會舉一反三,即提升檢測器的泛化性能,是提升AI文本檢測性能的關鍵。 為此,研究團隊提出了DDL方法另闢蹊徑,通過直接優化模型預測的文本條件概率差異與人為設定的目標值之間的差距,幫助模型學習AI文本檢測的內在知識,可以精準捕捉人機文本間的深層語義差異,從而大幅提升檢測器的泛化能力與魯棒性。 「使用DDL訓練得到的檢測器如同有了『火眼金睛』,即便只『學習』過DeepSeek-R1的文本,也能精準識別像GPT-5這樣最新大模型生成的內容。」付嘉晨說。 團隊還提出了一個全面的測試基準數據集MIRAGE,使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進的開源大模型(如Qwen等),從AI生成、潤色、重寫三個角度構造了接近十萬條人類-AI文本對。 「MIRAGE是目前唯一聚焦於對商用大語言模型檢測的基準數據集。直觀地說,之前的基準數據集是由少而且能力簡單的大模型命題出卷,而MIRAGE是17個能力強大的大模型聯合命題,形成一套高難度、又有代表性的檢測試卷。」論文通訊作者、南開大學計算機學院副教授郭春樂說。 在MIRAGE的測試結果顯示,現有檢測器的準確率從在簡單數據集上的90%驟降至約60%;而使用DDL訓練的檢測器仍保持85%以上的準確率。與史丹福大學提出的DetectGPT相比,性能相對提升71.62%;與馬裡蘭大學、卡內基梅隆大學等共同提出的Binoculars方法相比,性能相對提升68.03%。 「AIGC發展日新月異,我們將持續迭代升級評估基準和技術,致力於實現更快、更準、更低成本的AI生成文本檢測,以AI之力,讓每一篇成果更出彩。」研究團隊負責人、南開大學計算機學院教授李重儀說。(完)
閱讀提示 用人單位有權了解勞動者與勞動合同直接相關的基本情況,但是,開展背景調查應確保流程標準、渠道合規,遵循私權侵入最小化、必要性、非歧視原則。 「因為背調結果顯示『黃燈』,我們無法進行下一步了。」 不久前,應聘某食品公司的羅女士,突然接到該公司HR發來的這則不予錄用通知。經過反覆溝通,羅女士才得知自己被背調公司標為「黃燈」的原因——「有過訴訟記錄」「曾經是被告」,羅女士告訴《工人日報》記者。 近年來,背調越來越頻繁地出現在招聘流程中,在有的背調中出現了訴訟記錄、婚戀情況、職場「緋聞」等信息。多位受訪專家呼籲,用人單位開展背調須遵循私權侵入最小化、必要性、非歧視原則,同時明確法律邊界與公德邊界,保護求職者個人隱私,保障勞動者合法權益。 因有訴訟記錄,背調「亮黃燈」 「接到背調結果時人是懵的,想了很久都沒想到我什麼時候成過被告。」羅女士告訴記者,她後來推斷出唯一可能的訴訟記錄,「2018年,我們小區的業主跟物業有過糾紛。當時物業公司起訴了很多業主,估計我也是其中之一。」 後來,羅女士查閱案件公開信息發現,該案中,自己的確被列入了被告名單。最後,羅女士放棄了入職該食品公司的機會。 記者了解到,一些背調公司受用人單位委託對求職者開展背調,並在背調報告中標註「綠燈、藍燈、黃燈、紅燈」,以此代表求職者的「風險」由小至大。在上海市金山區人民法院近日審結的一起勞動糾紛案中,求職者張先生也因有訴訟記錄被用人單位拒絕錄用。 2024年4月,張先生接到一家軟體開發公司的錄用函。在與原公司辦理離職交接手續後,張先生在軟體開發公司旁租房、租車位,積極為入職做準備。 讓張先生未曾料到的是,當月,該軟體開發公司突然聯繫他,表明公司需要背調結果為「綠燈」或「藍燈」的候選人,而張先生的背調結果是「黃燈」,不符合其錄用標準。 後來,張先生從背調公司處得知,自己拿到「黃燈」評價的原因是其存在訴訟記錄。對此,張先生提出異議稱,訴訟記錄是其曾因被騙取錢財而發起的維權訴訟,且自己是原告。此後,背調公司將張先生的背調結果改為「藍燈」,但該公司仍以原理由拒絕錄用。 「誠信是勞資關係的基石,訴訟記錄本身並非拒絕錄用的正當理由。」對於該案,上海市金山區人民法院法官楊鋒分析認為,訴訟作為法律賦予公民的基本權利,不僅是解決糾紛的司法途徑,更是維護社會公平正義的重要機制。 「勞動者若因行使訴訟權利而被拒絕錄用,等於變相剝奪了勞動者維護權益的法律救濟途徑,使得勞動者在就業與維權之間進退兩難。」楊鋒說。 最終,法院經審理認為,軟體開發公司的上述行為違背誠信原則。綜合考慮張先生支出的房租等費用,並結合後續張先生入職的工資報酬酌定的失業賠償,判處該公司向張先生賠償1.32萬元。 背調信息應與勞動合同直接相關 用人單位開展背調有何依據和意義?北京中首律師事務所主任胡勝國表示,依據勞動合同法等法律法規,用人單位有權了解勞動者與勞動合同直接相關的基本情況,勞動者應當如實說明,「其目的主要是降低用工風險,保障用人單位利益」。 在背調程序方面,北京澤盈律師事務所律師林屾提出,開展背調的相關主體應遵循6大程序,分別為籤署授權、確定範圍、多源驗證、結果反饋、加密存檔、到期銷毀,以此確保流程標準、渠道合規。 記者梳理公開案例發現,司法實踐中,一些用人單位與勞動者因背調提供的個人信息範圍、真實性、客觀性等產生爭議。 因前同事的一句「生活作風存在問題」評價被寫入背調報告,求職者王先生入職新單位後每月工資減少約5000元。該案訴至北京市豐臺區人民法院後,法院認為,案涉背調公司在未確認王先生前同事所述內容是否屬實的情況下,直接給其標註「黃燈」,並將該信息寫進背調報告,導致其名譽受損、社會評價降低。最終,法院判決背調公司停止侵權,向王先生賠禮道歉、恢復名譽,並賠償精神損害撫慰金。 「背調不能侵犯個人隱私權,須遵循私權侵入最小化原則。」胡勝國指出,相關主體應通過個人授權和法律規制兩個程序保障權利侵入最小化,即沒有勞動者授權不得調查,即使獲得授權也應遵守民法典和個人信息保護法等規定。 在首都經濟貿易大學勞動經濟學院教授範圍看來,用人單位開展背調還須遵循必要性原則、非歧視原則。「必要性原則是指基於招聘必要進行背調,搜集、調查的信息也是基於招聘崗位的需要,且與勞動合同直接相關。此外,用人單位不得利用搜集的信息對勞動者作出歧視性的僱傭決策。」他說。 明確背調法律邊界與公德邊界 對於用人單位開展背調的邊界,林屾提出,應考量兩個標準下的邊界定義,即「法律邊界」與「公德邊界」。 林屾進一步分析稱,在「法律邊界」方面,可依據個人信息保護法確立的「最小必要原則」這一導向原則。一方面,「最小」指的是信息範圍,即法律僅允許開放最小限度的、與公共生活相關的、可能與他人和服務對象有必要關聯的個人信息,「所有的商業調查行為,均須在這個範圍內開展」。另一方面,「必要」是指信息相對必要,對調查者的權限做出限制。 對於「公德邊界」,在林屾看來,用人單位和背調機構在開展背調時應最大程度地保護被調查者的社會性利益。 範圍建議,勞動行政部門應明確背調具體規範,包括調查前提、調查獲取信息的範圍、調查獲取信息的引用等。此外,對於濫用背調等違法行為,應該依法追究其法律責任。「對於用人單位濫用背調、侵害求職者勞動就業權的,應該對求職者的權益予以保障,如認定用人單位違法拒絕錄用的締約過失責任等。」他說。 「可以利用區塊鏈存證、算法歧視治理等方式強化監管技術的應用。」林屾舉例稱,比如應強制授權書、調查過程上鏈固化,供勞動監管部門實時查驗,同時要求用人單位公開AI背調模型邏輯,防止關於年齡、性別等的隱性歧視。 此外,林屾提出,對於不同用途的背調行為可採取的手段、可提供給需方的信息,可以實施精細化的分類、分級管理。與此同時,確保勞動者擁有信息刪除權。通過立法明確勞動者離職後可要求相關主體刪除背調數據,用人單位亦需設立自動清理機制。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
58236
58
2025-12-18 17:00
73981
26
2025-12-18 17:00
93456
92
2025-12-18 17:00
73942
61
2025-12-18 17:00
57324
41
2025-12-18 17:00
87164
61
2025-12-18 17:00
86173
36
2025-12-18 17:00
94357
29
2025-12-18 17:00
35461
58
2025-12-18 17:00
85146
78
2025-12-18 17:00
62385
16
2025-12-18 17:00
47658
91
2025-12-18 17:00
57698
96
2025-12-18 17:00
53216
78
2025-12-18 17:00
97425
29
2025-12-18 17:00
83145
73
2025-12-18 17:00
89572
57
2025-12-18 17:00
21437
49
2025-12-18 17:00
61247
45
2025-12-18 17:00
49518
83
2025-12-18 17:00
43125
52
2025-12-18 17:00
46819
67
2025-12-18 17:00
74185
23
2025-12-18 17:00
92738
26
2025-12-18 17:00
57891
91
2025-12-18 17:00
67984
24
2025-12-18 17:00
28374
69
2025-12-18 17:00
27314
81
2025-12-18 17:00
96821
65
2025-12-18 17:00
12356
48
2025-12-18 17:00
94572
81
2025-12-18 17:00
26745
82
2025-12-18 17:00
53879
93
2025-12-18 17:00
47682
52
2025-12-18 17:00
24165
52
2025-12-18 17:00
93716
67
2025-12-18 17:00
25361
91
2025-12-18 17:00
21796
94
2025-12-18 17:00
98547
74
2025-12-18 17:00
58296
98
2025-12-18 17:00
75423
25
2025-12-18 17:00
79134
15
2025-12-18 17:00
59173
19
2025-12-18 17:00
63285
19
2025-12-18 17:00
43918
83
2025-12-18 17:00
84379
85
2025-12-18 17:00
43178
36
2025-12-18 17:00
52179
32
2025-12-18 17:00
52678
35
2025-12-18 17:00
56287
72
2025-12-18 17:00
51794
25
2025-12-18 17:00
| 樱花直播nba | 凤蝶直播 |
| 山猫直播 | |
| 月神直播 | 免费直播行情网站大全 |
| 名模直播 | |
| 春雨直播 | 魅影app下载免费版 |
| 97播播 | |
| 春雨app直播免费看 | 妖姬直播 |
| 伊对免费下载 | |
| 仙凡直播 | 成人免费直播 |
| 魅影app免费下载安装 | |
| 绿茵直播 | 心动直播 |
| 阴桃直播 | |
| 直播全婐app免费 | 香蕉app免费下载 |
| 凤蝶直播 | |
| 青柠直播 | 深夜大秀直播app |
| 蜜糖直播 | |
| 快猫 | 520直播 |
| 夜月直播www成人 | |
| 金莲直播 | 凤凰网直播 |
| 免费直播平台 | |