天津8月14日電(記者 孫玲玲)記者13日從南開大學獲悉,近日,南開大學計算機學院媒體計算實驗室取得最新研究成果,不僅從評估的角度揭示了現有AI檢測方法的性能不足,並創新性地提出了「直接差異學習」(Direct Discrepancy Learning,DDL)優化策略,教會AI用「火眼金睛」辨別人機不同,實現AI檢測性能的巨大突破。相關成果論文已被計算機多媒體領域國際頂級會議ACM MM2025(ACM International Conference on Multimedia)接收。 圖為南開大學研究團隊提出的DetectAnyLLM檢測框架以及MIRAGE基準數據集亮點全析。(南開大學 供圖) 近日,OpenAI發布新一代人工智慧模型GPT-5,再次引發全球關注。隨著DeepSeek、ChatGPT、通義千問、豆包等AIGC大模型逐漸從「新奇玩具」變成學習、工作中不可或缺的「生產力工具」,其伴生問題也日益凸顯:AI經常會「一本正經地胡說八道」,生成看似合理的虛假信息,造成「AI幻覺」;依賴AI工具代寫作業甚至畢業論文,極大衝擊著學術誠信和規範;論文AI率檢測系統有待完善,論文被誤判的問題時有發生……如何精準識別AI生成內容,成為亟待解決的熱點問題。 據了解,目前AI生成內容檢測主要有兩種路線,一種是「基於訓練的檢測方法」,使用特定數據訓練一個專用的分類模型;另一種是「零樣本檢測方法」,直接使用一個預訓練的語言模型並設計某種分類標準進行分類。 圖為AI生成內容檢測示意圖。(南開大學 供圖) 多項研究表明,現有檢測方法在應對複雜的現實場景時常顯不足。此前也曾有權威媒體報導,《荷塘月色》《流浪地球》等經典作品被某常用論文AI率檢測系統檢出高AI率。 為何現有的AI檢測工具會「誤判」?論文第一作者、南開大學計算機學院計算機科學卓越班2023級本科生付嘉晨解釋道:「如果把AI文本檢測比作一場考試,檢測器的訓練數據等同於日常練習題,現有檢測方法是機械刷題、死記硬背答題的固定套路,難以學會答題邏輯,一旦遇到全新難題,準確率就會顯著下降。」 「要想實現通用檢測,理論上需收集所有大模型的數據進行訓練,但在大模型迭代飛速的今天幾乎不可能。」付嘉晨說,讓檢測器真正學會舉一反三,即提升檢測器的泛化性能,是提升AI文本檢測性能的關鍵。 為此,研究團隊提出了DDL方法另闢蹊徑,通過直接優化模型預測的文本條件概率差異與人為設定的目標值之間的差距,幫助模型學習AI文本檢測的內在知識,可以精準捕捉人機文本間的深層語義差異,從而大幅提升檢測器的泛化能力與魯棒性。 「使用DDL訓練得到的檢測器如同有了『火眼金睛』,即便只『學習』過DeepSeek-R1的文本,也能精準識別像GPT-5這樣最新大模型生成的內容。」付嘉晨說。 團隊還提出了一個全面的測試基準數據集MIRAGE,使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進的開源大模型(如Qwen等),從AI生成、潤色、重寫三個角度構造了接近十萬條人類-AI文本對。 「MIRAGE是目前唯一聚焦於對商用大語言模型檢測的基準數據集。直觀地說,之前的基準數據集是由少而且能力簡單的大模型命題出卷,而MIRAGE是17個能力強大的大模型聯合命題,形成一套高難度、又有代表性的檢測試卷。」論文通訊作者、南開大學計算機學院副教授郭春樂說。 在MIRAGE的測試結果顯示,現有檢測器的準確率從在簡單數據集上的90%驟降至約60%;而使用DDL訓練的檢測器仍保持85%以上的準確率。與史丹福大學提出的DetectGPT相比,性能相對提升71.62%;與馬裡蘭大學、卡內基梅隆大學等共同提出的Binoculars方法相比,性能相對提升68.03%。 「AIGC發展日新月異,我們將持續迭代升級評估基準和技術,致力於實現更快、更準、更低成本的AI生成文本檢測,以AI之力,讓每一篇成果更出彩。」研究團隊負責人、南開大學計算機學院教授李重儀說。(完)
隨著AI技術的進步,「換臉變聲」已經非常便捷。正因為此,公眾千萬不要相信「有視頻就有真相」。當視頻通話時涉及轉帳等話題,務必先求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。同時,要注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
41692
68
2025-11-27 02:07
19874
45
2025-11-27 02:07
78964
97
2025-11-27 02:07
93514
38
2025-11-27 02:07
69873
71
2025-11-27 02:07
97856
21
2025-11-27 02:07
29578
89
2025-11-27 02:07
52819
69
2025-11-27 02:07
83521
76
2025-11-27 02:07
85967
76
2025-11-27 02:07
46372
61
2025-11-27 02:07
84367
48
2025-11-27 02:07
41859
26
2025-11-27 02:07
54687
46
2025-11-27 02:07
21638
41
2025-11-27 02:07
61957
96
2025-11-27 02:07
32567
41
2025-11-27 02:07
73968
18
2025-11-27 02:07
23419
83
2025-11-27 02:07
29618
28
2025-11-27 02:07
16527
95
2025-11-27 02:07
92563
16
2025-11-27 02:07
34968
43
2025-11-27 02:07
25869
57
2025-11-27 02:07
29471
59
2025-11-27 02:07
42396
73
2025-11-27 02:07
16892
28
2025-11-27 02:07
32174
93
2025-11-27 02:07
85712
46
2025-11-27 02:07
24396
13
2025-11-27 02:07
79642
14
2025-11-27 02:07
48965
51
2025-11-27 02:07
19564
28
2025-11-27 02:07
89435
65
2025-11-27 02:07
32781
19
2025-11-27 02:07
91652
59
2025-11-27 02:07
56978
25
2025-11-27 02:07
24987
15
2025-11-27 02:07
46758
47
2025-11-27 02:07
46793
51
2025-11-27 02:07
23569
49
2025-11-27 02:07
29375
71
2025-11-27 02:07
37195
56
2025-11-27 02:07
15374
84
2025-11-27 02:07
25136
57
2025-11-27 02:07
56328
27
2025-11-27 02:07
57861
47
2025-11-27 02:07
53128
84
2025-11-27 02:07
32476
76
2025-11-27 02:07
81465
82
2025-11-27 02:07
14972
14
2025-11-27 02:07
| 抖音成人版 | 抓饭直播 |
| 比心直播 | |
| 尖叫之夜免费直播 | 小猫直播 |
| 花儿直播 | |
| 小草莓直播 | 伊人app |
| 魅影直播 | |
| 五楼直播 | 橘子直播 |
| 心跳直播 | |
| 橙色直播 | 9i安装下载 |
| 花儿直播 | |
| 花间直播 | 午夜直播 |
| 海棠直播 | |
| 抖音成人版 | 免费真人视频网站直播下载 |
| 蜜糖直播 | |
| 牡丹直播 | 秀色直播app下载安装app |
| 青草直播 | |
| 成人直播app推荐免费 | 97播播 |
| 樱桃直播 | |
| 花瓣直播 | 秀色直播 |
| 绿茶直播 | |