河北廊坊：高端製造企業走出去 「中國製造」受海外青睞
2025-11-16 11:06 1,417次浏览天津8月14日電(記者 孫玲玲)記者13日從南開大學獲悉，近日，南開大學計算機學院媒體計算實驗室取得最新研究成果，不僅從評估的角度揭示了現有AI檢測方法的性能不足，並創新性地提出了「直接差異學習」(Direct Discrepancy Learning，DDL)優化策略，教會AI用「火眼金睛」辨別人機不同，實現AI檢測性能的巨大突破。相關成果論文已被計算機多媒體領域國際頂級會議ACM MM2025(ACM International Conference on Multimedia)接收。 圖為南開大學研究團隊提出的DetectAnyLLM檢測框架以及MIRAGE基準數據集亮點全析。(南開大學 供圖) 近日，OpenAI發布新一代人工智慧模型GPT-5，再次引發全球關注。隨著DeepSeek、ChatGPT、通義千問、豆包等AIGC大模型逐漸從「新奇玩具」變成學習、工作中不可或缺的「生產力工具」，其伴生問題也日益凸顯：AI經常會「一本正經地胡說八道」，生成看似合理的虛假信息，造成「AI幻覺」；依賴AI工具代寫作業甚至畢業論文，極大衝擊著學術誠信和規範；論文AI率檢測系統有待完善，論文被誤判的問題時有發生……如何精準識別AI生成內容，成為亟待解決的熱點問題。 據了解，目前AI生成內容檢測主要有兩種路線，一種是「基於訓練的檢測方法」，使用特定數據訓練一個專用的分類模型；另一種是「零樣本檢測方法」，直接使用一個預訓練的語言模型並設計某種分類標準進行分類。 圖為AI生成內容檢測示意圖。(南開大學 供圖) 多項研究表明，現有檢測方法在應對複雜的現實場景時常顯不足。此前也曾有權威媒體報導，《荷塘月色》《流浪地球》等經典作品被某常用論文AI率檢測系統檢出高AI率。 為何現有的AI檢測工具會「誤判」？論文第一作者、南開大學計算機學院計算機科學卓越班2023級本科生付嘉晨解釋道：「如果把AI文本檢測比作一場考試，檢測器的訓練數據等同於日常練習題，現有檢測方法是機械刷題、死記硬背答題的固定套路，難以學會答題邏輯，一旦遇到全新難題，準確率就會顯著下降。」 「要想實現通用檢測，理論上需收集所有大模型的數據進行訓練，但在大模型迭代飛速的今天幾乎不可能。」付嘉晨說，讓檢測器真正學會舉一反三，即提升檢測器的泛化性能，是提升AI文本檢測性能的關鍵。 為此，研究團隊提出了DDL方法另闢蹊徑，通過直接優化模型預測的文本條件概率差異與人為設定的目標值之間的差距，幫助模型學習AI文本檢測的內在知識，可以精準捕捉人機文本間的深層語義差異，從而大幅提升檢測器的泛化能力與魯棒性。 「使用DDL訓練得到的檢測器如同有了『火眼金睛』，即便只『學習』過DeepSeek-R1的文本，也能精準識別像GPT-5這樣最新大模型生成的內容。」付嘉晨說。 團隊還提出了一個全面的測試基準數據集MIRAGE，使用13種主流的商用大模型(如豆包、DeepSeek、Kimi等)以及4種先進的開源大模型(如Qwen等)，從AI生成、潤色、重寫三個角度構造了接近十萬條人類-AI文本對。 「MIRAGE是目前唯一聚焦於對商用大語言模型檢測的基準數據集。直觀地說，之前的基準數據集是由少而且能力簡單的大模型命題出卷，而MIRAGE是17個能力強大的大模型聯合命題，形成一套高難度、又有代表性的檢測試卷。」論文通訊作者、南開大學計算機學院副教授郭春樂說。 在MIRAGE的測試結果顯示，現有檢測器的準確率從在簡單數據集上的90%驟降至約60%；而使用DDL訓練的檢測器仍保持85%以上的準確率。與史丹福大學提出的DetectGPT相比，性能相對提升71.62%；與馬裡蘭大學、卡內基梅隆大學等共同提出的Binoculars方法相比，性能相對提升68.03%。 「AIGC發展日新月異，我們將持續迭代升級評估基準和技術，致力於實現更快、更準、更低成本的AI生成文本檢測，以AI之力，讓每一篇成果更出彩。」研究團隊負責人、南開大學計算機學院教授李重儀說。(完)
北京8月14日電 國際專業技術組織電氣電子工程師學會(IEEE)14日分享關於「自主人工智慧(又稱AI代理)」和數據安全的文章，指出自主人工智慧可能對個人數據暴露帶來新風險的應用場景，並提出相應的防範方法。 文章指出，自主人工智慧是指「具備高度自治能力的人工智慧系統」。這類系統與智慧型手機中常見的「語音助手」存在本質差異。現有「語音助手」僅具備被動響應能力，缺乏自主設定目標的功能，雖能執行單一簡單任務，但若無人為指令，則無法實施具有實際意義的操作。 文章指出，人們已習慣應用程式請求授權：獲取定位、查看通訊錄或啟用麥克風。但自主人工智慧系統不再請求許可，而是直接行動，使得"輔助工具"與"自主操作者"的界限日漸模糊。它可以自主做出決策、執行複雜任務，並在沒有持續人工監督的情況下訪問海量個人數據。 專家預測，自主人工智慧未來將承擔各類任務，如規劃假期行程、確認醫療預約、智能比價購物等，均需調用用戶敏感數據，包括財務信息、實時定位等核心隱私。 專家舉例指出，現有應用通常僅調用單一數據類型，而自主人工智慧系統必須「串聯用戶整個數字生活的所有節點」，包括銀行帳戶、醫療記錄、日程安排、定位軌跡、通信模式、消費習慣，乃至健康監測所需的生物特徵數據。這導致數據洩露的風險呈指數級增長。 另據國際機構高德納預測，未來企業數據洩露事件中，將有25%與自主人工智慧系統濫用有關。 文章稱，對於在使用人工智慧系統時如何保護隱私，網絡安全專家建議，採用多層次防護方法，從基本的安全習慣做起。例如，為所有帳戶啟用多因素認證，將數據共享最小化到特定任務絕對必要的範圍，為不同用途創建單獨的帳戶，以分隔數字暴露面。 專家指出，由於人工智慧系統通常需要訪問多個數據源，因此，分隔策略尤為重要。用戶不應讓一個人工智慧系統獲取所有數據的訪問權限，而應考慮為不同用途使用不同的人工智慧工具，比如一個用於財務任務，另一個用於健康管理，以此類推。 專家還建議，將每次人工智慧交互視為可能生成永久記錄的行為，在分享敏感信息前做好相應預案。(完)
免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。
六月直播
「活动」首次登录送新手大礼包
- 软件大小: 497.27MB
- 最后更新: 2025-11-16 11:06
- 最新版本: v14.8.15.10
- 文件格式: apk
- 应用分类:ios-Android 荔枝直播
- 使用语言: 中文
- : 需要联网
- 系统要求: 9.63以上
客服热线：138-3419-9467
49651
63419
63
46782
24
2025-11-16 11:06
94786
16
2025-11-16 11:06
42597
67
2025-11-16 11:06
61982
17
2025-11-16 11:06
38951
27
2025-11-16 11:06
64173
12
2025-11-16 11:06
82735
69
2025-11-16 11:06
86952
71
2025-11-16 11:06
42798
87
2025-11-16 11:06
24
46
81
28
25