當前,人工智慧已深度融入經濟社會發展的方方面面,在深刻改變人類生產生活方式的同時,也成為關乎高質量發展和高水平安全的關鍵領域。然而,人工智慧的訓練數據存在良莠不齊的問題,其中不乏虛假信息、虛構內容和偏見性觀點,造成數據源汙染,給人工智慧安全帶來新的挑戰。 數據是人工智慧的基礎 人工智慧的三大核心要素是算法、算力和數據,其中數據是訓練AI模型的基礎要素,也是AI應用的核心資源。 ——提供AI模型的原料。海量數據為AI模型提供了充足的訓練素材,使其得以學習數據的內在規律和模式,實現語義理解、智能決策和內容生成。同時,數據也驅動人工智慧不斷優化性能和精度,實現模型的迭代升級,以適應新需求。 ——影響AI模型的性能。AI模型對數據的數量、質量及多樣性要求極高。充足的數據量是充分訓練大規模模型的前提;高準確性、完整性和一致性的數據能有效避免誤導模型;覆蓋多個領域的多樣化數據,則能提升模型應對實際複雜場景的能力。 ——促進AI模型的應用。數據資源的日益豐富,加速了「人工智慧+」行動的落地,有力促進了人工智慧與經濟社會各領域的深度融合。這不僅培育和發展了新質生產力,更推動我國科技跨越式發展、產業優化升級、生產力整體躍升。 數據汙染衝擊安全防線 高質量的數據能夠顯著提升模型的準確性和可靠性,但數據一旦受到汙染,則可能導致模型決策失誤甚至AI系統失效,存在一定的安全隱患。 ——投放有害內容。通過篡改、虛構和重複等「數據投毒」行為產生的汙染數據,將幹擾模型在訓練階段的參數調整,削弱模型性能、降低其準確性,甚至誘發有害輸出。研究顯示,當訓練數據集中僅有0.01%的虛假文本時,模型輸出的有害內容會增加11.2%;即使是0.001%的虛假文本,其有害輸出也會相應上升7.2%。 ——造成遞歸汙染。受到數據汙染的人工智慧生成的虛假內容,可能成為後續模型訓練的數據源,形成具有延續性的「汙染遺留效應」。當前,網際網路AI生成內容在數量上已遠超人類生產的真實內容,大量低質量及非客觀數據充斥其中,導致AI訓練數據集中的錯誤信息逐代累積,最終扭曲模型本身的認知能力。 ——引發現實風險。數據汙染還可能引發一系列現實風險,尤其在金融市場、公共安全和醫療健康等領域。在金融領域,不法分子利用AI炮製虛假信息,造成數據汙染,可能引發股價異常波動,構成新型市場操縱風險;在公共安全領域,數據汙染容易擾動公眾認知、誤導社會輿論,誘發社會恐慌情緒;在醫療健康領域,數據汙染則可能致使模型生成錯誤診療建議,不僅危及患者生命安全,也加劇偽科學的傳播。 築牢人工智慧數據底座 ——加強源頭監管,防範汙染生成。以《網絡安全法》《數據安全法》《個人信息保護法》等法律法規為依據,建立AI數據分類分級保護制度,從根本上防範汙染數據的產生,助力有效防範AI數據安全威脅。 ——強化風險評估,保障數據流通。加強對人工智慧數據安全風險的整體評估,確保數據在採集、存儲、傳輸、使用、交換和備份等全生命周期環節安全。同步加快構建人工智慧安全風險分類管理體系,不斷提高數據安全綜合保障能力。 ——末端清洗修復,構建治理框架。定期依據法規標準清洗修復受汙數據。依據相關法律法規及行業標準,制定數據清洗的具體規則。逐步構建模塊化、可監測、可擴展的數據治理框架,實現持續管理與質量把控。 國家安全機關將在以習近平同志為核心的黨中央堅強領導下,全面貫徹總體國家安全觀,與有關部門一道防範針對我人工智慧領域的數據汙染風險,依法維護人工智慧安全和數據安全,不斷築牢國家安全屏障。 來源:國家安全部微信公眾號
不問症「秒開」處方,用藥安全咋保證? 記者調查處方藥線上銷售亂象 在電商平臺搜索藥品名,選中後點擊「開方購買」,再填寫用藥人信息、選擇確診疾病、勾選最下方的確認選項提交……一系列操作後,重慶某高校大學生張雪(化名)線上購藥成功。兩天後,因練習「科目二」頻頻手心冒汗、心跳加速的她,就收到了這款朋友推薦稱可以「緩解緊張」的處方藥。 拿到藥後,張雪在練車前直接服用了該藥,但在練車過程中卻出現了頭暈的症狀。她仔細查閱說明書,發現這款處方藥的其中一項副作用便是服用後運動時可能會出現低血糖的情況。 「在購藥過程中,頁面沒有任何顯著提示標明適用證和用藥風險。」張雪告訴《法治日報》記者。 「處方藥竟然能隨便買。」用張雪的話來說,購買這款處方藥的過程非常「絲滑」,像在看菜單。比如,在開方購藥環節中,她可以直接在平臺給出的包括「心動過速」「心律失常」「高血壓」「甲狀腺功能亢進症」等確診疾病中進行勾選,也可以自行添加確診疾病。 張雪回憶說,買藥時她也曾猶豫過,害怕對身體有副作用。於是在醫生問診環節,她特意補充了一條留言:「請問防駕考緊張吃這個藥安全嗎?」 但這條「補充信息」並未得到開藥醫生的「重視」,在沒有任何回復的情況下,系統就彈出了電子處方:「審核通過,可以購買。」 從搜索到付款,整個過程不到30秒。直到收到藥,她的那條留言依然顯示「未讀」。 之後,張雪查閱資料發現,此藥是用於控制高血壓、勞力性心絞痛、甲亢引起的心率過快等疾病。她有些後怕:「如果這藥不適合我,或者吃出問題,誰來負責?」 最近身體不適的北京居民陳明(化名)在線上購買阿司匹林腸溶片(一種處方藥)時,也有類似經歷。「系統彈出提交訂單提示後又要求補充處方信息,我在補充信息中隨手填了頭痛,之後也不需要瀏覽處方開具過程中的各種確認事項,不到10秒鐘,頁面就跳轉到支付界面。」 半小時後,陳明就收到了藥品。「方便是方便,但平臺所謂的『審核』根本就是個擺設,連最基本的問診流程都省略了。用藥安全咋保證呢?」 伴隨網際網路醫療蓬勃發展,線上購藥因便捷高效已成為不少患者的新選擇。然而,記者近日調查發現,部分電商平臺處方藥銷售亂象頻發,嚴重威脅消費者用藥安全。在多家電商平臺網售處方藥過程中,患者無須上傳病歷、處方等資料,「醫生」在缺乏實質性醫療評估的情況下「秒開」處方,甚至存在「先藥後方」現象。 記者嘗試在某平臺購買處方藥時發現,藥品圖片左上方會有「RX處方藥」的標註,藥品名稱欄也會用灰色小字提醒「需憑處方在藥師指導下購買和使用,非質量問題不支持退換」。點擊右下角「開方購買」後,就跳轉到了「申請開藥」界面,填寫用藥人信息和確診疾病後,還要勾選「確認已線下就診並使用過該藥品,無不良反應」才能提交。 在「問診開方」環節,記者看到了平臺認證的醫生發來的模式化信息:「您好,我是××醫生,非常高興為您提供醫療諮詢服務。稍等一下,我正在看您填寫的病情記錄信息」「為了用藥安全,請確認用藥人××已在線下就診並使用過訂單中的藥品且無不良反應。請問您還有其他信息補充嗎」…… 隨後,記者又在數個電商平臺嘗試購買處方藥,發現大部分平臺開具處方藥的流程基本一致,基本是添加問診信息、網際網路問診,大約半分鐘內便可結束問診。這些平臺的購藥流程僅有細節性的不同,比如有的平臺需要先提交訂單,後補充處方信息並付款,有的平臺則是先補充處方信息。值得注意的是,個別平臺的醫生在開方過程中甚至沒有要求記者再次確認線下使用過該藥物,也沒有信息補充這一環節。 通過這些相似的流程,記者可以輕易買到局部麻醉藥「利多卡因氣霧劑」、高警示降糖藥「格列齊特片」等處方藥。 調查中,記者還向15家線上藥店電話諮詢,其中大多數都表示「可以線上開處方」。記者問沒有醫院開的處方怎麼辦,有藥店回復稱「就說線下使用過此藥,不要說自己第一次購買」。 不少受訪者都表達了這樣一種擔憂——這種過於便捷的購藥渠道是否也會「培養」人們用藥的壞習慣:身體不舒服就直接上網買藥,處方藥隨便吃? 對於當前「秒開」處方的購藥流程,北京盈科(上海)律師事務所股權高級合伙人邵穎芳評價說,雖然相關規定明確了處方藥管理的規範,但現在有的網際網路醫院、醫藥電商把「處方」簡化為「在線問診—自動生成」,這些幾秒鐘就開具出來的「處方」嚴格意義上僅是「購藥憑條」。 邵穎芳分析,部分藥品零售企業認為自己憑單銷售,將責任推給網際網路醫院,網際網路醫院認為自己憑處方銷售,又將責任推給平臺註冊的「多點執業醫師」,而這些醫師大多又是隨機分配接單,缺乏對患者的長期管理。看似責任落實,實則「三不管」,相互推卸責任。長此以往會造成處方藥被濫用,危害群眾的健康安全。 那麼,如何治理線上「秒開」處方藥的問題? 在北京中醫藥大學衛生健康法治研究與創新轉化中心主任鄧勇看來,根治需從兩方面破局:一是技術賦能合規。以全國處方共享平臺、區塊鏈追溯、AI動態風控重構線上診療基礎設施,確保開方、流通、使用全鏈條可控。二是社會共治生態構建。通過讓平臺連帶賠償、對公眾加強教育、藥師醫師參與審核形成防控網絡。 「只有讓違規者付出高於收益的代價,線上處方才能真正安全。」邵穎芳認為,可以從技術和違法成本等方面入手。 人臉識別阻斷「秒開處方」漏洞。患者及醫師開具處方前均需完成人臉識別,線上開方需提交線下病歷、檢查報告等資料,拒絕「患者選藥—醫生補方」的逆流程,必須憑處方購買。 加強AI識別攔截。對出現「促銷」「套餐」形式的處方藥及違規關鍵詞自動斷連結,對高風險類藥物進行二次人工覆核並留存審核處理資料,關聯處方、醫師、藥師、藥品批號,實現全程溯源。 明確責任閉環管理。出現違規銷售處方藥事件的,啟動醫師、藥師、平臺三方責任倒查。 加強監督宣傳。加強公眾教育,不在私域平臺進行處方藥物非法交易。建立統一監管平臺,實現處方碼可追溯。設立專項舉報通道,鼓勵社會監督。 「長期來看,還需依賴處方制度數位化升級與社會對精準醫療價值共識的重建,方能在滿足患者便利需求的同時,築牢用藥安全的銅牆鐵壁。」鄧勇說。 本報見習記者 丁一 / 本報記者 趙麗 / 本報實習生 張茗
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
鲍鱼直播 | 百丽直播 |
小草莓直播 |
520直播 | 69美女直播 |
优直播 |
小k直播姬 | 柚子直播 |
黑白直播体育 |
大鱼直播 | 九球直播 |
樱花直播nba |
魅影直播 | 伊人直播 |
曼城直播 |
桔子直播 | 花蝴蝶app直播 |
月夜直播在线观看 |
月神直播 | 夜魅直播 |
魅影看b站直播 |
蜜糖直播 | 香蕉直播 |
直播黄台app凤蝶 |
糖果直播 | 红杏直播 |
大鱼直播 |
小草莓直播 | 小猫直播 |
六月直播 |