最近,新華網發布的一則反詐短視頻在社交平臺引發關注。這條旨在揭露AI換臉、變聲騙局的宣傳片發布後,有網友說「被嚇到了」,還有評價說「像恐怖片」。這是為什麼呢?原來,很多網友沒有想到,AI換臉、換聲能那麼「真」:短視頻以溫馨的母女視頻通話情節開始。母親正在家裡煲湯等女兒回家,女兒撒嬌說航班延誤又掉了一部手機,央求母親轉帳應急。就在母親用網銀轉帳時,門鈴響起,母親以為沒帶鑰匙的父親回家,暫停轉帳去開門。誰知,門外站著女兒。此時,視頻電話裡的「女兒」還在一口一個「媽,你是世界上最好的媽」。 反詐視頻中,真人與AI變臉「面對面」(圖源:新華網視頻截屏)。所以,宣傳片的主題是告訴網友,AI可以模擬人臉和人聲,視頻裡看到和聽到的都不一定是真實的,要警惕新型詐騙電話。不少網友一邊評價「太嚇人」,一邊詢問:AI技術真的進化到可以如此逼真的「換臉換聲」了嗎?答案是肯定的。只要3步,「換臉」成功「AI換臉、換聲並且用視頻的形式誤導公眾,已經不算技術難題。」人工智慧企業合合信息的技術人員展示了3步換臉:第一步,對著演示屏幕的攝像頭,根據提示上下左右轉頭,錄入真人信息;第二步,選擇兩張想要的新臉照片;第三步,演示屏幕顯示,這名技術人員已經擁有了兩張全新的「臉」,新臉還能跟隨身體的主人做出各種頭部動作與面部表情。對普通人而言,壓根看不出顯示屏幕上的「人」是AI生成的。 左:真人信息錄入;中:選擇要變的「臉」;右:變臉完成(作者攝)。技術人員表示,AI換聲也很方便,很多消費級的軟體已經提供這些服務。只要向相關軟體提供一定的聲紋資源,軟體很快就能模擬目標聲音,實現以假亂真的效果。所以,千萬不要以為反詐短視頻中的「換臉變聲詐騙」是演繹。隨著AI技術的發展,換臉、變聲已經不再困難。而且,有不法分子已經用換臉、換聲等騙取錢財。前不久,湖北警方就披露了一起「變聲」詐騙案件:被害人劉女士接到「孫子」電話說,不當心傷害到別的孩子,「私了」要2萬元錢,怕被母親責罵,「請奶奶救救我,不要告訴媽媽」。劉女士覺得電話那頭就是「孫子」的聲音,決定湊錢幫孫子。接著,孫子說有人來找劉女士拿錢,在交接錢款時,劉女士又聽到了電話裡「孫子」的聲音,確認無誤後,把錢款給了對方。過了幾天,劉女士遇到孫子問起這件事,才發現上當受騙,然後報警。警方經過調查,抓獲了犯罪嫌疑人,並根據被害人提供的線索分析認為,犯罪嫌疑人可能是通過多次撥打座機電話,逐步收集了她孫子的聲紋信息,基於它們用AI技術造假,實施詐騙。識破AI換臉和變聲,這些訣竅有用那麼,如何預防AI換臉、變聲詐騙呢?最簡單的是使用只有當事人才知道的「暗語」或者方言。當視頻通話等涉及轉帳等話題,當事人要先想辦法求證對方是本人還是AI造假。比如,可以詢問對當事雙方都有特別意義的紀念日、改用方言交流等。此時,AI造假極可能露餡。同時,個人應注意保護隱私信息。高清的面部信息、聲紋信息等,都屬於隱私信息,它們都是被模仿的基礎。所以,在社交平臺上曬視頻、曬照片、曬聲音等行為,其實存在一定的被模仿風險。此外,通訊硬體、軟體等服務供應方,則要有「用魔法打敗魔法」的防範思路。技術人員表示,在生活中,不法分子不僅用AI換臉、變聲詐騙,還會用換臉、變聲「撞庫」,盜取他人錢財。比如,不法分子獲得目標對象的臉部圖像後,試圖通過「人臉識別」的方式,登錄目標對象的各種帳戶,盜取數據、轉移財產等。AI造假後「撞庫」的後果往往比AI造假後詐騙更大,所以需要從源頭加以識別、攔截。此時,AI也可以成為幫手:AI通過對光影、臉部紋理、動態五官是否合理等細節的監控和計算,得出鑑定結果。 用AI識別AI造假(作者攝)。「因為AI捕捉和比對的精細度遠遠超過人眼,所以能識別人眼發現不了的造假視頻。」技術人員表示,如果在涉及人臉識別、聲紋識別的服務中嵌入以上技術,那麼能極大限度地防範AI造假。
今天,最高人民法院發布入庫參考案例《吳某慧、陳某強等侵犯公民個人信息案》,為實施誹謗而非法獲取公民個人信息行為定性。 基本案情 被害人朱某系江蘇省某中學教師,被告人吳某慧系朱某的親屬。吳某慧在與朱某發生矛盾後多次向被告人陳某強提及此事,陳某強提出可以通過獲取朱某個人信息並在網上發負面帖子抹黑朱某。吳某慧遂向陳某強提供了朱某妻子的身份證信息,以便查詢朱某的個人信息。2020年5月,陳某強以人民幣13150元(幣種下同)的價格向被告人陳某購買包含朱某及陳某強前女友楊某等人的住宿記錄、民航、鐵路購票記錄等信息1442條。其中涉及朱某、楊某的住宿記錄、民航、鐵路行程信息299條,其他與朱某、楊某等人具有時空交叉關聯人員一般身份信息1143條。 後被告人陳某強將獲取的信息發給被告人吳某慧,吳某慧從中挑選了部分與朱某同一時間段入住同一酒店的女性人員信息(涉及在該中學就讀、高考在即的一高三女學生等共計20餘人),用於撰寫帖文,後由陳某強修改帖文並支付費用交由專門發負面帖子的鄧某等人(另案處理),將詆毀朱某的不實帖文以多個吸引流量的誇張標題在知名網絡發布。帖子發布後在上述網站迅速擴散,閱讀、轉發及跟帖回復人數總計超過200萬。後教育主管部門至江蘇省某中學調查此事,該中學在校學生也紛紛向老師詢問相關事件,學校專門對帖子涉及的即將參加高考的高三女生等安排了心理輔導,朱某的教學和生活均受到較大的困擾。 其間,同案被告人陳某、湯某良、丁某沙等購買並在微信朋友圈發布買賣個人信息的消息,買賣上述包含被害人朱某、楊某等信息在內的公民個人信息共計1739條,售價從8870元至19350元不等。 案發後,被害人朱某等人沒有就誹謗罪提起刑事自訴。 江蘇省蘇州市姑蘇區人民法院於2021年2月1日作出(2020)蘇0508刑714號刑事判決: 一、被告人吳某慧犯侵犯公民個人信息罪,判處有期徒刑十一個月,並處罰金人民幣二千元。 二、被告人陳某強犯侵犯公民個人信息罪,判處有期徒刑一年,並處罰金人民幣二千元。(其他被告人判項略) 宣判後,同案被告人丁某沙提出上訴,後申請撤回上訴。江蘇省蘇州市中級人民法院於2021年5月24日作出(2021)蘇05刑終267號刑事裁定:準許上訴人丁某沙撤回上訴。 裁判理由 《中華人民共和國刑法》第二百五十三條之一第一款、第三款規定:「違反國家有關規定,向他人出售或者提供公民個人信息,情節嚴重的,處三年以下有期徒刑或者拘役,並處或者單處罰金;情節特別嚴重的,處三年以上七年以下有期徒刑,並處罰金。」「竊取或者以其他方法非法獲取公民個人信息的,依照第一款的規定處罰。」《最高人民法院、最高人民檢察院關於辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》(法釋〔2017〕10號,以下簡稱《解釋》)第五條第一款在列舉「情節嚴重」的具體認定情形外,還在第十項設置「其他情節嚴重的情形」的兜底項。對此,可以綜合行為人非法獲取、提供公民個人信息的主觀動機、獲取方式、具體用途、造成的危害等情節予以考量。對於所涉行為的社會危害程度與其他列明的情形相當的,可以認定為「情節嚴重」。 本案中,被告人吳某慧,陳某強非法獲取他人的公民個人信息後,撰寫詆毀他人的內容在網絡上發帖,閱讀、轉發及跟帖回復人數總計超過200萬,給朱某的工作、生活及其所任職學校造成嚴重不良影響。吳某慧,陳某強的行為雖不符合《解釋》第五條第一款規定的九類具體入罪標準,但綜合考量二被告人非法獲取公民個人信息的動機、信息類型和數量、造成的危害等情節,可以認定其行為的危害性與《解釋》第五條第一款第二項所規定的「知道或者應當知道他人利用公民個人信息實施犯罪,向其出售或者提供的」情形具有相當性,綜合考量信息類型和數量、造成的危害等,可以認定為「其他情節嚴重的情形」。故吳某慧,陳某強構成侵犯公民個人信息罪。 裁判要旨 對於通過網絡「開盒」等方式公開曝光他人個人信息,符合刑法第二百五十三條之一規定的,以侵犯公民個人信息罪定罪處罰。 對於《最高人民法院、最高人民檢察院關於辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》(法釋〔2017〕10號)第五條第一款第十項規定的「其他情節嚴重的情形」,可以結合行為人非法獲取、提供公民個人信息的主觀動機、獲取方式、具體用途、造成的危害等情節予以考量,綜合判斷其社會危害性。對於所涉行為的社會危害程度與其他列明的情形相當的,可以認定為「情節嚴重」。
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
81932
43
2025-11-08 14:54
57421
48
2025-11-08 14:54
84172
31
2025-11-08 14:54
14923
78
2025-11-08 14:54
84137
41
2025-11-08 14:54
19786
24
2025-11-08 14:54
72469
28
2025-11-08 14:54
28437
76
2025-11-08 14:54
79413
38
2025-11-08 14:54
58146
97
2025-11-08 14:54
61932
64
2025-11-08 14:54
39618
68
2025-11-08 14:54
35769
98
2025-11-08 14:54
38415
32
2025-11-08 14:54
58324
65
2025-11-08 14:54
12987
34
2025-11-08 14:54
14286
47
2025-11-08 14:54
41583
49
2025-11-08 14:54
32715
57
2025-11-08 14:54
97683
91
2025-11-08 14:54
87643
74
2025-11-08 14:54
32754
73
2025-11-08 14:54
58973
36
2025-11-08 14:54
23965
52
2025-11-08 14:54
87349
24
2025-11-08 14:54
27415
15
2025-11-08 14:54
54617
94
2025-11-08 14:54
34928
59
2025-11-08 14:54
38915
41
2025-11-08 14:54
42968
35
2025-11-08 14:54
35218
95
2025-11-08 14:54
49736
76
2025-11-08 14:54
68921
87
2025-11-08 14:54
73925
81
2025-11-08 14:54
84921
93
2025-11-08 14:54
42691
57
2025-11-08 14:54
25184
58
2025-11-08 14:54
75962
67
2025-11-08 14:54
21745
76
2025-11-08 14:54
28495
19
2025-11-08 14:54
63718
28
2025-11-08 14:54
41297
26
2025-11-08 14:54
37926
19
2025-11-08 14:54
36785
87
2025-11-08 14:54
23174
46
2025-11-08 14:54
46289
91
2025-11-08 14:54
15678
38
2025-11-08 14:54
61823
82
2025-11-08 14:54
72619
25
2025-11-08 14:54
75941
93
2025-11-08 14:54
67459
46
2025-11-08 14:54
47892
28
2025-11-08 14:54
| 婬色直播 | 茄子直播 |
| 午夜直播 | |
| 雨燕直播 | 黄播 |
| 魅影9.1直播 | |
| 成人抖阴 | 小草莓直播 |
| 魅影5.3直播 | |
| 月夜直播在线观看 | 金桔直播 |
| 么么直播 | |
| 秀色直播app下载安装app | 蜜桃app |
| 月神直播 | |
| 巧克力直播 | 尖叫之夜免费直播 |
| 520直播 | |
| 桃花app | 深夜直播 |
| 么么直播 | |
| 苹果直播 | 月夜直播app夜月 |
| 苹果直播 | |
| 杏仁直播 | 橘子直播 |
| 红桃直播 | |
| 蝶恋直播 | 花间直播 |
| 春雨app直播免费看 | |