近期，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領(lǐng)導干部行騙，值得引起高度警惕
一些領(lǐng)導干部由于工作原因出鏡率相對較高，這為騙子提供了豐富的面部識別素材；在電視、廣播新聞中也可以找到一些領(lǐng)導干部的大段同期聲，這令“偽造成本”更低
隨著(zhù)人工智能技術(shù)的普及應用，不法分子實(shí)施詐騙的精準性、迷惑性、隱蔽性增強，公安、檢察等政法機關(guān)辦案將面臨偵查破案難、電子證據調取難、認定處理難等現實(shí)困難
近日，北方某地警方發(fā)布了一起利用“AI換臉”對當事人實(shí)施詐騙的案件。詐騙分子運用人工智能技術(shù)，通過(guò)微信視頻通話(huà)與受害人進(jìn)行了十多分鐘交流，受害人轉賬數百萬(wàn)元。
引人關(guān)注的是，該案不僅是一起新型網(wǎng)絡(luò )詐騙，更是一起涉政詐騙案件。
不法分子模擬偽造的，是受害人認識的一名領(lǐng)導干部。在微信視頻聊天中，“換臉”后的騙子提出，其朋友有一筆工程保證金需要借用受害人公司的對公賬戶(hù)走賬。在視頻畫(huà)面中，騙子“換臉”后面部表情自然，聲音逼真，受害人便放松了警惕，轉賬后打電話(huà)確認，才知道被騙。
“AI換臉”“AI擬聲”、虛擬場(chǎng)景構建……隨著(zhù)設備性能提升和技術(shù)軟件優(yōu)化，利用“AI換臉”技術(shù)實(shí)施詐騙，已成為一種新型網(wǎng)絡(luò )詐騙。近期，各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領(lǐng)導干部行騙，值得引起高度警惕。
由于工作原因，一些領(lǐng)導干部的面部、聲音等生物特征信息更易被獲取，被人工智能學(xué)習利用后造成的潛在危害性也更大。接受《瞭望》新聞周刊采訪(fǎng)的業(yè)內人士表示，社會(huì )各界都應提高識騙防騙意識，有關(guān)部門(mén)應依法加大對人工智能“輔助”詐騙案件的執法力度，嚴肅追究相關(guān)人員法律責任。
朱慧卿圖/本刊
眼見(jiàn)不一定為實(shí)
近日，華北某地一名地方干部正為一件事犯愁。有人冒用他的名義，與他的親朋好友大范圍添加微信好友。
“和我的親戚朋友加完好友后，騙子還給他們打了視頻電話(huà)。通話(huà)時(shí)間只有幾秒鐘，朋友們感覺(jué)聲音、畫(huà)面都有點(diǎn)兒像?！边@名干部說(shuō)，直到許多朋友打電話(huà)詢(xún)問(wèn)具體情況，他才知道此事。
“估計下一步就要開(kāi)始騙錢(qián)了。所以，最近幾天我連續發(fā)了好幾條朋友圈提醒大家?！边@名干部說(shuō)。
受訪(fǎng)業(yè)內人士表示，只要有足夠的圖像、音頻素材，不法分子就可以通過(guò)人工智能“換臉”軟件、合成聲音軟件偽造虛擬形象，實(shí)施詐騙?！爸恍杼崛∽钌?0個(gè)字、最多32個(gè)字，就可以合成其聲音?！眹W(wǎng)信息通信產(chǎn)業(yè)集團安全科研專(zhuān)家趙明明告訴記者。
一些領(lǐng)導干部由于工作原因出鏡率相對較高，這為騙子提供了豐富的面部識別素材；在電視、廣播新聞中也可以找到一些領(lǐng)導干部的大段同期聲，這令“偽造成本”更低。
在一些案件中，不法分子通過(guò)“AI換臉”合成視頻等方式，偽造與領(lǐng)導干部見(jiàn)面、合影等內容實(shí)施詐騙，增加了涉政類(lèi)詐騙的欺騙性和危害性。
AI詐騙四大趨勢
中國信息通信研究院相關(guān)負責人表示，當前，人工智能“輔助”詐騙存在四大趨勢。隨著(zhù)人工智能技術(shù)的普及應用，不法分子實(shí)施詐騙的精準性、迷惑性、隱蔽性增強，公安、檢察等政法機關(guān)辦案將面臨偵查破案難、電子證據調取難、認定處理難等現實(shí)困難。
——技術(shù)成本由高向低轉變。騰訊安全玄武實(shí)驗室負責人于旸告訴記者，隨著(zhù)技術(shù)發(fā)展，人工智能“深度偽造”“深度合成”已成為一種可以低成本實(shí)現的技術(shù)。
——技術(shù)應用由單一向多元轉變。騰訊互聯(lián)網(wǎng)安全專(zhuān)家楊建表示，實(shí)施人工智能“輔助”詐騙一般要滿(mǎn)足多個(gè)要素，包括非法獲取信息、構建熟人賬號、“換臉換聲”、破解手機攝像頭權限等，涉及多項技術(shù)手段。
——偽造身份從模糊向具體轉變。傳統電信詐騙往往只能以“某派出所工作人員”“某網(wǎng)站客服”等模糊虛指人設實(shí)施。但在人工智能“輔助”詐騙中，騙子可以以具體的人物形象出現。
——作案模式從“廣撒網(wǎng)”向精準施騙轉變。社交媒體平臺往往設有視頻驗證環(huán)節，這在客觀(guān)上增加了冒充熟人、領(lǐng)導干部等詐騙的“可信度”。受訪(fǎng)專(zhuān)家分析，隨著(zhù)技術(shù)發(fā)展，精準盜號、分析關(guān)系網(wǎng)等有指向性的網(wǎng)絡(luò )詐騙案件占比可能有所上升。
多層面約束規范
奇安信安全專(zhuān)家裴智勇表示，目前，專(zhuān)業(yè)級別的人工智能“深度偽造”仍需通過(guò)較強的硬件在實(shí)驗室環(huán)境實(shí)現。這意味著(zhù)，近期“AI換臉”詐騙形成系統性風(fēng)險的可能性不大，但仍需未雨綢繆、預防打擊。
在源頭端，需要進(jìn)一步加強公民個(gè)人信息保護。楊建等專(zhuān)家建議，加強公民信息尤其是生物特征等隱私信息的技術(shù)、司法保護力度。針對冒充領(lǐng)導干部等涉政詐騙風(fēng)險，可通過(guò)規范領(lǐng)導干部個(gè)人社交賬號管理，普及提升賬號安全意識等方式進(jìn)行規避。
在技術(shù)層面，數字水印鑒偽等技術(shù)有待進(jìn)一步普及利用。趙明明表示，數字水印能將特定的信息嵌入音頻、圖片或是視頻等數字信號中，進(jìn)行版權保護，以防止未經(jīng)授權的復制和拷貝。他建議，加強打入數字水印、開(kāi)發(fā)真偽鑒別等技術(shù)治理手段，使其為數字內容生產(chǎn)商以及用戶(hù)端等提供廣泛服務(wù)，以科技手段制約不法分子利用人工智能技術(shù)實(shí)施犯罪。
瑞萊智慧高級產(chǎn)品經(jīng)理張旭東建議，對涉及政務(wù)、安防、金融、消費等重要應用的人臉識別技術(shù)漏洞進(jìn)行完善和升級，防范不法分子通過(guò)后臺劫持手機攝像頭權限。
“尤其是涉眾、涉密、涉及公共利益的相關(guān)平臺和技術(shù)服務(wù)提供商，需優(yōu)先完成技術(shù)加固，對手機模擬器做好防范。同時(shí)，鼓勵和引導更多手機廠(chǎng)商在系統升級時(shí)支持3D人臉識別技術(shù)?！睆埿駯|說(shuō)。
從法律制度方面看，反電信網(wǎng)絡(luò )詐騙法、刑法等法律為打擊治理各類(lèi)網(wǎng)絡(luò )詐騙活動(dòng)提供了法律支撐。趙明明建議，進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律，通過(guò)案例等指引，建立人工智能侵權糾紛法律框架、訴訟程序和賠償標準等。
此外，還需通過(guò)完善相關(guān)制度進(jìn)一步落實(shí)平臺責任。新華三集團安全專(zhuān)家曹亮表示，對核心領(lǐng)域使用人臉識別技術(shù)的產(chǎn)品，監管部門(mén)應建立分級別、多層次的國家安全標準及行業(yè)安全標準；壓實(shí)平臺、企業(yè)主體責任，督促相關(guān)應用開(kāi)發(fā)企業(yè)履行源頭審查責任；建立健全用戶(hù)注冊、算法機制機理審核、數據安全個(gè)人信息保護、反電信網(wǎng)絡(luò )詐騙、應急處置等管理制度。（記者 吳帥帥 劉懿德 蘭天鳴 ?《瞭望》2023年第27期）
