“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn),，隨著深度合成技術(shù)迅猛發(fā)展、落地場景激增，一些不法分子趁機(jī)牟利,。音頻,、視頻等合成技術(shù)濫用，對人臉,、聲紋,、指紋等個人敏感信息保護(hù)形成挑戰(zhàn)。

  合成動態(tài)視頻一個2至10元 竟能注冊手機(jī)卡,、支付賬戶

  近日,，陳先生來到浙江省溫州市公安局甌海分局仙巖派出所報案，稱自己被“好友”騙了近五萬元,。經(jīng)過警方核實(shí),，騙子用了AI換臉技術(shù)，利用陳先生好友阿誠社交平臺上先前發(fā)布的視頻,，截取了面部視頻畫面并進(jìn)行了“換臉”,，從而對陳先生進(jìn)行了詐騙。

  2021年4月,，安徽省合肥市警方在公安部“凈網(wǎng)2021”專項行動中打掉一個犯罪團(tuán)伙,，該團(tuán)伙利用人工智能技術(shù)偽造他人人臉動態(tài)視頻，為黑灰產(chǎn)業(yè)鏈提供注冊手機(jī)卡等技術(shù)支撐,。

  在警方抓捕現(xiàn)場,，幾名犯罪嫌疑人正用電腦將一張張靜態(tài)照片制作為人臉動態(tài)視頻。模擬制作出來的動態(tài)人物不僅能做點(diǎn)頭,、搖頭等動作,，還可完成眨眼、張嘴,、皺眉等豐富表情,，效果極為逼真。

  在嫌疑人的電腦里,，警方發(fā)現(xiàn)了十幾個G的公民人臉數(shù)據(jù),，人臉照片和身份證照片分門別類存放在一個個文件夾里?！吧矸葑C正反面照片,、手持身份證照片、自拍照等,，被稱為一套,。”民警介紹,，成套照片被稱為“料”,，出售照片的人被稱為“料商”,，這些“料”在網(wǎng)上已轉(zhuǎn)手多次，而“料”的主人卻毫不知情,。

  犯罪嫌疑人馬某交代,，由于制作簡單，一個視頻價格僅為2至10元,，“客戶”往往是成百上千購買,，牟利空間巨大。

  近年來,，類似案件在浙江,、江蘇、河南等多地發(fā)生,。浙江衢州中級人民法院的一份刑事裁定書披露：張某,、余某等人運(yùn)用技術(shù)手段騙過支付寶人臉識別認(rèn)證，并使用公民個人信息注冊支付寶賬戶,，非法獲利數(shù)萬元,。

  這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”，僅需少量音視頻樣本數(shù)據(jù),，便可合成媲美真人的偽造音視頻,，用來實(shí)施精準(zhǔn)詐騙，侵害他人人身和財產(chǎn)安全,，或銷售,、惡意傳播技術(shù)換臉不雅視頻等，造成肖像權(quán)人名譽(yù)受損,。

  網(wǎng)絡(luò)“叫賣”合成軟件教程 風(fēng)險背后存技術(shù)漏洞,、治理短板

  據(jù)合肥市公安局包河分局網(wǎng)安大隊民警王祥瑞介紹，前述案件中8名犯罪嫌疑人多為社會閑散人員,，有的連高中都沒有讀完。他們按照網(wǎng)購教程下載軟件,，花幾個月便“自學(xué)成才”,。

  記者在網(wǎng)上聯(lián)系到一位售賣相關(guān)教程的賣家。賣家介紹,，全套軟件及教程售價有400元,、800元兩檔，800元的為高階版本,，“過人臉成功率超高”,。記者在演示視頻中看到，照片上傳至軟件后,，標(biāo)注出五官位置,，調(diào)整腳本參數(shù),，一張臉便動了起來?！拔骞賲?shù)隨教程送上,，照抄即可?！睋?jù)介紹,，這些偽造視頻不僅通過率高，人工審核都難辨真假,。

  “目前公眾對照片等靜態(tài)信息易被篡改已有所警惕,，但對視頻、聲音等動態(tài)信息內(nèi)容仍持有較高信任度,?！鼻迦A大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍說，深度合成技術(shù)飛速演進(jìn),，讓“眼見不再為實(shí)”,，破解身份核驗的難度會越來越低、耗時將越來越短,。

  專家擔(dān)心,，盡管針對深度合成技術(shù)的識別技術(shù)不斷迭代、檢測手段持續(xù)增強(qiáng),，但依然沒能跑贏“偽造”技術(shù)升級的速度,。浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長任奎說，隨著合成技術(shù)應(yīng)用門檻的進(jìn)一步降低,，合成內(nèi)容已模糊真實(shí)與偽造的邊界,。

  北京智源人工智能研究院安全創(chuàng)新中心執(zhí)行主任田天認(rèn)為，新型偽造方法層出不窮,，網(wǎng)絡(luò)傳播環(huán)境日趨復(fù)雜,，檢測算法存在漏洞缺陷等，反深偽檢測難度越來越大,。

  法律規(guī)定相對滯后,，也給不法分子留下可乘之機(jī)。中倫律師事務(wù)所合伙人陳際紅說,，目前法律規(guī)定,，禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，但技術(shù)如何使用算合理使用,，哪些情形下應(yīng)禁止使用等,，沒有具體規(guī)定；收集或收購個人聲紋,、照片,，使用人臉,、指紋、DNA,、虹膜等個人生物信息等行為,，在哪些范圍內(nèi)構(gòu)成犯罪、將面臨怎樣的懲罰,，需要司法裁判進(jìn)一步給出明確指引,。

  規(guī)制合成技術(shù)濫用 別再讓公眾為“臉面”擔(dān)憂

  保護(hù)人臉、指紋,、聲紋等敏感信息,，不再擔(dān)憂信息“裸奔”損害個人隱私、財產(chǎn),、名譽(yù)等,，是公眾的共同期待。

  我國首個國家層面的科技倫理治理指導(dǎo)性文件《關(guān)于加強(qiáng)科技倫理治理的意見》近日印發(fā),，凸顯技術(shù)倫理治理的重要性緊迫性,。在今年的最高法工作報告中，包括人臉安全在內(nèi)的個人信息安全等多次被提及,。

  陳際紅表示,，打擊“變臉”詐騙犯罪，應(yīng)從技術(shù)的合法使用邊界,、技術(shù)的安全評估程序,、濫用技術(shù)的法律規(guī)制等方面予以規(guī)范，提高技術(shù)濫用的違法成本,。

  中國工程院院士,、信息技術(shù)專家鄔賀銓提出，針對深度合成技術(shù)濫用現(xiàn)象,，應(yīng)以技術(shù)規(guī)制技術(shù),，利用技術(shù)創(chuàng)新、技術(shù)對抗等方式,，提升和迭代檢測技術(shù)的能力,。

  技術(shù)規(guī)制之外，針對技術(shù)濫用暴露的風(fēng)險治理應(yīng)當(dāng)體系化,、完善化?！耙獦?gòu)建數(shù)據(jù)集質(zhì)量規(guī)范,、根據(jù)應(yīng)用場景對相關(guān)技術(shù)進(jìn)行風(fēng)險分級分類管理，明確設(shè)計開發(fā)單位,、運(yùn)維單位,、數(shù)據(jù)提供方的責(zé)任,。”國家工業(yè)信息安全發(fā)展研究中心副總工程師邱惠君說,。

  專家提醒,，針對花樣翻新的“變臉”詐騙，公眾要提高防范意識,，不輕易提供人臉,、指紋等個人生物信息給他人，不過度公開或分享動圖,、視頻等,；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話、視頻等多種溝通渠道核驗對方身份,。一旦發(fā)現(xiàn)風(fēng)險,，及時報警求助。

（編輯：映雪）