一段視頻,、一段語音未必是真人拍攝或者錄制,。在你不知道的手機App后臺,、支付界面,、門禁閘機，或許有人正在盜刷你的臉……去年以來,，多地發(fā)生“變臉”詐騙案,。
“新華視點”記者調查發(fā)現，隨著深度合成技術迅猛發(fā)展,、落地場景激增,，一些不法分子趁機牟利。音頻,、視頻等合成技術濫用,，對人臉、聲紋,、指紋等個人敏感信息保護形成挑戰(zhàn),。
合成動態(tài)視頻一個2至10元 竟能注冊手機卡、支付賬戶
近日,，陳先生來到浙江省溫州市公安局甌海分局仙巖派出所報案,，稱自己被“好友”騙了近五萬元。經過警方核實,，騙子用了AI換臉技術,，利用陳先生好友阿誠社交平臺上先前發(fā)布的視頻，截取了面部視頻畫面并進行了“換臉”,，從而對陳先生進行了詐騙,。
2021年4月，安徽省合肥市警方在公安部“凈網2021”專項行動中打掉一個犯罪團伙,，該團伙利用人工智能技術偽造他人人臉動態(tài)視頻,，為黑灰產業(yè)鏈提供注冊手機卡等技術支撐。
在警方抓捕現場,，幾名犯罪嫌疑人正用電腦將一張張靜態(tài)照片制作為人臉動態(tài)視頻,。模擬制作出來的動態(tài)人物不僅能做點頭、搖頭等動作,，還可完成眨眼,、張嘴、皺眉等豐富表情,，效果極為逼真,。
在嫌疑人的電腦里，警方發(fā)現了十幾個G的公民人臉數據,，人臉照片和身份證照片分門別類存放在一個個文件夾里,。“身份證正反面照片、手持身份證照片,、自拍照等,，被稱為一套。”民警介紹,，成套照片被稱為“料”,，出售照片的人被稱為“料商”，這些“料”在網上已轉手多次,，而“料”的主人卻毫不知情,。
犯罪嫌疑人馬某交代，由于制作簡單,，一個視頻價格僅為2至10元,，“客戶”往往是成百上千購買，牟利空間巨大,。
近年來,，類似案件在浙江、江蘇,、河南等多地發(fā)生,。浙江衢州中級人民法院的一份刑事裁定書披露：張某、余某等人運用技術手段騙過支付寶人臉識別認證,，并使用公民個人信息注冊支付寶賬戶,，非法獲利數萬元。
這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”,，僅需少量音視頻樣本數據,，便可合成媲美真人的偽造音視頻，用來實施精準詐騙,，侵害他人人身和財產安全,，或銷售、惡意傳播技術換臉不雅視頻等,，造成肖像權人名譽受損,。
網絡“叫賣”合成軟件教程 風險背后存技術漏洞、治理短板
據合肥市公安局包河分局網安大隊民警王祥瑞介紹,，前述案件中8名犯罪嫌疑人多為社會閑散人員,，有的連高中都沒有讀完。他們按照網購教程下載軟件,，花幾個月便“自學成才”,。
記者在網上聯系到一位售賣相關教程的賣家。賣家介紹,，全套軟件及教程售價有400元,、800元兩檔，800元的為高階版本,，“過人臉成功率超高”,。記者在演示視頻中看到,，照片上傳至軟件后，標注出五官位置,，調整腳本參數,，一張臉便動了起來。“五官參數隨教程送上,，照抄即可,。”據介紹，這些偽造視頻不僅通過率高,，人工審核都難辨真假,。
“目前公眾對照片等靜態(tài)信息易被篡改已有所警惕，但對視頻,、聲音等動態(tài)信息內容仍持有較高信任度,。”清華大學人工智能研究院基礎理論研究中心主任朱軍說，深度合成技術飛速演進,，讓“眼見不再為實”,，破解身份核驗的難度會越來越低、耗時將越來越短,。
專家擔心,，盡管針對深度合成技術的識別技術不斷迭代、檢測手段持續(xù)增強,，但依然沒能跑贏“偽造”技術升級的速度,。浙江大學網絡空間安全學院院長任奎說，隨著合成技術應用門檻的進一步降低,，合成內容已模糊真實與偽造的邊界,。
北京智源人工智能研究院安全創(chuàng)新中心執(zhí)行主任田天認為，新型偽造方法層出不窮,，網絡傳播環(huán)境日趨復雜,，檢測算法存在漏洞缺陷等，反深偽檢測難度越來越大,。
法律規(guī)定相對滯后,，也給不法分子留下可乘之機。中倫律師事務所合伙人陳際紅說,，目前法律規(guī)定,，禁止利用信息技術手段偽造等方式侵害他人的肖像權，但技術如何使用算合理使用,，哪些情形下應禁止使用等,，沒有具體規(guī)定；收集或收購個人聲紋、照片,，使用人臉,、指紋、DNA,、虹膜等個人生物信息等行為,，在哪些范圍內構成犯罪,、將面臨怎樣的懲罰,，需要司法裁判進一步給出明確指引。
規(guī)制合成技術濫用 別再讓公眾為“臉面”擔憂
保護人臉,、指紋,、聲紋等敏感信息，不再擔憂信息“裸奔”損害個人隱私,、財產,、名譽等，是公眾的共同期待,。
我國首個國家層面的科技倫理治理指導性文件《關于加強科技倫理治理的意見》近日印發(fā),，凸顯技術倫理治理的重要性緊迫性。在今年的最高法工作報告中,，包括人臉安全在內的個人信息安全等多次被提及,。
陳際紅表示，打擊“變臉”詐騙犯罪,，應從技術的合法使用邊界,、技術的安全評估程序、濫用技術的法律規(guī)制等方面予以規(guī)范,，提高技術濫用的違法成本,。
中國工程院院士、信息技術專家鄔賀銓提出,，針對深度合成技術濫用現象,，應以技術規(guī)制技術，利用技術創(chuàng)新,、技術對抗等方式,，提升和迭代檢測技術的能力。
技術規(guī)制之外,，針對技術濫用暴露的風險治理應當體系化,、完善化。“要構建數據集質量規(guī)范,、根據應用場景對相關技術進行風險分級分類管理,，明確設計開發(fā)單位、運維單位、數據提供方的責任,。”國家工業(yè)信息安全發(fā)展研究中心副總工程師邱惠君說,。
專家提醒，針對花樣翻新的“變臉”詐騙,，公眾要提高防范意識,，不輕易提供人臉、指紋等個人生物信息給他人,，不過度公開或分享動圖,、視頻等；網絡轉賬前要通過電話,、視頻等多種溝通渠道核驗對方身份,。一旦發(fā)現風險，及時報警求助,。
新華社“新華視點”記者張漫子,、張超、陳諾
