當(dāng)前，基于生成式人工智能（AIGC）偽造技術(shù)的電信網(wǎng)絡(luò)詐騙手段不斷升級，呈現(xiàn)范圍擴(kuò)大化、套路多樣化、形式隱蔽化等特點(diǎn)，危害社會(huì)安全。科研人員正在開發(fā)更先進(jìn)的人工智能工具和技術(shù)，識(shí)別并阻止人工智能濫用行為。
“不管是以往的PS篡改識(shí)別，還是如今的AIGC鑒偽，都屬于人工智能鑒偽的被動(dòng)檢測方式。”在第十三屆中國創(chuàng)新創(chuàng)業(yè)大賽創(chuàng)新挑戰(zhàn)賽（浙江）暨2024年浙江省技術(shù)需求“揭榜掛帥”大賽總決賽上，杭州電子科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授、浙江—法國數(shù)字媒體取證聯(lián)合實(shí)驗(yàn)室負(fù)責(zé)人喬通展示了其團(tuán)隊(duì)研發(fā)的“面向電詐場景的音視頻鑒偽溯源技術(shù)”，這種技術(shù)變“被動(dòng)檢測”為“主動(dòng)防御”，有望為人工智能鑒偽提供新思路。
特殊水印實(shí)現(xiàn)“事前防御”
上網(wǎng)搜索“AI換臉”，相關(guān)應(yīng)用軟件和影音圖像作品比比皆是。同時(shí)，深度人臉偽造帶來的安全威脅也逐漸顯現(xiàn)。
香港警方曾披露一起人工智能“多人換臉”詐騙案：不法分子利用人工智能深度偽造技術(shù)，通過某跨國公司在社交平臺(tái)的資料，仿造多位高層管理人員的形象和聲音，在視頻會(huì)議中進(jìn)行冒充，誘騙該公司香港分公司財(cái)務(wù)職員進(jìn)行轉(zhuǎn)賬操作，涉案金額達(dá)2億港幣。
此前，針對人臉偽造，人們往往采用“事后鑒別”的被動(dòng)檢測、被動(dòng)取證方法，但這種方法難以及時(shí)、有效遏制偽造人臉圖像的傳播。主動(dòng)防御方法由于“事前防御”的屬性，得到越來越多學(xué)者關(guān)注。
然而，目前大多數(shù)主動(dòng)防御方法只能針對單一或特定的幾種偽造模型進(jìn)行防御，面對日益多樣化和不斷升級的人臉偽造技術(shù)，會(huì)顯得力不從心。
為此，喬通團(tuán)隊(duì)開發(fā)出了一種可擴(kuò)展通用對抗性（SUA）水印，將其嵌入在需要保護(hù)的視頻、圖像或語音素材中。當(dāng)素材被用于人工智能加工，就會(huì)觸發(fā)SUA水印的“引信”，直接破壞生成后的內(nèi)容。
這一技術(shù)路線此前已有所應(yīng)用，但局限性較大。喬通介紹，以往單個(gè)水印只能針對一種模型，一段素材可能要嵌入多個(gè)水印才能起效，而SUA水印則無須基于所有偽造模型進(jìn)行重新訓(xùn)練。大量實(shí)驗(yàn)證明，SUA水印不僅能節(jié)省算力，還能有效擴(kuò)展主動(dòng)防御范圍，顯著提高主動(dòng)防御效果，能大大提高鑒偽效率。
“火眼金睛”進(jìn)行人臉識(shí)別
2024年9月，杭州公安通報(bào)了一起利用人工智能技術(shù)侵犯公民個(gè)人信息案件：有不法分子使用人工智能換臉大模型突破頭部平臺(tái)人臉認(rèn)證，竊取用戶隱私信息。
“登錄銀行或者其他App時(shí)，用戶會(huì)被要求做搖頭、眨眼的動(dòng)作，即進(jìn)行人臉活體檢測。”喬通說，不法分子通過黑色產(chǎn)業(yè)鏈，可以獲取目標(biāo)對象的人臉照片、音頻素材，偽造多模態(tài)媒體素材，然后實(shí)施詐騙。
為保證平臺(tái)安全，喬通建議，進(jìn)行人臉識(shí)別前應(yīng)再加一道無形的核驗(yàn)環(huán)節(jié)。據(jù)了解，針對目前市場上主流的人工智能偽造工具，喬通團(tuán)隊(duì)開發(fā)的人工智能鑒偽系統(tǒng)，能秒速級識(shí)別出人工智能圖像及視頻，并給出相應(yīng)分析報(bào)告，準(zhǔn)確率95%以上。
“相比大型銀行，地方中小銀行對防偽技術(shù)的投入相對不足。”喬通說，團(tuán)隊(duì)目前在與地方公安、小型金融機(jī)構(gòu)等進(jìn)行合作，研發(fā)定制化技術(shù)，在活體檢測環(huán)節(jié)為相關(guān)平臺(tái)裝上“火眼金睛”，判定屏幕那端“是人還是妖”。
在喬通看來，人工智能鑒偽和深度偽造是此消彼長的關(guān)系，需要更多機(jī)構(gòu)、企業(yè)參與，推動(dòng)人工智能鑒偽技術(shù)突破和應(yīng)用落地，共同搭建人工智能時(shí)代的網(wǎng)絡(luò)安全防火墻。“我們團(tuán)隊(duì)正積極對接企業(yè)，探索商業(yè)化模式。”喬通說，“要筑牢人工智能安全底座，讓反詐舉措更加柔性。”
當(dāng)前，基于生成式人工智能（AIGC）偽造技術(shù)的電信網(wǎng)絡(luò)詐騙手段不斷升級，呈現(xiàn)范圍擴(kuò)大化、套路多樣化、形式隱蔽化等特點(diǎn)，危害社會(huì)安全?？蒲腥藛T正在開發(fā)更先進(jìn)的人工智能工具和技術(shù)，識(shí)別并阻止人工智能濫用行為。
“不管是以往的PS篡改識(shí)別，還是如今的AIGC鑒偽，都屬于人工智能鑒偽的被動(dòng)檢測方式。”在第十三屆中國創(chuàng)新創(chuàng)業(yè)大賽創(chuàng)新挑戰(zhàn)賽（浙江）暨2024年浙江省技術(shù)需求“揭榜掛帥”大賽總決賽上，杭州電子科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授、浙江—法國數(shù)字媒體取證聯(lián)合實(shí)驗(yàn)室負(fù)責(zé)人喬通展示了其團(tuán)隊(duì)研發(fā)的“面向電詐場景的音視頻鑒偽溯源技術(shù)”，這種技術(shù)變“被動(dòng)檢測”為“主動(dòng)防御”，有望為人工智能鑒偽提供新思路。
特殊水印實(shí)現(xiàn)“事前防御”
上網(wǎng)搜索“AI換臉”，相關(guān)應(yīng)用軟件和影音圖像作品比比皆是。同時(shí)，深度人臉偽造帶來的安全威脅也逐漸顯現(xiàn)。
香港警方曾披露一起人工智能“多人換臉”詐騙案：不法分子利用人工智能深度偽造技術(shù)，通過某跨國公司在社交平臺(tái)的資料，仿造多位高層管理人員的形象和聲音，在視頻會(huì)議中進(jìn)行冒充，誘騙該公司香港分公司財(cái)務(wù)職員進(jìn)行轉(zhuǎn)賬操作，涉案金額達(dá)2億港幣。
此前，針對人臉偽造，人們往往采用“事后鑒別”的被動(dòng)檢測、被動(dòng)取證方法，但這種方法難以及時(shí)、有效遏制偽造人臉圖像的傳播。主動(dòng)防御方法由于“事前防御”的屬性，得到越來越多學(xué)者關(guān)注。
然而，目前大多數(shù)主動(dòng)防御方法只能針對單一或特定的幾種偽造模型進(jìn)行防御，面對日益多樣化和不斷升級的人臉偽造技術(shù)，會(huì)顯得力不從心。
為此，喬通團(tuán)隊(duì)開發(fā)出了一種可擴(kuò)展通用對抗性（SUA）水印，將其嵌入在需要保護(hù)的視頻、圖像或語音素材中。當(dāng)素材被用于人工智能加工，就會(huì)觸發(fā)SUA水印的“引信”，直接破壞生成后的內(nèi)容。
這一技術(shù)路線此前已有所應(yīng)用，但局限性較大。喬通介紹，以往單個(gè)水印只能針對一種模型，一段素材可能要嵌入多個(gè)水印才能起效，而SUA水印則無須基于所有偽造模型進(jìn)行重新訓(xùn)練。大量實(shí)驗(yàn)證明，SUA水印不僅能節(jié)省算力，還能有效擴(kuò)展主動(dòng)防御范圍，顯著提高主動(dòng)防御效果，能大大提高鑒偽效率。
“火眼金睛”進(jìn)行人臉識(shí)別
2024年9月，杭州公安通報(bào)了一起利用人工智能技術(shù)侵犯公民個(gè)人信息案件：有不法分子使用人工智能換臉大模型突破頭部平臺(tái)人臉認(rèn)證，竊取用戶隱私信息。
“登錄銀行或者其他App時(shí)，用戶會(huì)被要求做搖頭、眨眼的動(dòng)作，即進(jìn)行人臉活體檢測。”喬通說，不法分子通過黑色產(chǎn)業(yè)鏈，可以獲取目標(biāo)對象的人臉照片、音頻素材，偽造多模態(tài)媒體素材，然后實(shí)施詐騙。
為保證平臺(tái)安全，喬通建議，進(jìn)行人臉識(shí)別前應(yīng)再加一道無形的核驗(yàn)環(huán)節(jié)。據(jù)了解，針對目前市場上主流的人工智能偽造工具，喬通團(tuán)隊(duì)開發(fā)的人工智能鑒偽系統(tǒng)，能秒速級識(shí)別出人工智能圖像及視頻，并給出相應(yīng)分析報(bào)告，準(zhǔn)確率95%以上。
“相比大型銀行，地方中小銀行對防偽技術(shù)的投入相對不足。”喬通說，團(tuán)隊(duì)目前在與地方公安、小型金融機(jī)構(gòu)等進(jìn)行合作，研發(fā)定制化技術(shù)，在活體檢測環(huán)節(jié)為相關(guān)平臺(tái)裝上“火眼金睛”，判定屏幕那端“是人還是妖”。
在喬通看來，人工智能鑒偽和深度偽造是此消彼長的關(guān)系，需要更多機(jī)構(gòu)、企業(yè)參與，推動(dòng)人工智能鑒偽技術(shù)突破和應(yīng)用落地，共同搭建人工智能時(shí)代的網(wǎng)絡(luò)安全防火墻。“我們團(tuán)隊(duì)正積極對接企業(yè)，探索商業(yè)化模式。”喬通說，“要筑牢人工智能安全底座，讓反詐舉措更加柔性。”
本文鏈接：http://jphkf.cn/news-2-339-0.html“被動(dòng)檢測”變?yōu)椤爸鲃?dòng)防御” AI鑒偽技術(shù)開始反制AI“換臉”詐騙
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
