3月3日，著名演員劉曉慶通過微博澄清，微信視頻號(hào)“曉慶人生”并非她的賬號(hào)，直言相關(guān)賬號(hào)“畫面是我，聲音很像我”。上海辟謠平臺(tái)初步調(diào)查發(fā)現(xiàn)，相關(guān)賬號(hào)使用AI技術(shù)，生成劉曉慶的聲音、視頻等。截至發(fā)稿，該賬號(hào)已經(jīng)不可見。
但是，類似使用AI技術(shù)“傍名人”的帖子在社交平臺(tái)還有很多。演員靳東、醫(yī)生張文宏、企業(yè)家雷軍等，都曾被“AI造假”。造假者手段百出，或覬覦名人光環(huán)吸引流量增加粉絲，或假借名人形象、語音帶貨牟利，更有不法分子用AI數(shù)字人炮制詐騙陷阱，利用公眾對(duì)名人的信任騙取錢財(cái)。
值得注意的是，社交平臺(tái)的AIGC（人工智能生成內(nèi)容）不止于“傍名人”。很多服務(wù)行業(yè)、自媒體越發(fā)頻繁使用AIGC為自己“添光”，有些場(chǎng)景的AIGC更是讓觀看者真假難辨。比如，在餐飲、設(shè)計(jì)、攝影等行業(yè)，用AI照片取代實(shí)景照片的現(xiàn)象越來越普遍。商家用這些技術(shù)生成的美圖、美景招攬顧客。商家造假成本越來越低，效果卻很好，普通人幾乎難辨真?zhèn)巍?span style="display:none">IIy即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com
再比如，社交平臺(tái)的分享等板塊，美輪美奐的城市風(fēng)光、鬼斧神工的自然景致讓網(wǎng)友心潮澎湃?？僧?dāng)滿心期待的網(wǎng)友向發(fā)布者追問具體地點(diǎn)時(shí)，得到的往往是沉默。直至有眼尖的網(wǎng)友一語道破天機(jī)：這些“照片”大概率是AI虛構(gòu)的，發(fā)布者自然無法給出真實(shí)地址。
面對(duì)AIGC滲透到生活的方方面面，如果只是提醒觀看者提高警惕、加以辨別，不足以從根本上解決問題。對(duì)很多并不了解AI等新技術(shù)的網(wǎng)友來說，更是不可能完成的任務(wù)。
所以，要解決AIGC充斥網(wǎng)絡(luò)的問題，必須從源頭上采取舉措。
一方面，相關(guān)平臺(tái)必須正視目前AIGC充斥網(wǎng)絡(luò)的現(xiàn)狀，直面平臺(tái)自己的問題，而不是一味將責(zé)任推卸給發(fā)布者。不難發(fā)現(xiàn)，一些商家、自媒體之所以熱衷于AIGC，是因?yàn)檫@些內(nèi)容能夠躲過平臺(tái)的審核機(jī)制，以“真實(shí)”的形象出現(xiàn)在社交平臺(tái)上，甚至利用平臺(tái)現(xiàn)有算法，為它們的擴(kuò)散獲得機(jī)會(huì)。
以“傍名人”類AIGC為例，不法分子利用名人效應(yīng)吸引眼球，與此同時(shí)，平臺(tái)也成為名人效應(yīng)的受益者。所以，“傍名人”的現(xiàn)象層出不窮，平臺(tái)做的卻只是“賬號(hào)被舉報(bào)甚至被官方查處后才封號(hào)”的事后管理，而沒有從發(fā)布伊始就拒絕相關(guān)虛假信息。
再比如，AIGC之所以出現(xiàn)在“分享”板塊中，與傳統(tǒng)算法不辨真?zhèn)斡嘘P(guān)。傳統(tǒng)算法過度聚焦用戶即時(shí)反響，單純依據(jù)互動(dòng)量等指標(biāo)推薦內(nèi)容，卻忽視了AIGC帶來的虛假性問題，反而為虛假內(nèi)容擴(kuò)散大開綠燈。
要解決以上問題，必須有的放矢，精準(zhǔn)施策。
首當(dāng)其沖的是名人賬號(hào)監(jiān)管亟待強(qiáng)化。名人作為公眾焦點(diǎn)，一旦賬號(hào)被盜用、造假，危害深遠(yuǎn)。所以，平臺(tái)應(yīng)該構(gòu)建更加嚴(yán)格的名人賬號(hào)認(rèn)證體系，確保賬號(hào)創(chuàng)建與運(yùn)營(yíng)的真實(shí)性。
其實(shí)，現(xiàn)有的很多技術(shù)已經(jīng)可以幫上忙，比如通過面部動(dòng)態(tài)識(shí)別、聲紋加密比對(duì)等生物技術(shù)手段，判斷是“真人”還是“數(shù)字人”；或者用最簡(jiǎn)單的方式——人工審核，加大對(duì)各種冠以名人名號(hào)的賬號(hào)審查，發(fā)現(xiàn)“傍名人”“假名人”后立刻下架，將負(fù)面影響扼殺在萌芽狀態(tài)。
其次，給AIGC打上技術(shù)“烙印”勢(shì)在必行。AI生成的文字、圖片、視頻混雜在信息流中，普通用戶很難憑肉眼甄別。指望造假者主動(dòng)標(biāo)注，也無異于與虎謀皮。所以，大模型開發(fā)者等提供AIGC服務(wù)的企業(yè)有必要與信息發(fā)布平臺(tái)聯(lián)手，用技術(shù)手段為AIGC生成人眼不可識(shí)別但技術(shù)能夠鑒定的“隱形標(biāo)簽”、特殊標(biāo)志。這樣一來，只要用戶在平臺(tái)上發(fā)布AIGC，平臺(tái)就能自動(dòng)識(shí)別，并添加水印、標(biāo)簽，注明“AI制造”身份，既讓用戶在瀏覽時(shí)心中有數(shù)，避免被虛假信息誤導(dǎo)，也便于后續(xù)的內(nèi)容追溯與管理。對(duì)于故意隱匿AIGC標(biāo)志、企圖魚目混珠的發(fā)布者，則可以施以懲罰，如限流、封禁賬號(hào)等，以儆效尤。
最后，針對(duì)那些缺乏關(guān)鍵要素卻博人眼球的信息，平臺(tái)可以要求發(fā)布者補(bǔ)充關(guān)鍵信息；若發(fā)布者無法按照要求完成，則可以采取公開提示、流量限制、封號(hào)清退等方式，督促發(fā)布者上傳真實(shí)信息。
更進(jìn)一步，法律法規(guī)也要快步跟上AIGC的“狂飆”速度。相關(guān)部門應(yīng)加快制定針對(duì)AI造假、虛假信息傳播的法律法規(guī)，明確造假者、平臺(tái)方、傳播者等各方的責(zé)任邊界。對(duì)利用AI實(shí)施詐騙等違法犯罪行為嚴(yán)懲不貸，震懾不法之徒；對(duì)平臺(tái)疏于管理導(dǎo)致虛假信息泛濫的情況，以巨額罰款倒逼平臺(tái)守土有責(zé)。
3月3日，著名演員劉曉慶通過微博澄清，微信視頻號(hào)“曉慶人生”并非她的賬號(hào)，直言相關(guān)賬號(hào)“畫面是我，聲音很像我”。上海辟謠平臺(tái)初步調(diào)查發(fā)現(xiàn)，相關(guān)賬號(hào)使用AI技術(shù)，生成劉曉慶的聲音、視頻等。截至發(fā)稿，該賬號(hào)已經(jīng)不可見。
但是，類似使用AI技術(shù)“傍名人”的帖子在社交平臺(tái)還有很多。演員靳東、醫(yī)生張文宏、企業(yè)家雷軍等，都曾被“AI造假”。造假者手段百出，或覬覦名人光環(huán)吸引流量增加粉絲，或假借名人形象、語音帶貨牟利，更有不法分子用AI數(shù)字人炮制詐騙陷阱，利用公眾對(duì)名人的信任騙取錢財(cái)。
值得注意的是，社交平臺(tái)的AIGC（人工智能生成內(nèi)容）不止于“傍名人”。很多服務(wù)行業(yè)、自媒體越發(fā)頻繁使用AIGC為自己“添光”，有些場(chǎng)景的AIGC更是讓觀看者真假難辨。比如，在餐飲、設(shè)計(jì)、攝影等行業(yè)，用AI照片取代實(shí)景照片的現(xiàn)象越來越普遍。商家用這些技術(shù)生成的美圖、美景招攬顧客。商家造假成本越來越低，效果卻很好，普通人幾乎難辨真?zhèn)巍?span style="display:none">IIy即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com
再比如，社交平臺(tái)的分享等板塊，美輪美奐的城市風(fēng)光、鬼斧神工的自然景致讓網(wǎng)友心潮澎湃。可當(dāng)滿心期待的網(wǎng)友向發(fā)布者追問具體地點(diǎn)時(shí)，得到的往往是沉默。直至有眼尖的網(wǎng)友一語道破天機(jī)：這些“照片”大概率是AI虛構(gòu)的，發(fā)布者自然無法給出真實(shí)地址。
面對(duì)AIGC滲透到生活的方方面面，如果只是提醒觀看者提高警惕、加以辨別，不足以從根本上解決問題。對(duì)很多并不了解AI等新技術(shù)的網(wǎng)友來說，更是不可能完成的任務(wù)。
所以，要解決AIGC充斥網(wǎng)絡(luò)的問題，必須從源頭上采取舉措。
一方面，相關(guān)平臺(tái)必須正視目前AIGC充斥網(wǎng)絡(luò)的現(xiàn)狀，直面平臺(tái)自己的問題，而不是一味將責(zé)任推卸給發(fā)布者。不難發(fā)現(xiàn)，一些商家、自媒體之所以熱衷于AIGC，是因?yàn)檫@些內(nèi)容能夠躲過平臺(tái)的審核機(jī)制，以“真實(shí)”的形象出現(xiàn)在社交平臺(tái)上，甚至利用平臺(tái)現(xiàn)有算法，為它們的擴(kuò)散獲得機(jī)會(huì)。
以“傍名人”類AIGC為例，不法分子利用名人效應(yīng)吸引眼球，與此同時(shí)，平臺(tái)也成為名人效應(yīng)的受益者。所以，“傍名人”的現(xiàn)象層出不窮，平臺(tái)做的卻只是“賬號(hào)被舉報(bào)甚至被官方查處后才封號(hào)”的事后管理，而沒有從發(fā)布伊始就拒絕相關(guān)虛假信息。
再比如，AIGC之所以出現(xiàn)在“分享”板塊中，與傳統(tǒng)算法不辨真?zhèn)斡嘘P(guān)。傳統(tǒng)算法過度聚焦用戶即時(shí)反響，單純依據(jù)互動(dòng)量等指標(biāo)推薦內(nèi)容，卻忽視了AIGC帶來的虛假性問題，反而為虛假內(nèi)容擴(kuò)散大開綠燈。
要解決以上問題，必須有的放矢，精準(zhǔn)施策。
首當(dāng)其沖的是名人賬號(hào)監(jiān)管亟待強(qiáng)化。名人作為公眾焦點(diǎn)，一旦賬號(hào)被盜用、造假，危害深遠(yuǎn)。所以，平臺(tái)應(yīng)該構(gòu)建更加嚴(yán)格的名人賬號(hào)認(rèn)證體系，確保賬號(hào)創(chuàng)建與運(yùn)營(yíng)的真實(shí)性。
其實(shí)，現(xiàn)有的很多技術(shù)已經(jīng)可以幫上忙，比如通過面部動(dòng)態(tài)識(shí)別、聲紋加密比對(duì)等生物技術(shù)手段，判斷是“真人”還是“數(shù)字人”；或者用最簡(jiǎn)單的方式——人工審核，加大對(duì)各種冠以名人名號(hào)的賬號(hào)審查，發(fā)現(xiàn)“傍名人”“假名人”后立刻下架，將負(fù)面影響扼殺在萌芽狀態(tài)。
其次，給AIGC打上技術(shù)“烙印”勢(shì)在必行。AI生成的文字、圖片、視頻混雜在信息流中，普通用戶很難憑肉眼甄別。指望造假者主動(dòng)標(biāo)注，也無異于與虎謀皮。所以，大模型開發(fā)者等提供AIGC服務(wù)的企業(yè)有必要與信息發(fā)布平臺(tái)聯(lián)手，用技術(shù)手段為AIGC生成人眼不可識(shí)別但技術(shù)能夠鑒定的“隱形標(biāo)簽”、特殊標(biāo)志。這樣一來，只要用戶在平臺(tái)上發(fā)布AIGC，平臺(tái)就能自動(dòng)識(shí)別，并添加水印、標(biāo)簽，注明“AI制造”身份，既讓用戶在瀏覽時(shí)心中有數(shù)，避免被虛假信息誤導(dǎo)，也便于后續(xù)的內(nèi)容追溯與管理。對(duì)于故意隱匿AIGC標(biāo)志、企圖魚目混珠的發(fā)布者，則可以施以懲罰，如限流、封禁賬號(hào)等，以儆效尤。
最后，針對(duì)那些缺乏關(guān)鍵要素卻博人眼球的信息，平臺(tái)可以要求發(fā)布者補(bǔ)充關(guān)鍵信息；若發(fā)布者無法按照要求完成，則可以采取公開提示、流量限制、封號(hào)清退等方式，督促發(fā)布者上傳真實(shí)信息。
更進(jìn)一步，法律法規(guī)也要快步跟上AIGC的“狂飆”速度。相關(guān)部門應(yīng)加快制定針對(duì)AI造假、虛假信息傳播的法律法規(guī)，明確造假者、平臺(tái)方、傳播者等各方的責(zé)任邊界。對(duì)利用AI實(shí)施詐騙等違法犯罪行為嚴(yán)懲不貸，震懾不法之徒；對(duì)平臺(tái)疏于管理導(dǎo)致虛假信息泛濫的情況，以巨額罰款倒逼平臺(tái)守土有責(zé)。
本文鏈接：http://jphkf.cn/news-2-1109-0.html識(shí)別AI造假，只靠網(wǎng)友眼尖？
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
