你在網(wǎng)絡(luò)直播間看到的正在帶貨的名人明星是真人嗎？未必。近期，小米集團(tuán)創(chuàng)始人雷軍建議加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理，再次引發(fā)公眾對(duì)AI數(shù)字人使用的討論。
去年以來(lái)，AI生成的數(shù)字人大量“占領(lǐng)”電商平臺(tái)，有的靠“圖”預(yù)售、以次充好，還有的用AI數(shù)字人仿冒名人外貌及聲音為一些“神藥”“神器”背書，短時(shí)間內(nèi)賣出巨額大單。在這背后，一套從肖像、配音，到文案生成的AI數(shù)字人帶貨制作流程充斥網(wǎng)絡(luò)，帶來(lái)眾多監(jiān)管難題。
專家表示，利用AI數(shù)字場(chǎng)景直播帶貨是電商發(fā)展的新趨勢(shì)，但在發(fā)展前期，一些不法商家利用監(jiān)管漏洞侵害了消費(fèi)者權(quán)益，建議盡快完善法律法規(guī)，強(qiáng)化平臺(tái)責(zé)任，設(shè)定AI數(shù)字場(chǎng)景使用邊界，防止AI“賦能”變AI“負(fù)能”。
一場(chǎng)“眼見是否為實(shí)”的暗戰(zhàn)
蘭州市民崔女士近日在網(wǎng)絡(luò)直播間購(gòu)買了一件春季薄款毛衫。商品頁(yè)面中模特展示這款毛衫的面料細(xì)膩柔軟，穿在身上得體優(yōu)雅，她感覺(jué)自己的身材也像模特一樣屬于偏瘦類型，于是下單。而收到實(shí)物后卻發(fā)現(xiàn)，這件毛衫材質(zhì)既不細(xì)膩也不柔軟，裁剪還很粗糙，她深感上當(dāng)受騙。
經(jīng)過(guò)與售后一番費(fèi)盡周折的交流，崔女士得知，該模特其實(shí)是AI生成的“數(shù)字人”，面料的視覺(jué)效果都經(jīng)過(guò)了AI技術(shù)的“渲染”。
甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮已有十多年電商從業(yè)經(jīng)歷。她告訴記者，雇用模特試穿拍照是服裝電商行業(yè)的傳統(tǒng)做法，但AI數(shù)字模特的迷惑性在于它可以通過(guò)參數(shù)設(shè)置，生成“九頭身”“馬甲線”理想化身材，并借助AI渲染技術(shù)消除衣服褶皺、增強(qiáng)光澤感和飄逸靈動(dòng)感，使廉價(jià)的面料呈現(xiàn)出昂貴質(zhì)感，讓消費(fèi)者誤判服裝的實(shí)際效果。
崔女士的購(gòu)物經(jīng)歷并非個(gè)例。記者調(diào)查發(fā)現(xiàn)，在直播帶貨領(lǐng)域，AI數(shù)字人通過(guò)仿真的面部形象、聲音和精心的場(chǎng)景布置，其迷惑性讓消費(fèi)者防不勝防。
更有甚者，有商家將名人明星換臉為數(shù)字人“平替”。去年以來(lái)，“AI換臉楊冪”直播賣化妝品、“AI古天樂(lè)”代言游戲等AI數(shù)字人仿冒名人話題頻頻登上熱搜。今年春節(jié)期間，更有不法商家生成“AI張文宏”，“嚴(yán)肅認(rèn)真地在直播間賣蛋白棒”，從開播到被舉報(bào)關(guān)停，短時(shí)間內(nèi)賣出了1200多單商品。
除了借用名人效應(yīng)外，一些商家用AI技術(shù)打造數(shù)字人人設(shè)，如“成功女企業(yè)家”“單親媽媽”“帶娃寶媽”“知性美女”“美妝達(dá)人”等，利用特定人群的同理心直播帶貨。而在保健品、藥品、化妝品、醫(yī)療輔助器械“三品一械”領(lǐng)域，精心打造的數(shù)字人面向老年人、學(xué)生等辨別能力弱的群體，大肆夸大產(chǎn)品功效，快速斂財(cái)。
AI數(shù)字營(yíng)銷監(jiān)管“網(wǎng)眼大”
針對(duì)AI數(shù)字人仿冒名人直播帶貨、AI換臉詐騙等違法行為，國(guó)家網(wǎng)信辦已出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，并開展網(wǎng)絡(luò)清朗行動(dòng)等專項(xiàng)行動(dòng)約束管理。
然而，對(duì)于正處在發(fā)展初期的AI數(shù)字營(yíng)銷，一些專家表示，從法治層面到平臺(tái)監(jiān)管，還存在諸多漏洞。
記者在某平臺(tái)上輸入“AI數(shù)字人直播教學(xué)”等關(guān)鍵詞，搜索出成千上萬(wàn)個(gè)教程，學(xué)費(fèi)從幾十元到數(shù)百元不等，還有的甚至免費(fèi)。
記者聯(lián)系一位收費(fèi)教程博主，其稱“三分鐘教會(huì)搭建AI數(shù)字人直播間”，并承諾“一天可以做近百個(gè)數(shù)字作品，都能通過(guò)原創(chuàng)審核”。
蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻表示，AI技術(shù)發(fā)展迅速且具有技術(shù)門檻低、隱蔽性強(qiáng)、更新迭代快的特點(diǎn)，隨著開源工具的普及，普通人僅需少量數(shù)據(jù)即可生成逼真的仿冒內(nèi)容，而且傳播速度快、范圍廣。當(dāng)前，從數(shù)據(jù)采集、AI模型訓(xùn)練到虛假賬號(hào)運(yùn)營(yíng)，已形成分工明確的產(chǎn)業(yè)鏈。
甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華表示，利用AI仿冒他人形象直播帶貨或從事其他違法經(jīng)營(yíng)行為，違反了廣告法、個(gè)人信息保護(hù)法等多部法律法規(guī)，但面對(duì)AI數(shù)字人營(yíng)銷騙局，當(dāng)前最大的難點(diǎn)不是“無(wú)法可依”，而是“有法難依”。
盛玉華說(shuō)，AI數(shù)字人虛假營(yíng)銷涉及技術(shù)提供方、內(nèi)容生成者、直播平臺(tái)、商家等多方，現(xiàn)有法律未明確各方責(zé)任劃分，導(dǎo)致在實(shí)際執(zhí)法過(guò)程中難以準(zhǔn)確適用法律。
針對(duì)AI數(shù)字人誤導(dǎo)消費(fèi)者風(fēng)險(xiǎn)，2024年某平臺(tái)優(yōu)化了對(duì)AI主播的識(shí)別能力，累計(jì)處理超17萬(wàn)個(gè)錄播直播間，封閉3萬(wàn)多個(gè)賬號(hào)，打擊2800多個(gè)黑商團(tuán)伙。但從平臺(tái)管理來(lái)看，仍存盲區(qū)，審核機(jī)制還有待完善。
蘭州大學(xué)管理學(xué)院副教授王洪鵬說(shuō)，此前該平臺(tái)通過(guò)博主的粉絲量來(lái)設(shè)計(jì)帶貨門檻，隨后這一規(guī)定被取消，直播帶貨門檻降低，也為AI數(shù)字人虛假營(yíng)銷提供了可乘之機(jī)。
多方發(fā)力加強(qiáng)引導(dǎo) 促AI數(shù)字營(yíng)銷健康發(fā)展
在王雪蓮、盛玉華等業(yè)內(nèi)人士和受訪專家看來(lái)，從長(zhǎng)遠(yuǎn)來(lái)看，AI數(shù)字營(yíng)銷將會(huì)革新傳統(tǒng)的電商銷售模式，賦能消費(fèi)領(lǐng)域和銷售環(huán)節(jié)，給市場(chǎng)帶來(lái)更多更好的體驗(yàn)。
事實(shí)上，目前AI數(shù)字人已在多個(gè)領(lǐng)域提升電商銷售發(fā)展水平。在服裝電商行業(yè)，AI數(shù)字技術(shù)正通過(guò)數(shù)據(jù)挖掘、視覺(jué)算法和個(gè)性化推薦，提升關(guān)聯(lián)銷售水平，如有的平臺(tái)推出AI搭配和AI試衣間，用戶在平臺(tái)內(nèi)創(chuàng)建虛擬形象后，AI就會(huì)幫助顧客生成多種穿搭方案，直接鏈接到關(guān)聯(lián)商品，大幅提升商品關(guān)聯(lián)銷售額。
而當(dāng)前出現(xiàn)的各類AI數(shù)字人虛假營(yíng)銷，是AI賦能網(wǎng)絡(luò)直播銷售發(fā)展初期，監(jiān)管機(jī)制不完善的階段性產(chǎn)物。“當(dāng)務(wù)之急是要從法律層面補(bǔ)齊監(jiān)管漏洞。”盛玉華說(shuō)，首先要明確AI生成內(nèi)容的法律性質(zhì)和責(zé)任歸屬，厘清技術(shù)提供方、內(nèi)容提供者、平臺(tái)、商家等多方主體的責(zé)任邊界，提高法律可操作性。
業(yè)內(nèi)人士建議，在刑法、網(wǎng)絡(luò)安全法等法律框架下，對(duì)利用AI技術(shù)編造傳播虛假信息，實(shí)施詐騙、誹謗、侵害肖像權(quán)等行為，細(xì)化法律適用規(guī)則，加大懲處力度。
同時(shí)，要持續(xù)強(qiáng)化平臺(tái)責(zé)任，健全內(nèi)容審核機(jī)制。例如利用技術(shù)手段，對(duì)直播和商品信息進(jìn)行監(jiān)測(cè)，及時(shí)發(fā)現(xiàn)和處理AI虛假營(yíng)銷行為?？赏ㄟ^(guò)在AI直播間標(biāo)注類似“AI直播注意鑒別”等字樣，把知情權(quán)、選擇權(quán)交給消費(fèi)者。
王雪蓮等認(rèn)為，對(duì)于AI數(shù)字賦能網(wǎng)絡(luò)銷售這一新事物，相關(guān)部門要加強(qiáng)對(duì)消費(fèi)者的AI素養(yǎng)宣傳教育，提升其認(rèn)知能力，并不斷完善在AI數(shù)字人大規(guī)模發(fā)展背景下消費(fèi)者投訴舉報(bào)機(jī)制，降低維權(quán)成本，讓消費(fèi)者從“技術(shù)弱勢(shì)方”轉(zhuǎn)變?yōu)?ldquo;監(jiān)督主力軍”，打破“維權(quán)難、違法易”的惡性循環(huán)。
你在網(wǎng)絡(luò)直播間看到的正在帶貨的名人明星是真人嗎？未必。近期，小米集團(tuán)創(chuàng)始人雷軍建議加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理，再次引發(fā)公眾對(duì)AI數(shù)字人使用的討論。
去年以來(lái)，AI生成的數(shù)字人大量“占領(lǐng)”電商平臺(tái)，有的靠“圖”預(yù)售、以次充好，還有的用AI數(shù)字人仿冒名人外貌及聲音為一些“神藥”“神器”背書，短時(shí)間內(nèi)賣出巨額大單。在這背后，一套從肖像、配音，到文案生成的AI數(shù)字人帶貨制作流程充斥網(wǎng)絡(luò)，帶來(lái)眾多監(jiān)管難題。
專家表示，利用AI數(shù)字場(chǎng)景直播帶貨是電商發(fā)展的新趨勢(shì)，但在發(fā)展前期，一些不法商家利用監(jiān)管漏洞侵害了消費(fèi)者權(quán)益，建議盡快完善法律法規(guī)，強(qiáng)化平臺(tái)責(zé)任，設(shè)定AI數(shù)字場(chǎng)景使用邊界，防止AI“賦能”變AI“負(fù)能”。
一場(chǎng)“眼見是否為實(shí)”的暗戰(zhàn)
蘭州市民崔女士近日在網(wǎng)絡(luò)直播間購(gòu)買了一件春季薄款毛衫。商品頁(yè)面中模特展示這款毛衫的面料細(xì)膩柔軟，穿在身上得體優(yōu)雅，她感覺(jué)自己的身材也像模特一樣屬于偏瘦類型，于是下單。而收到實(shí)物后卻發(fā)現(xiàn)，這件毛衫材質(zhì)既不細(xì)膩也不柔軟，裁剪還很粗糙，她深感上當(dāng)受騙。
經(jīng)過(guò)與售后一番費(fèi)盡周折的交流，崔女士得知，該模特其實(shí)是AI生成的“數(shù)字人”，面料的視覺(jué)效果都經(jīng)過(guò)了AI技術(shù)的“渲染”。
甘肅慧聯(lián)信息科技發(fā)展有限責(zé)任公司總經(jīng)理王雪蓮已有十多年電商從業(yè)經(jīng)歷。她告訴記者，雇用模特試穿拍照是服裝電商行業(yè)的傳統(tǒng)做法，但AI數(shù)字模特的迷惑性在于它可以通過(guò)參數(shù)設(shè)置，生成“九頭身”“馬甲線”理想化身材，并借助AI渲染技術(shù)消除衣服褶皺、增強(qiáng)光澤感和飄逸靈動(dòng)感，使廉價(jià)的面料呈現(xiàn)出昂貴質(zhì)感，讓消費(fèi)者誤判服裝的實(shí)際效果。
崔女士的購(gòu)物經(jīng)歷并非個(gè)例。記者調(diào)查發(fā)現(xiàn)，在直播帶貨領(lǐng)域，AI數(shù)字人通過(guò)仿真的面部形象、聲音和精心的場(chǎng)景布置，其迷惑性讓消費(fèi)者防不勝防。
更有甚者，有商家將名人明星換臉為數(shù)字人“平替”。去年以來(lái)，“AI換臉楊冪”直播賣化妝品、“AI古天樂(lè)”代言游戲等AI數(shù)字人仿冒名人話題頻頻登上熱搜。今年春節(jié)期間，更有不法商家生成“AI張文宏”，“嚴(yán)肅認(rèn)真地在直播間賣蛋白棒”，從開播到被舉報(bào)關(guān)停，短時(shí)間內(nèi)賣出了1200多單商品。
除了借用名人效應(yīng)外，一些商家用AI技術(shù)打造數(shù)字人人設(shè)，如“成功女企業(yè)家”“單親媽媽”“帶娃寶媽”“知性美女”“美妝達(dá)人”等，利用特定人群的同理心直播帶貨。而在保健品、藥品、化妝品、醫(yī)療輔助器械“三品一械”領(lǐng)域，精心打造的數(shù)字人面向老年人、學(xué)生等辨別能力弱的群體，大肆夸大產(chǎn)品功效，快速斂財(cái)。
AI數(shù)字營(yíng)銷監(jiān)管“網(wǎng)眼大”
針對(duì)AI數(shù)字人仿冒名人直播帶貨、AI換臉詐騙等違法行為，國(guó)家網(wǎng)信辦已出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，并開展網(wǎng)絡(luò)清朗行動(dòng)等專項(xiàng)行動(dòng)約束管理。
然而，對(duì)于正處在發(fā)展初期的AI數(shù)字營(yíng)銷，一些專家表示，從法治層面到平臺(tái)監(jiān)管，還存在諸多漏洞。
記者在某平臺(tái)上輸入“AI數(shù)字人直播教學(xué)”等關(guān)鍵詞，搜索出成千上萬(wàn)個(gè)教程，學(xué)費(fèi)從幾十元到數(shù)百元不等，還有的甚至免費(fèi)。
記者聯(lián)系一位收費(fèi)教程博主，其稱“三分鐘教會(huì)搭建AI數(shù)字人直播間”，并承諾“一天可以做近百個(gè)數(shù)字作品，都能通過(guò)原創(chuàng)審核”。
蘭州大學(xué)信息科學(xué)與工程學(xué)院副教授劉忻表示，AI技術(shù)發(fā)展迅速且具有技術(shù)門檻低、隱蔽性強(qiáng)、更新迭代快的特點(diǎn)，隨著開源工具的普及，普通人僅需少量數(shù)據(jù)即可生成逼真的仿冒內(nèi)容，而且傳播速度快、范圍廣。當(dāng)前，從數(shù)據(jù)采集、AI模型訓(xùn)練到虛假賬號(hào)運(yùn)營(yíng)，已形成分工明確的產(chǎn)業(yè)鏈。
甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華表示，利用AI仿冒他人形象直播帶貨或從事其他違法經(jīng)營(yíng)行為，違反了廣告法、個(gè)人信息保護(hù)法等多部法律法規(guī)，但面對(duì)AI數(shù)字人營(yíng)銷騙局，當(dāng)前最大的難點(diǎn)不是“無(wú)法可依”，而是“有法難依”。
盛玉華說(shuō)，AI數(shù)字人虛假營(yíng)銷涉及技術(shù)提供方、內(nèi)容生成者、直播平臺(tái)、商家等多方，現(xiàn)有法律未明確各方責(zé)任劃分，導(dǎo)致在實(shí)際執(zhí)法過(guò)程中難以準(zhǔn)確適用法律。
針對(duì)AI數(shù)字人誤導(dǎo)消費(fèi)者風(fēng)險(xiǎn)，2024年某平臺(tái)優(yōu)化了對(duì)AI主播的識(shí)別能力，累計(jì)處理超17萬(wàn)個(gè)錄播直播間，封閉3萬(wàn)多個(gè)賬號(hào)，打擊2800多個(gè)黑商團(tuán)伙。但從平臺(tái)管理來(lái)看，仍存盲區(qū)，審核機(jī)制還有待完善。
蘭州大學(xué)管理學(xué)院副教授王洪鵬說(shuō)，此前該平臺(tái)通過(guò)博主的粉絲量來(lái)設(shè)計(jì)帶貨門檻，隨后這一規(guī)定被取消，直播帶貨門檻降低，也為AI數(shù)字人虛假營(yíng)銷提供了可乘之機(jī)。
多方發(fā)力加強(qiáng)引導(dǎo) 促AI數(shù)字營(yíng)銷健康發(fā)展
在王雪蓮、盛玉華等業(yè)內(nèi)人士和受訪專家看來(lái)，從長(zhǎng)遠(yuǎn)來(lái)看，AI數(shù)字營(yíng)銷將會(huì)革新傳統(tǒng)的電商銷售模式，賦能消費(fèi)領(lǐng)域和銷售環(huán)節(jié)，給市場(chǎng)帶來(lái)更多更好的體驗(yàn)。
事實(shí)上，目前AI數(shù)字人已在多個(gè)領(lǐng)域提升電商銷售發(fā)展水平。在服裝電商行業(yè)，AI數(shù)字技術(shù)正通過(guò)數(shù)據(jù)挖掘、視覺(jué)算法和個(gè)性化推薦，提升關(guān)聯(lián)銷售水平，如有的平臺(tái)推出AI搭配和AI試衣間，用戶在平臺(tái)內(nèi)創(chuàng)建虛擬形象后，AI就會(huì)幫助顧客生成多種穿搭方案，直接鏈接到關(guān)聯(lián)商品，大幅提升商品關(guān)聯(lián)銷售額。
而當(dāng)前出現(xiàn)的各類AI數(shù)字人虛假營(yíng)銷，是AI賦能網(wǎng)絡(luò)直播銷售發(fā)展初期，監(jiān)管機(jī)制不完善的階段性產(chǎn)物。“當(dāng)務(wù)之急是要從法律層面補(bǔ)齊監(jiān)管漏洞。”盛玉華說(shuō)，首先要明確AI生成內(nèi)容的法律性質(zhì)和責(zé)任歸屬，厘清技術(shù)提供方、內(nèi)容提供者、平臺(tái)、商家等多方主體的責(zé)任邊界，提高法律可操作性。
業(yè)內(nèi)人士建議，在刑法、網(wǎng)絡(luò)安全法等法律框架下，對(duì)利用AI技術(shù)編造傳播虛假信息，實(shí)施詐騙、誹謗、侵害肖像權(quán)等行為，細(xì)化法律適用規(guī)則，加大懲處力度。
同時(shí)，要持續(xù)強(qiáng)化平臺(tái)責(zé)任，健全內(nèi)容審核機(jī)制。例如利用技術(shù)手段，對(duì)直播和商品信息進(jìn)行監(jiān)測(cè)，及時(shí)發(fā)現(xiàn)和處理AI虛假營(yíng)銷行為?？赏ㄟ^(guò)在AI直播間標(biāo)注類似“AI直播注意鑒別”等字樣，把知情權(quán)、選擇權(quán)交給消費(fèi)者。
王雪蓮等認(rèn)為，對(duì)于AI數(shù)字賦能網(wǎng)絡(luò)銷售這一新事物，相關(guān)部門要加強(qiáng)對(duì)消費(fèi)者的AI素養(yǎng)宣傳教育，提升其認(rèn)知能力，并不斷完善在AI數(shù)字人大規(guī)模發(fā)展背景下消費(fèi)者投訴舉報(bào)機(jī)制，降低維權(quán)成本，讓消費(fèi)者從“技術(shù)弱勢(shì)方”轉(zhuǎn)變?yōu)?ldquo;監(jiān)督主力軍”，打破“維權(quán)難、違法易”的惡性循環(huán)。
本文鏈接：http://jphkf.cn/news-2-1127-0.html打造“完美主播”、暗設(shè)消費(fèi)陷阱，AI營(yíng)銷邊界在哪
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
