“上當(dāng)受騙了！沒想到視頻切片里‘專家推薦說辭’居然是AI造假。”00后小高憤怒地將購買的減肥產(chǎn)品扔進(jìn)垃圾桶。
小高告訴新京報貝殼財(cái)經(jīng)記者，自己之所以心動，源于看見《國醫(yī)少年志》視頻切片里推薦了這款減肥產(chǎn)品，結(jié)果未見效果反而被包裝營銷暗算。“原以為有專家背書的商品不會差，結(jié)果發(fā)現(xiàn)這些說辭居然是AI工具模仿語音篡改形成，專家根本就沒說過這些話。”
隨著《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目出圈，減肥、養(yǎng)生成為話題，但是短視頻平臺上不少節(jié)目切片卻開始“變味”，借著類似節(jié)目的噱頭暗中推薦保健商品，甚至宣稱“絕對有效”。
實(shí)際上，這些視頻切片大多為移花接木，內(nèi)容看似是節(jié)目片段，但專家話術(shù)、字幕等細(xì)節(jié)卻是商家以AI技術(shù)進(jìn)行篡改，進(jìn)而植入品牌和帶貨。
“部分商家和視頻主抓住消費(fèi)者追求健康的心態(tài)，借以‘權(quán)威’‘專業(yè)’噱頭讓消費(fèi)者信以為真，繼而陷入其所設(shè)下的陷阱。”從事電商工作多年的蔣凌告訴新京報貝殼財(cái)經(jīng)記者，如今短視頻平臺中確實(shí)充斥大量類似切片，甚至不乏修改名人語音進(jìn)行商品帶貨的現(xiàn)象，“受此影響，不但多位名人和節(jié)目IP被造假，消費(fèi)者權(quán)益也在不知情中受到傷害，而唯一獲利的只有惡意植入的品牌商。”
加句臺詞，綜藝切片包裝出“明星代言”
因?yàn)榉逝?，小高?jīng)常上網(wǎng)尋找各種減肥方法和藥物。一次瀏覽短視頻時，他無意中看到視頻切片介紹一檔名為《國醫(yī)少年志》的綜藝節(jié)目，其中，中醫(yī)專家介紹如何有效減小肚子贅肉時，除了介紹白蘿卜、山楂干、紅棗等食材用以煮水飲用能控制體重外，還特意推銷一款名為“蔻敘堂丁香膏”的減肥產(chǎn)品。
“資深中醫(yī)在視頻里肯定表示‘早晚各一次，一個多月肚子就平了’，加上節(jié)目IP和多位藝人的背書，效果應(yīng)該差不了。”心動的小高當(dāng)即根據(jù)品牌名在電商平臺搜索并花費(fèi)20多元下了一單。幾天體驗(yàn)后，小高發(fā)現(xiàn)減肥效果遠(yuǎn)沒有視頻宣傳般明顯，體重沒有絲毫變化。
和小高有著類似經(jīng)歷的，還有00后女孩張伊。她告訴貝殼財(cái)經(jīng)記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的一款商品“種草”，但真正體驗(yàn)后發(fā)現(xiàn)沒有任何效果。
貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，類似視頻切片在短視頻平臺中比比皆是，但是眼見并非為實(shí)。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費(fèi)者所追捧，也讓他們成為部分商家收割的對象。
貝殼財(cái)經(jīng)記者在短視頻平臺上搜索發(fā)現(xiàn)，不少非節(jié)目官方所發(fā)布的切片里夾藏大量“私貨”，視頻主通過AI技術(shù)更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經(jīng)過包裝成功實(shí)現(xiàn)“名人帶貨”。
以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了“資藥堂（的赤菊膏）就很不錯”的短短一句話。
移花接木的招數(shù)也出現(xiàn)在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為“詩諾千君貼”的商品被植入，并在字幕中顯示“提高代謝水平”“年輕人可以試試”，同樣實(shí)現(xiàn)明星帶貨的效果。
AI悄然篡改視頻內(nèi)容，模糊了視頻真假的邊界，也迷惑了不少消費(fèi)者。貝殼財(cái)經(jīng)記者注意到，上當(dāng)?shù)木W(wǎng)友在社交平臺上吐槽“純智商稅”“節(jié)目組推銷劣質(zhì)商品”等，質(zhì)疑產(chǎn)品的同時也將矛頭直指節(jié)目組。
對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實(shí)施產(chǎn)品推廣行為，歪曲了節(jié)目內(nèi)容。節(jié)目組從未授權(quán)任何第三方賬號利用節(jié)目內(nèi)容宣傳相關(guān)的任何產(chǎn)品，“任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關(guān)產(chǎn)品的信息均為虛假信息。”
AI變聲“零門檻”，僅需幾元可隨意模仿
一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。
“這些商品利用人們對身體健康的關(guān)注心態(tài)，通過AI篡改臺詞和字幕，以‘專業(yè)’‘權(quán)威’的噱頭讓消費(fèi)者信以為真，進(jìn)而陷入銷售陷阱。”電商從業(yè)者蔣凌說。
近日，貝殼財(cái)經(jīng)記者在短視頻平臺以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)大量涉及AI合成聲音的視頻，一條“10秒鐘克隆任何聲音”的視頻講解顯示，AI技術(shù)可將聲音調(diào)整為孫悟空、曹操、哪吒等多個角色。
隨著人工智能技術(shù)普及，AI模擬聲音的門檻也大幅降低，甚至軟件都能隨處下載。通過一些開源軟件和平臺，普通用戶即使沒有專業(yè)知識以及成本就能輕松操作。
貝殼財(cái)經(jīng)記者在社交平臺上搜索發(fā)現(xiàn)多個AI合成聲音軟件的廣告和下載渠道，價格也僅需幾元到數(shù)十元。不少廣告更是標(biāo)榜“可隨意模仿明星語音”“通過一句話就可以克隆出任何聲音”等噱頭。
為調(diào)查所需，貝殼財(cái)經(jīng)記者下載了一款在GitHub上開源的聲音克隆軟件。體驗(yàn)過程中，貝殼財(cái)經(jīng)記者上傳了一段由本人播報的3分鐘錄音，在經(jīng)過AI模型訓(xùn)練后，成功得到了這一聲音的模型文件。此后只需輸入任意文字，軟件即可實(shí)現(xiàn)這一聲音的口播內(nèi)容。
貝殼財(cái)經(jīng)記者發(fā)現(xiàn)，AI生成的語音模型連錄制者在發(fā)音時的吐字習(xí)慣也能模仿。對于一些較短的語句，很難識別出這是機(jī)器合成的語音。相比之下，生成長語句時，則會出現(xiàn)瑕疵。盡管如此，只要多次生成，再從中挑選合成效果較好的語句，也能以假亂真。
社交平臺上不少公眾人物的聲音已被AI克隆，其中“如何模仿雷軍說話”“讓明星給你播新聞”的視頻軟件教學(xué)和推廣并不難尋。
貝殼財(cái)經(jīng)記者注意到，這些軟件操作流程頗為簡單，使用者僅需對著鏡頭錄制一段話，數(shù)秒鐘后這些話通過AI技術(shù)就能變成某位名人的聲音。值得注意的是，類似軟件錄入名人聲音時沒有任何授權(quán)證明，這意味著這些人根本不知道自己的聲音已被冒用。
實(shí)際上，早前就有利用軟件修改的明星靳東聲音與“粉絲”互動，詐騙老年人近百萬元。另外利用AI模仿國家傳染病醫(yī)學(xué)中心主任張文宏的聲音吐槽熱門話題，也曾引發(fā)關(guān)注。
一位AI領(lǐng)域從業(yè)者告訴貝殼財(cái)經(jīng)記者，AI能夠克隆聲音源于其能通過深度學(xué)習(xí)算法，從采集的聲音樣本中提取頻率、音色、聲調(diào)等關(guān)鍵特征，再將這些特征記錄進(jìn)行合成，“《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中所出現(xiàn)的品牌植入，正是通過類似手段。”
“無論網(wǎng)友將AI模擬人聲用于惡搞以追逐流量，還是克隆名人聲音用以帶貨，都對聲音‘原主’和消費(fèi)者帶來不良影響。發(fā)布者除了獲得流量曝光和廣告收入外，不乏假借身份傳播虛假消息，從而實(shí)現(xiàn)詐騙目的。”上述人士表示。
圍獵中老年，“AI換臉擬聲”亟待治理
隱形的賣貨方式以及真真假假的劇情，讓不熟悉AI技術(shù)的中老年人很難辨別，也就成了被圍獵的對象。
多位電商從業(yè)者接受采訪時坦言，此類商家的目標(biāo)群體主要為追求身體健康的人群，其中又以中老年人群體為主。通過打造權(quán)威專家人設(shè)發(fā)布“時事點(diǎn)評”“健康養(yǎng)生”等內(nèi)容，以吸引銷售目標(biāo)的關(guān)注，最終再以視頻流量分成和櫥窗帶貨的模式變現(xiàn)。
“父母聽信‘專家視頻’買回一堆保健品，甚至還到處推薦身邊朋友購買。”一位網(wǎng)友吐槽稱，家中長輩對于AI不了解，認(rèn)為視頻內(nèi)容和說辭都是真的，甚至當(dāng)家里人再三解釋視頻是偽造時，也會固執(zhí)地堅(jiān)信沒有上當(dāng)，“根本勸不住，AI語音騙局對老年人簡直就是降維打擊。”
值得注意的是，類似商品不乏資質(zhì)存疑、廠商成謎的情況。貝殼財(cái)經(jīng)記者搜索一款同樣由AI語音植入的益生菌品牌時注意到，產(chǎn)品鏈接跳轉(zhuǎn)至商城頁面后出現(xiàn)多款宣傳封面、產(chǎn)品包裝、文案說辭幾乎一樣的商品，生產(chǎn)廠商卻并不相同，很難讓人判斷出真?zhèn)巍?span style="display:none">AhH即熱新聞——關(guān)注每天科技社會生活新變化gihot.com
“消費(fèi)者在觀看視頻時下單往往屬于沖動消費(fèi)，其本質(zhì)更多出于對藝人和專業(yè)人士背書的信任。然而，對商品真實(shí)效果、品質(zhì)優(yōu)劣、是否適用于自身等情況并不清楚。”蔣凌告訴貝殼財(cái)經(jīng)記者，商家選擇類似傳播渠道無疑比花錢打廣告效果更好，成本也更加低廉，“當(dāng)消費(fèi)者反應(yīng)過來時，商家已完成了快速傳播、收割變現(xiàn)，甚至注銷跑路的營銷閉環(huán)。”
無論對于中老年人還是年輕網(wǎng)友而言，AI合成語音比早前的AI換臉視頻更難辨別，稍不注意就容易中招。
2024年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，明確認(rèn)定在具備可識別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。法院認(rèn)為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。
今年兩會期間，全國人大代表、小米集團(tuán)創(chuàng)始人雷軍建議“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
貝殼財(cái)經(jīng)記者了解到，早前短視頻平臺上曾出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，雷軍兩會期間回應(yīng)，“一開始我還覺得這是網(wǎng)民喜聞樂見的一種方式，但是隨著內(nèi)容越來越多，網(wǎng)友們也都在投訴。”為此，他呼吁盡快出臺相關(guān)治理措施。
同樣，全國政協(xié)委員靳東也回應(yīng)了AI換臉導(dǎo)致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣，希望能建立更好的規(guī)則。”
河南澤槿律師事務(wù)所主任付建告訴貝殼財(cái)經(jīng)記者，通過AI技術(shù)冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國民法典》，對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。而商家利用AI篡改專家說辭進(jìn)行直播賣貨既侵犯了專家有關(guān)聲音的人格權(quán)益，也可能損害了專家的名譽(yù)權(quán)以及肖像權(quán)。同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構(gòu)成消費(fèi)者欺詐，違反了《反不正當(dāng)競爭法》和《消費(fèi)者權(quán)益保護(hù)法》有關(guān)規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責(zé)任以及相應(yīng)的民事賠償責(zé)任，情節(jié)嚴(yán)重的還涉及刑事犯罪。
“平臺有權(quán)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《電子商務(wù)法》以及平臺規(guī)則履行監(jiān)管義務(wù)，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導(dǎo)致?lián)p害擴(kuò)大的，對擴(kuò)大部分與不法商家承擔(dān)連帶責(zé)任。”付建說。
“上當(dāng)受騙了！沒想到視頻切片里‘專家推薦說辭’居然是AI造假。”00后小高憤怒地將購買的減肥產(chǎn)品扔進(jìn)垃圾桶。
小高告訴新京報貝殼財(cái)經(jīng)記者，自己之所以心動，源于看見《國醫(yī)少年志》視頻切片里推薦了這款減肥產(chǎn)品，結(jié)果未見效果反而被包裝營銷暗算。“原以為有專家背書的商品不會差，結(jié)果發(fā)現(xiàn)這些說辭居然是AI工具模仿語音篡改形成，專家根本就沒說過這些話。”
隨著《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目出圈，減肥、養(yǎng)生成為話題，但是短視頻平臺上不少節(jié)目切片卻開始“變味”，借著類似節(jié)目的噱頭暗中推薦保健商品，甚至宣稱“絕對有效”。
實(shí)際上，這些視頻切片大多為移花接木，內(nèi)容看似是節(jié)目片段，但專家話術(shù)、字幕等細(xì)節(jié)卻是商家以AI技術(shù)進(jìn)行篡改，進(jìn)而植入品牌和帶貨。
“部分商家和視頻主抓住消費(fèi)者追求健康的心態(tài)，借以‘權(quán)威’‘專業(yè)’噱頭讓消費(fèi)者信以為真，繼而陷入其所設(shè)下的陷阱。”從事電商工作多年的蔣凌告訴新京報貝殼財(cái)經(jīng)記者，如今短視頻平臺中確實(shí)充斥大量類似切片，甚至不乏修改名人語音進(jìn)行商品帶貨的現(xiàn)象，“受此影響，不但多位名人和節(jié)目IP被造假，消費(fèi)者權(quán)益也在不知情中受到傷害，而唯一獲利的只有惡意植入的品牌商。”
加句臺詞，綜藝切片包裝出“明星代言”
因?yàn)榉逝?，小高?jīng)常上網(wǎng)尋找各種減肥方法和藥物。一次瀏覽短視頻時，他無意中看到視頻切片介紹一檔名為《國醫(yī)少年志》的綜藝節(jié)目，其中，中醫(yī)專家介紹如何有效減小肚子贅肉時，除了介紹白蘿卜、山楂干、紅棗等食材用以煮水飲用能控制體重外，還特意推銷一款名為“蔻敘堂丁香膏”的減肥產(chǎn)品。
“資深中醫(yī)在視頻里肯定表示‘早晚各一次，一個多月肚子就平了’，加上節(jié)目IP和多位藝人的背書，效果應(yīng)該差不了。”心動的小高當(dāng)即根據(jù)品牌名在電商平臺搜索并花費(fèi)20多元下了一單。幾天體驗(yàn)后，小高發(fā)現(xiàn)減肥效果遠(yuǎn)沒有視頻宣傳般明顯，體重沒有絲毫變化。
和小高有著類似經(jīng)歷的，還有00后女孩張伊。她告訴貝殼財(cái)經(jīng)記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的一款商品“種草”，但真正體驗(yàn)后發(fā)現(xiàn)沒有任何效果。
貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，類似視頻切片在短視頻平臺中比比皆是，但是眼見并非為實(shí)。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費(fèi)者所追捧，也讓他們成為部分商家收割的對象。
貝殼財(cái)經(jīng)記者在短視頻平臺上搜索發(fā)現(xiàn)，不少非節(jié)目官方所發(fā)布的切片里夾藏大量“私貨”，視頻主通過AI技術(shù)更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經(jīng)過包裝成功實(shí)現(xiàn)“名人帶貨”。
以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了“資藥堂（的赤菊膏）就很不錯”的短短一句話。
移花接木的招數(shù)也出現(xiàn)在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為“詩諾千君貼”的商品被植入，并在字幕中顯示“提高代謝水平”“年輕人可以試試”，同樣實(shí)現(xiàn)明星帶貨的效果。
AI悄然篡改視頻內(nèi)容，模糊了視頻真假的邊界，也迷惑了不少消費(fèi)者。貝殼財(cái)經(jīng)記者注意到，上當(dāng)?shù)木W(wǎng)友在社交平臺上吐槽“純智商稅”“節(jié)目組推銷劣質(zhì)商品”等，質(zhì)疑產(chǎn)品的同時也將矛頭直指節(jié)目組。
對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實(shí)施產(chǎn)品推廣行為，歪曲了節(jié)目內(nèi)容。節(jié)目組從未授權(quán)任何第三方賬號利用節(jié)目內(nèi)容宣傳相關(guān)的任何產(chǎn)品，“任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關(guān)產(chǎn)品的信息均為虛假信息。”
AI變聲“零門檻”，僅需幾元可隨意模仿
一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。
“這些商品利用人們對身體健康的關(guān)注心態(tài)，通過AI篡改臺詞和字幕，以‘專業(yè)’‘權(quán)威’的噱頭讓消費(fèi)者信以為真，進(jìn)而陷入銷售陷阱。”電商從業(yè)者蔣凌說。
近日，貝殼財(cái)經(jīng)記者在短視頻平臺以“AI克隆聲音”為關(guān)鍵詞檢索發(fā)現(xiàn)大量涉及AI合成聲音的視頻，一條“10秒鐘克隆任何聲音”的視頻講解顯示，AI技術(shù)可將聲音調(diào)整為孫悟空、曹操、哪吒等多個角色。
隨著人工智能技術(shù)普及，AI模擬聲音的門檻也大幅降低，甚至軟件都能隨處下載。通過一些開源軟件和平臺，普通用戶即使沒有專業(yè)知識以及成本就能輕松操作。
貝殼財(cái)經(jīng)記者在社交平臺上搜索發(fā)現(xiàn)多個AI合成聲音軟件的廣告和下載渠道，價格也僅需幾元到數(shù)十元。不少廣告更是標(biāo)榜“可隨意模仿明星語音”“通過一句話就可以克隆出任何聲音”等噱頭。
為調(diào)查所需，貝殼財(cái)經(jīng)記者下載了一款在GitHub上開源的聲音克隆軟件。體驗(yàn)過程中，貝殼財(cái)經(jīng)記者上傳了一段由本人播報的3分鐘錄音，在經(jīng)過AI模型訓(xùn)練后，成功得到了這一聲音的模型文件。此后只需輸入任意文字，軟件即可實(shí)現(xiàn)這一聲音的口播內(nèi)容。
貝殼財(cái)經(jīng)記者發(fā)現(xiàn)，AI生成的語音模型連錄制者在發(fā)音時的吐字習(xí)慣也能模仿。對于一些較短的語句，很難識別出這是機(jī)器合成的語音。相比之下，生成長語句時，則會出現(xiàn)瑕疵。盡管如此，只要多次生成，再從中挑選合成效果較好的語句，也能以假亂真。
社交平臺上不少公眾人物的聲音已被AI克隆，其中“如何模仿雷軍說話”“讓明星給你播新聞”的視頻軟件教學(xué)和推廣并不難尋。
貝殼財(cái)經(jīng)記者注意到，這些軟件操作流程頗為簡單，使用者僅需對著鏡頭錄制一段話，數(shù)秒鐘后這些話通過AI技術(shù)就能變成某位名人的聲音。值得注意的是，類似軟件錄入名人聲音時沒有任何授權(quán)證明，這意味著這些人根本不知道自己的聲音已被冒用。
實(shí)際上，早前就有利用軟件修改的明星靳東聲音與“粉絲”互動，詐騙老年人近百萬元。另外利用AI模仿國家傳染病醫(yī)學(xué)中心主任張文宏的聲音吐槽熱門話題，也曾引發(fā)關(guān)注。
一位AI領(lǐng)域從業(yè)者告訴貝殼財(cái)經(jīng)記者，AI能夠克隆聲音源于其能通過深度學(xué)習(xí)算法，從采集的聲音樣本中提取頻率、音色、聲調(diào)等關(guān)鍵特征，再將這些特征記錄進(jìn)行合成，“《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中所出現(xiàn)的品牌植入，正是通過類似手段。”
“無論網(wǎng)友將AI模擬人聲用于惡搞以追逐流量，還是克隆名人聲音用以帶貨，都對聲音‘原主’和消費(fèi)者帶來不良影響。發(fā)布者除了獲得流量曝光和廣告收入外，不乏假借身份傳播虛假消息，從而實(shí)現(xiàn)詐騙目的。”上述人士表示。
圍獵中老年，“AI換臉擬聲”亟待治理
隱形的賣貨方式以及真真假假的劇情，讓不熟悉AI技術(shù)的中老年人很難辨別，也就成了被圍獵的對象。
多位電商從業(yè)者接受采訪時坦言，此類商家的目標(biāo)群體主要為追求身體健康的人群，其中又以中老年人群體為主。通過打造權(quán)威專家人設(shè)發(fā)布“時事點(diǎn)評”“健康養(yǎng)生”等內(nèi)容，以吸引銷售目標(biāo)的關(guān)注，最終再以視頻流量分成和櫥窗帶貨的模式變現(xiàn)。
“父母聽信‘專家視頻’買回一堆保健品，甚至還到處推薦身邊朋友購買。”一位網(wǎng)友吐槽稱，家中長輩對于AI不了解，認(rèn)為視頻內(nèi)容和說辭都是真的，甚至當(dāng)家里人再三解釋視頻是偽造時，也會固執(zhí)地堅(jiān)信沒有上當(dāng)，“根本勸不住，AI語音騙局對老年人簡直就是降維打擊。”
值得注意的是，類似商品不乏資質(zhì)存疑、廠商成謎的情況。貝殼財(cái)經(jīng)記者搜索一款同樣由AI語音植入的益生菌品牌時注意到，產(chǎn)品鏈接跳轉(zhuǎn)至商城頁面后出現(xiàn)多款宣傳封面、產(chǎn)品包裝、文案說辭幾乎一樣的商品，生產(chǎn)廠商卻并不相同，很難讓人判斷出真?zhèn)巍?span style="display:none">AhH即熱新聞——關(guān)注每天科技社會生活新變化gihot.com
“消費(fèi)者在觀看視頻時下單往往屬于沖動消費(fèi)，其本質(zhì)更多出于對藝人和專業(yè)人士背書的信任。然而，對商品真實(shí)效果、品質(zhì)優(yōu)劣、是否適用于自身等情況并不清楚。”蔣凌告訴貝殼財(cái)經(jīng)記者，商家選擇類似傳播渠道無疑比花錢打廣告效果更好，成本也更加低廉，“當(dāng)消費(fèi)者反應(yīng)過來時，商家已完成了快速傳播、收割變現(xiàn)，甚至注銷跑路的營銷閉環(huán)。”
無論對于中老年人還是年輕網(wǎng)友而言，AI合成語音比早前的AI換臉視頻更難辨別，稍不注意就容易中招。
2024年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，明確認(rèn)定在具備可識別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。法院認(rèn)為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。
今年兩會期間，全國人大代表、小米集團(tuán)創(chuàng)始人雷軍建議“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
貝殼財(cái)經(jīng)記者了解到，早前短視頻平臺上曾出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，雷軍兩會期間回應(yīng)，“一開始我還覺得這是網(wǎng)民喜聞樂見的一種方式，但是隨著內(nèi)容越來越多，網(wǎng)友們也都在投訴。”為此，他呼吁盡快出臺相關(guān)治理措施。
同樣，全國政協(xié)委員靳東也回應(yīng)了AI換臉導(dǎo)致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣，希望能建立更好的規(guī)則。”
河南澤槿律師事務(wù)所主任付建告訴貝殼財(cái)經(jīng)記者，通過AI技術(shù)冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國民法典》，對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定。而商家利用AI篡改專家說辭進(jìn)行直播賣貨既侵犯了專家有關(guān)聲音的人格權(quán)益，也可能損害了專家的名譽(yù)權(quán)以及肖像權(quán)。同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構(gòu)成消費(fèi)者欺詐，違反了《反不正當(dāng)競爭法》和《消費(fèi)者權(quán)益保護(hù)法》有關(guān)規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責(zé)任以及相應(yīng)的民事賠償責(zé)任，情節(jié)嚴(yán)重的還涉及刑事犯罪。
“平臺有權(quán)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《電子商務(wù)法》以及平臺規(guī)則履行監(jiān)管義務(wù)，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導(dǎo)致?lián)p害擴(kuò)大的，對擴(kuò)大部分與不法商家承擔(dān)連帶責(zé)任。”付建說。
本文鏈接：http://jphkf.cn/news-2-1077-0.htmlAI變聲制造“明星代言”：克隆劉曉慶聲音悄悄帶貨
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
