近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。本次專項(xiàng)行動(dòng)分兩個(gè)階段開展。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，推動(dòng)網(wǎng)站平臺(tái)提升檢測鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
第一階段重點(diǎn)整治6類突出問題，包括違規(guī)AI產(chǎn)品，傳授、售賣違規(guī)AI產(chǎn)品教程和商品，訓(xùn)練語料管理不嚴(yán)，安全管理措施薄弱，未落實(shí)內(nèi)容標(biāo)識(shí)要求，重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)。記者了解到，當(dāng)前人工智能相關(guān)產(chǎn)品和服務(wù)存在一些亂象，比如，利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序；提供“一鍵脫衣”等違背法律、倫理的功能；在未經(jīng)授權(quán)同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私，等等。一些已備案提供醫(yī)療、金融、未成年人等重點(diǎn)領(lǐng)域問答服務(wù)的AI產(chǎn)品，未針對(duì)性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施，出現(xiàn)“AI開處方”“誘導(dǎo)投資”“AI幻覺”等問題，誤導(dǎo)學(xué)生、患者，擾亂金融市場秩序。“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)第一階段，將圍繞上述問題開展重點(diǎn)整治。
第二階段重點(diǎn)整治7類突出問題，包括利用AI制作發(fā)布謠言、利用AI制作發(fā)布不實(shí)信息、利用AI制作發(fā)布色情低俗內(nèi)容、利用AI假冒他人實(shí)施侵權(quán)違法行為、利用AI從事網(wǎng)絡(luò)水軍活動(dòng)、AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)、侵害未成年人權(quán)益。當(dāng)前，利用AI無中生有、憑空捏造涉時(shí)事政治、公共政策、社會(huì)民生、國際關(guān)系、突發(fā)事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策等問題時(shí)有發(fā)生，AI應(yīng)用程序誘導(dǎo)未成年人沉迷、損害未成年人身心健康的情況不時(shí)出現(xiàn)，專項(xiàng)行動(dòng)第二階段將重點(diǎn)打擊、治理這些亂象。
中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識(shí)專項(xiàng)行動(dòng)對(duì)于防范AI技術(shù)濫用風(fēng)險(xiǎn)、維護(hù)網(wǎng)民合法權(quán)益的重要意義，切實(shí)履行屬地管理責(zé)任，健全AI生成合成內(nèi)容審核機(jī)制，提升技術(shù)檢測能力，做好整改落實(shí)。
近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。本次專項(xiàng)行動(dòng)分兩個(gè)階段開展。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理，推動(dòng)網(wǎng)站平臺(tái)提升檢測鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
第一階段重點(diǎn)整治6類突出問題，包括違規(guī)AI產(chǎn)品，傳授、售賣違規(guī)AI產(chǎn)品教程和商品，訓(xùn)練語料管理不嚴(yán)，安全管理措施薄弱，未落實(shí)內(nèi)容標(biāo)識(shí)要求，重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)。記者了解到，當(dāng)前人工智能相關(guān)產(chǎn)品和服務(wù)存在一些亂象，比如，利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序；提供“一鍵脫衣”等違背法律、倫理的功能；在未經(jīng)授權(quán)同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私，等等。一些已備案提供醫(yī)療、金融、未成年人等重點(diǎn)領(lǐng)域問答服務(wù)的AI產(chǎn)品，未針對(duì)性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施，出現(xiàn)“AI開處方”“誘導(dǎo)投資”“AI幻覺”等問題，誤導(dǎo)學(xué)生、患者，擾亂金融市場秩序。“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)第一階段，將圍繞上述問題開展重點(diǎn)整治。
第二階段重點(diǎn)整治7類突出問題，包括利用AI制作發(fā)布謠言、利用AI制作發(fā)布不實(shí)信息、利用AI制作發(fā)布色情低俗內(nèi)容、利用AI假冒他人實(shí)施侵權(quán)違法行為、利用AI從事網(wǎng)絡(luò)水軍活動(dòng)、AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)、侵害未成年人權(quán)益。當(dāng)前，利用AI無中生有、憑空捏造涉時(shí)事政治、公共政策、社會(huì)民生、國際關(guān)系、突發(fā)事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策等問題時(shí)有發(fā)生，AI應(yīng)用程序誘導(dǎo)未成年人沉迷、損害未成年人身心健康的情況不時(shí)出現(xiàn)，專項(xiàng)行動(dòng)第二階段將重點(diǎn)打擊、治理這些亂象。
中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識(shí)專項(xiàng)行動(dòng)對(duì)于防范AI技術(shù)濫用風(fēng)險(xiǎn)、維護(hù)網(wǎng)民合法權(quán)益的重要意義，切實(shí)履行屬地管理責(zé)任，健全AI生成合成內(nèi)容審核機(jī)制，提升技術(shù)檢測能力，做好整改落實(shí)。
本文鏈接：http://jphkf.cn/news-2-2115-0.html中央網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
