4月29日，科技部官網(wǎng)公布《虛擬現(xiàn)實技術(shù)研發(fā)倫理指引》（以下簡稱《指引》），意在著力構(gòu)建虛擬現(xiàn)實技術(shù)研發(fā)的倫理框架，規(guī)范相關(guān)技術(shù)創(chuàng)新路徑，防控潛在倫理風(fēng)險。
這份由國家科技倫理委員會人工智能倫理分委員會制定的文件明確，從事虛擬現(xiàn)實技術(shù)的主體應(yīng)主動開展倫理評估（審查），設(shè)置相應(yīng)審查機(jī)構(gòu)（機(jī)制），產(chǎn)品或技術(shù)應(yīng)按照國家有關(guān)規(guī)定獲得倫理審查通過后方能上市。
“虛擬現(xiàn)實技術(shù)正成為全球科技競爭的一個戰(zhàn)略制高點。其核心價值不僅在于拓展人類感知維度與認(rèn)知邊界，更承載著推動產(chǎn)業(yè)升級、重構(gòu)社會形態(tài)的巨大潛能。”清華大學(xué)蘇世民書院院長薛瀾教授在接受科技日報記者采訪時說，但虛擬現(xiàn)實技術(shù)的深度應(yīng)用伴生多維倫理挑戰(zhàn)。
值得關(guān)注的是，由于沉浸式體驗、角色扮演、感官剝奪和技術(shù)依賴，虛擬現(xiàn)實技術(shù)使得行為主體容易出現(xiàn)道德意識虛化、自我意識弱化、價值認(rèn)同偏移等價值異化的倫理問題；虛擬現(xiàn)實技術(shù)因其虛擬環(huán)境的設(shè)計、交互機(jī)制和技術(shù)手段，存在行為操控、行為依賴等倫理風(fēng)險；虛擬現(xiàn)實技術(shù)的誤用、濫用，將加劇社會安全、社會責(zé)任等問題。
為此，《指引》明確了虛擬現(xiàn)實技術(shù)研發(fā)的基本原則、倫理要求、倫理問題、倫理評估（審查）等，提出了虛擬現(xiàn)實技術(shù)研究與應(yīng)用的一般要求：合法合規(guī)、知情同意、隱私保護(hù)和個人信息保護(hù)、風(fēng)險防控、責(zé)任明晰、群體保護(hù)、警示標(biāo)識。
在薛瀾看來，《指引》的特點表現(xiàn)為體現(xiàn)共識度、注重覆蓋面、力求操作性。“文件覆蓋虛擬現(xiàn)實技術(shù)從研發(fā)、產(chǎn)品化到場景落地的主要類型與重要環(huán)節(jié)，特別強(qiáng)化對社交娛樂、教育培訓(xùn)等高頻率民生場景的規(guī)范要求，以及對兒童等特殊群體的專項保護(hù)。”他說。
針對虛擬現(xiàn)實技術(shù)研發(fā)，《指引》構(gòu)建了覆蓋虛擬現(xiàn)實技術(shù)全生命周期的倫理評估（審查）機(jī)構(gòu)（機(jī)制）。具體而言，虛擬現(xiàn)實技術(shù)倫理評估（審查）需進(jìn)行全流程閉環(huán)管理，重點針對虛擬場景中的身份混淆、行為成癮、價值觀偏移等特有風(fēng)險進(jìn)行預(yù)判。與此同時，需采用多維度手段對虛擬現(xiàn)實產(chǎn)品或技術(shù)進(jìn)行審查，檢測虛擬環(huán)境對認(rèn)知決策的潛在影響；需對虛擬現(xiàn)實產(chǎn)品或技術(shù)采取動態(tài)化評估方法，建立用戶年齡分級、使用時長預(yù)警等適配性審查標(biāo)準(zhǔn)等。
當(dāng)前，以生成式人工智能、多模態(tài)交互為代表的人工智能技術(shù)深度融入虛擬現(xiàn)實領(lǐng)域，為虛擬現(xiàn)實技術(shù)研究和應(yīng)用帶來新機(jī)遇。然而，技術(shù)融合也帶來認(rèn)知滲透、社會關(guān)系重構(gòu)等新型倫理挑戰(zhàn)：生成式人工智能和虛擬現(xiàn)實的結(jié)合可能模糊虛實邊界，導(dǎo)致用戶產(chǎn)生持續(xù)性認(rèn)知偏差；算法推薦機(jī)制在虛擬環(huán)境中形成的“信息繭房”，可能加劇價值觀極化；虛擬身份的多重映射特性，更易引發(fā)網(wǎng)絡(luò)欺詐、數(shù)據(jù)濫用等社會問題……
薛瀾表示，為此，《指引》依據(jù)“合理控制風(fēng)險”與“維護(hù)個人權(quán)益”原則，從“風(fēng)險防控”與“警示標(biāo)識”兩大維度作出針對性部署：要求實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴，提升安全評估和管控能力，確保人始終能可靠控制虛擬現(xiàn)實技術(shù)，采取有效措施避免和預(yù)防虛擬現(xiàn)實技術(shù)的誤用、濫用、惡用。
《指引》還要求虛擬現(xiàn)實產(chǎn)品在設(shè)備、界面、交互場景及說明書中以文字、語音、音頻或者通用符號等顯性標(biāo)識形式醒目提示潛在風(fēng)險，明確說明技術(shù)應(yīng)用可能誘發(fā)的健康風(fēng)險、行為異化、自我意識干擾等問題，并注重警示標(biāo)識的動態(tài)性、可識別性。
4月29日，科技部官網(wǎng)公布《虛擬現(xiàn)實技術(shù)研發(fā)倫理指引》（以下簡稱《指引》），意在著力構(gòu)建虛擬現(xiàn)實技術(shù)研發(fā)的倫理框架，規(guī)范相關(guān)技術(shù)創(chuàng)新路徑，防控潛在倫理風(fēng)險。
這份由國家科技倫理委員會人工智能倫理分委員會制定的文件明確，從事虛擬現(xiàn)實技術(shù)的主體應(yīng)主動開展倫理評估（審查），設(shè)置相應(yīng)審查機(jī)構(gòu)（機(jī)制），產(chǎn)品或技術(shù)應(yīng)按照國家有關(guān)規(guī)定獲得倫理審查通過后方能上市。
“虛擬現(xiàn)實技術(shù)正成為全球科技競爭的一個戰(zhàn)略制高點。其核心價值不僅在于拓展人類感知維度與認(rèn)知邊界，更承載著推動產(chǎn)業(yè)升級、重構(gòu)社會形態(tài)的巨大潛能。”清華大學(xué)蘇世民書院院長薛瀾教授在接受科技日報記者采訪時說，但虛擬現(xiàn)實技術(shù)的深度應(yīng)用伴生多維倫理挑戰(zhàn)。
值得關(guān)注的是，由于沉浸式體驗、角色扮演、感官剝奪和技術(shù)依賴，虛擬現(xiàn)實技術(shù)使得行為主體容易出現(xiàn)道德意識虛化、自我意識弱化、價值認(rèn)同偏移等價值異化的倫理問題；虛擬現(xiàn)實技術(shù)因其虛擬環(huán)境的設(shè)計、交互機(jī)制和技術(shù)手段，存在行為操控、行為依賴等倫理風(fēng)險；虛擬現(xiàn)實技術(shù)的誤用、濫用，將加劇社會安全、社會責(zé)任等問題。
為此，《指引》明確了虛擬現(xiàn)實技術(shù)研發(fā)的基本原則、倫理要求、倫理問題、倫理評估（審查）等，提出了虛擬現(xiàn)實技術(shù)研究與應(yīng)用的一般要求：合法合規(guī)、知情同意、隱私保護(hù)和個人信息保護(hù)、風(fēng)險防控、責(zé)任明晰、群體保護(hù)、警示標(biāo)識。
在薛瀾看來，《指引》的特點表現(xiàn)為體現(xiàn)共識度、注重覆蓋面、力求操作性。“文件覆蓋虛擬現(xiàn)實技術(shù)從研發(fā)、產(chǎn)品化到場景落地的主要類型與重要環(huán)節(jié)，特別強(qiáng)化對社交娛樂、教育培訓(xùn)等高頻率民生場景的規(guī)范要求，以及對兒童等特殊群體的專項保護(hù)。”他說。
針對虛擬現(xiàn)實技術(shù)研發(fā)，《指引》構(gòu)建了覆蓋虛擬現(xiàn)實技術(shù)全生命周期的倫理評估（審查）機(jī)構(gòu)（機(jī)制）。具體而言，虛擬現(xiàn)實技術(shù)倫理評估（審查）需進(jìn)行全流程閉環(huán)管理，重點針對虛擬場景中的身份混淆、行為成癮、價值觀偏移等特有風(fēng)險進(jìn)行預(yù)判。與此同時，需采用多維度手段對虛擬現(xiàn)實產(chǎn)品或技術(shù)進(jìn)行審查，檢測虛擬環(huán)境對認(rèn)知決策的潛在影響；需對虛擬現(xiàn)實產(chǎn)品或技術(shù)采取動態(tài)化評估方法，建立用戶年齡分級、使用時長預(yù)警等適配性審查標(biāo)準(zhǔn)等。
當(dāng)前，以生成式人工智能、多模態(tài)交互為代表的人工智能技術(shù)深度融入虛擬現(xiàn)實領(lǐng)域，為虛擬現(xiàn)實技術(shù)研究和應(yīng)用帶來新機(jī)遇。然而，技術(shù)融合也帶來認(rèn)知滲透、社會關(guān)系重構(gòu)等新型倫理挑戰(zhàn)：生成式人工智能和虛擬現(xiàn)實的結(jié)合可能模糊虛實邊界，導(dǎo)致用戶產(chǎn)生持續(xù)性認(rèn)知偏差；算法推薦機(jī)制在虛擬環(huán)境中形成的“信息繭房”，可能加劇價值觀極化；虛擬身份的多重映射特性，更易引發(fā)網(wǎng)絡(luò)欺詐、數(shù)據(jù)濫用等社會問題……
薛瀾表示，為此，《指引》依據(jù)“合理控制風(fēng)險”與“維護(hù)個人權(quán)益”原則，從“風(fēng)險防控”與“警示標(biāo)識”兩大維度作出針對性部署：要求實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴，提升安全評估和管控能力，確保人始終能可靠控制虛擬現(xiàn)實技術(shù)，采取有效措施避免和預(yù)防虛擬現(xiàn)實技術(shù)的誤用、濫用、惡用。
《指引》還要求虛擬現(xiàn)實產(chǎn)品在設(shè)備、界面、交互場景及說明書中以文字、語音、音頻或者通用符號等顯性標(biāo)識形式醒目提示潛在風(fēng)險，明確說明技術(shù)應(yīng)用可能誘發(fā)的健康風(fēng)險、行為異化、自我意識干擾等問題，并注重警示標(biāo)識的動態(tài)性、可識別性。
本文鏈接：http://jphkf.cn/news-2-1991-0.html虛擬現(xiàn)實產(chǎn)品或技術(shù)須倫理審查通過后上市——專家解讀《虛擬現(xiàn)實技術(shù)研發(fā)倫理指引》
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
