7月23日，科技部官網(wǎng)公布了《駕駛自動化技術(shù)研發(fā)倫理指引》（以下簡稱《指引》），針對不同類型的駕駛自動化系統(tǒng)分別提出相應(yīng)的倫理規(guī)范。
這份由國家科技倫理委員會人工智能倫理分委員會組織編寫的文件，意在指導(dǎo)駕駛自動化技術(shù)研究開發(fā)和應(yīng)用的規(guī)范開展，防范駕駛自動化技術(shù)研究開發(fā)與應(yīng)用過程中的科技倫理風(fēng)險(xiǎn)，推動該領(lǐng)域健康發(fā)展，確保駕駛自動化技術(shù)研發(fā)和推廣符合社會公眾利益。
對生命安全的尊重和保護(hù)擺在首位
“駕駛自動化系統(tǒng)具有技術(shù)和社會‘雙重’屬性，相關(guān)技術(shù)創(chuàng)新和產(chǎn)業(yè)化過程必須充分考慮社會公眾的價(jià)值追求和倫理考量。”國家科技倫理委員會人工智能倫理分委員會委員、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，提出符合我國國情的倫理指引，是為了規(guī)范駕駛自動化技術(shù)研發(fā)和推廣行為，防范和化解相關(guān)領(lǐng)域倫理風(fēng)險(xiǎn)。
《指引》的適用對象是與駕駛自動化技術(shù)相關(guān)的責(zé)任主體，包括技術(shù)研發(fā)主體、生產(chǎn)制造主體、使用主體等，適用的客體化載體為具有駕駛自動化功能的汽車，既適用于具有先進(jìn)駕駛輔助功能的汽車，也適用于裝載了自動駕駛系統(tǒng)的汽車。
《指引》提出了四個基本原則——以人為本、增進(jìn)福祉；安全優(yōu)先、尊重生命；公平公正、避免偏見；知情保障、信息公開。同時，《指引》提出了合法合規(guī)、效益提升、控制風(fēng)險(xiǎn)、及時調(diào)整、隱私保護(hù)等五項(xiàng)一般要求。
在龔克看來，《指引》呈現(xiàn)四大特點(diǎn)：倡導(dǎo)安全性、體現(xiàn)共識性、遵循漸進(jìn)性、強(qiáng)調(diào)可應(yīng)用性。比如，將駕駛安全置于突出地位，提出駕駛自動化技術(shù)研究開發(fā)和應(yīng)用必須充分考慮安全性，其中既包括駕駛自動化參與者的生命主體安全，也包括道路交通環(huán)境安全和數(shù)據(jù)、算法等技術(shù)安全。
《指引》明確，駕駛自動化系統(tǒng)的研究開發(fā)和應(yīng)用要在注重技術(shù)提升效益的同時，更加強(qiáng)調(diào)相關(guān)風(fēng)險(xiǎn)的防范和責(zé)任落實(shí)。
“在風(fēng)險(xiǎn)防范方面，高度重視駕駛自動化系統(tǒng)對生命安全的尊重和保護(hù)，明確提出在不可避免的交通事故和極端行車環(huán)境中，應(yīng)最大限度降低對人的傷害。”龔克認(rèn)為，《指引》還注重防范數(shù)據(jù)隱私、算法歧視、算法解釋等因素可能對相關(guān)主體造成的風(fēng)險(xiǎn)。
不同類型駕駛自動化系統(tǒng)皆“有規(guī)可循”
在綜合借鑒國際標(biāo)準(zhǔn)、國家政策和地方實(shí)踐的基礎(chǔ)上，基于《汽車駕駛自動化分級標(biāo)準(zhǔn)》等文件，《指引》將駕駛自動化劃分為先進(jìn)駕駛輔助階段、有限制階段的自動駕駛、無限制階段的自動駕駛?cè)N類型，對不同類型駕駛自動化的責(zé)任主體進(jìn)行劃分。
先進(jìn)駕駛輔助階段是指2級及以下的駕駛自動化，其責(zé)任主體通常是人類駕駛員；有限制階段的自動駕駛包括3級和4級駕駛自動化，責(zé)任主體因具體運(yùn)行場景而異，用戶和自動駕駛系統(tǒng)都可能成為責(zé)任主體；無限制階段的自動駕駛包括5級駕駛自動化，除非特殊情況下用戶主動介入操作，無限制階段自動駕駛的責(zé)任主體一般以自動駕駛系統(tǒng)為主。
《指引》明確，當(dāng)自動駕駛系統(tǒng)作為自動駕駛責(zé)任主體時，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產(chǎn)商、自動駕駛汽車權(quán)利人、自動駕駛系統(tǒng)用戶）清晰追責(zé)。
《指引》在“科普宣傳”部分指出，在發(fā)布重大研究成果時，相關(guān)主體應(yīng)堅(jiān)持客觀準(zhǔn)確、實(shí)事求是，避免片面夸大、隱匿風(fēng)險(xiǎn)，不得編造、傳播與駕駛自動化系統(tǒng)實(shí)際功能和效果不相符的虛假信息。
“由于受到專業(yè)知識限制，社會公眾容易陷入對駕駛自動化技術(shù)的認(rèn)知鴻溝，造成對相關(guān)產(chǎn)品的錯誤認(rèn)知和使用。”龔克告訴記者，在商業(yè)競爭誘導(dǎo)下，技術(shù)開發(fā)商和汽車生產(chǎn)商可能夸大技術(shù)能力或隱匿風(fēng)險(xiǎn)，誘發(fā)駕駛自動化系統(tǒng)相關(guān)事故導(dǎo)致的技術(shù)恐慌和信任危機(jī)。為了推動駕駛自動化技術(shù)健康發(fā)展，構(gòu)建廣泛的社會信任和倫理共識，《指引》單獨(dú)列出了相關(guān)主體在“科普宣傳”方面需遵循的倫理規(guī)范。
后續(xù)，《指引》將根據(jù)技術(shù)迭代、應(yīng)用場景拓展，以及社會反饋動態(tài)修訂并適時發(fā)布。
7月23日，科技部官網(wǎng)公布了《駕駛自動化技術(shù)研發(fā)倫理指引》（以下簡稱《指引》），針對不同類型的駕駛自動化系統(tǒng)分別提出相應(yīng)的倫理規(guī)范。
這份由國家科技倫理委員會人工智能倫理分委員會組織編寫的文件，意在指導(dǎo)駕駛自動化技術(shù)研究開發(fā)和應(yīng)用的規(guī)范開展，防范駕駛自動化技術(shù)研究開發(fā)與應(yīng)用過程中的科技倫理風(fēng)險(xiǎn)，推動該領(lǐng)域健康發(fā)展，確保駕駛自動化技術(shù)研發(fā)和推廣符合社會公眾利益。
對生命安全的尊重和保護(hù)擺在首位
“駕駛自動化系統(tǒng)具有技術(shù)和社會‘雙重’屬性，相關(guān)技術(shù)創(chuàng)新和產(chǎn)業(yè)化過程必須充分考慮社會公眾的價(jià)值追求和倫理考量。”國家科技倫理委員會人工智能倫理分委員會委員、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克表示，提出符合我國國情的倫理指引，是為了規(guī)范駕駛自動化技術(shù)研發(fā)和推廣行為，防范和化解相關(guān)領(lǐng)域倫理風(fēng)險(xiǎn)。
《指引》的適用對象是與駕駛自動化技術(shù)相關(guān)的責(zé)任主體，包括技術(shù)研發(fā)主體、生產(chǎn)制造主體、使用主體等，適用的客體化載體為具有駕駛自動化功能的汽車，既適用于具有先進(jìn)駕駛輔助功能的汽車，也適用于裝載了自動駕駛系統(tǒng)的汽車。
《指引》提出了四個基本原則——以人為本、增進(jìn)福祉；安全優(yōu)先、尊重生命；公平公正、避免偏見；知情保障、信息公開。同時，《指引》提出了合法合規(guī)、效益提升、控制風(fēng)險(xiǎn)、及時調(diào)整、隱私保護(hù)等五項(xiàng)一般要求。
在龔克看來，《指引》呈現(xiàn)四大特點(diǎn)：倡導(dǎo)安全性、體現(xiàn)共識性、遵循漸進(jìn)性、強(qiáng)調(diào)可應(yīng)用性。比如，將駕駛安全置于突出地位，提出駕駛自動化技術(shù)研究開發(fā)和應(yīng)用必須充分考慮安全性，其中既包括駕駛自動化參與者的生命主體安全，也包括道路交通環(huán)境安全和數(shù)據(jù)、算法等技術(shù)安全。
《指引》明確，駕駛自動化系統(tǒng)的研究開發(fā)和應(yīng)用要在注重技術(shù)提升效益的同時，更加強(qiáng)調(diào)相關(guān)風(fēng)險(xiǎn)的防范和責(zé)任落實(shí)。
“在風(fēng)險(xiǎn)防范方面，高度重視駕駛自動化系統(tǒng)對生命安全的尊重和保護(hù)，明確提出在不可避免的交通事故和極端行車環(huán)境中，應(yīng)最大限度降低對人的傷害。”龔克認(rèn)為，《指引》還注重防范數(shù)據(jù)隱私、算法歧視、算法解釋等因素可能對相關(guān)主體造成的風(fēng)險(xiǎn)。
不同類型駕駛自動化系統(tǒng)皆“有規(guī)可循”
在綜合借鑒國際標(biāo)準(zhǔn)、國家政策和地方實(shí)踐的基礎(chǔ)上，基于《汽車駕駛自動化分級標(biāo)準(zhǔn)》等文件，《指引》將駕駛自動化劃分為先進(jìn)駕駛輔助階段、有限制階段的自動駕駛、無限制階段的自動駕駛?cè)N類型，對不同類型駕駛自動化的責(zé)任主體進(jìn)行劃分。
先進(jìn)駕駛輔助階段是指2級及以下的駕駛自動化，其責(zé)任主體通常是人類駕駛員；有限制階段的自動駕駛包括3級和4級駕駛自動化，責(zé)任主體因具體運(yùn)行場景而異，用戶和自動駕駛系統(tǒng)都可能成為責(zé)任主體；無限制階段的自動駕駛包括5級駕駛自動化，除非特殊情況下用戶主動介入操作，無限制階段自動駕駛的責(zé)任主體一般以自動駕駛系統(tǒng)為主。
《指引》明確，當(dāng)自動駕駛系統(tǒng)作為自動駕駛責(zé)任主體時，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產(chǎn)商、自動駕駛汽車權(quán)利人、自動駕駛系統(tǒng)用戶）清晰追責(zé)。
《指引》在“科普宣傳”部分指出，在發(fā)布重大研究成果時，相關(guān)主體應(yīng)堅(jiān)持客觀準(zhǔn)確、實(shí)事求是，避免片面夸大、隱匿風(fēng)險(xiǎn)，不得編造、傳播與駕駛自動化系統(tǒng)實(shí)際功能和效果不相符的虛假信息。
“由于受到專業(yè)知識限制，社會公眾容易陷入對駕駛自動化技術(shù)的認(rèn)知鴻溝，造成對相關(guān)產(chǎn)品的錯誤認(rèn)知和使用。”龔克告訴記者，在商業(yè)競爭誘導(dǎo)下，技術(shù)開發(fā)商和汽車生產(chǎn)商可能夸大技術(shù)能力或隱匿風(fēng)險(xiǎn)，誘發(fā)駕駛自動化系統(tǒng)相關(guān)事故導(dǎo)致的技術(shù)恐慌和信任危機(jī)。為了推動駕駛自動化技術(shù)健康發(fā)展，構(gòu)建廣泛的社會信任和倫理共識，《指引》單獨(dú)列出了相關(guān)主體在“科普宣傳”方面需遵循的倫理規(guī)范。
后續(xù)，《指引》將根據(jù)技術(shù)迭代、應(yīng)用場景拓展，以及社會反饋動態(tài)修訂并適時發(fā)布。
本文鏈接：http://jphkf.cn/news-2-3047-0.html把好駕駛自動化的倫理“方向盤”
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
