國(guó)產(chǎn)推理大模型DeepSeek-R1的誕生，標(biāo)志著我國(guó)AI技術(shù)從“追趕者”向“領(lǐng)跑者”跨越。DeepSeek-R1成為全新的生產(chǎn)力工具，其開(kāi)源、透明、免費(fèi)等特質(zhì)，尤其適合政府與企業(yè)開(kāi)展私有化部署，但隨之而來(lái)的安全問(wèn)題也日益凸顯。
今年兩會(huì)期間，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎再度聚焦大模型安全。他認(rèn)為，DeepSeek-R1等先進(jìn)模型帶來(lái)了前所未有的機(jī)遇，也同樣面臨無(wú)法通過(guò)傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)，呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。
周鴻祎表示，“開(kāi)源帶來(lái)大模型的廣泛應(yīng)用，未來(lái)將會(huì)有各類專業(yè)大模型、垂直大模型、場(chǎng)景大模型，連接內(nèi)部知識(shí)庫(kù)，以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署，推進(jìn)‘智改數(shù)轉(zhuǎn)’，實(shí)現(xiàn)降本增效。然而大模型存在的幻覺(jué)、內(nèi)容安全等諸多問(wèn)題無(wú)法通過(guò)傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。”
周鴻祎認(rèn)為，大模型應(yīng)用安全主要集中在基座模型、知識(shí)庫(kù)和智能體三個(gè)方面?；Ｐ桶踩矫?，由于大模型普遍存在的幻覺(jué)現(xiàn)象，特別是在生成文本時(shí)可能輸出與現(xiàn)實(shí)不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場(chǎng)景下可能導(dǎo)致誤導(dǎo)性后果。知識(shí)庫(kù)安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲(chǔ)于內(nèi)部知識(shí)庫(kù)中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源。智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作，造成嚴(yán)重的物理?yè)p害。
針對(duì)上述挑戰(zhàn)，周鴻祎介紹，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對(duì)新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型-知識(shí)庫(kù)-智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“智改數(shù)轉(zhuǎn)”。
為進(jìn)一步強(qiáng)化這一防御體系，周鴻祎建議采取兩項(xiàng)措施：一是推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時(shí)出臺(tái)配套政策措施，鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對(duì)人工智能應(yīng)用所涉及的基座模型、知識(shí)庫(kù)、智能體等安全問(wèn)題，基于安全大模型技術(shù)開(kāi)展研發(fā)工作，加速推動(dòng)技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。二是組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機(jī)構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部實(shí)現(xiàn)技術(shù)成果共享，共同開(kāi)展產(chǎn)品及服務(wù)測(cè)試，待產(chǎn)品與服務(wù)成熟穩(wěn)定后，再向更廣闊的市場(chǎng)加以推廣。
國(guó)產(chǎn)推理大模型DeepSeek-R1的誕生，標(biāo)志著我國(guó)AI技術(shù)從“追趕者”向“領(lǐng)跑者”跨越。DeepSeek-R1成為全新的生產(chǎn)力工具，其開(kāi)源、透明、免費(fèi)等特質(zhì)，尤其適合政府與企業(yè)開(kāi)展私有化部署，但隨之而來(lái)的安全問(wèn)題也日益凸顯。
今年兩會(huì)期間，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎再度聚焦大模型安全。他認(rèn)為，DeepSeek-R1等先進(jìn)模型帶來(lái)了前所未有的機(jī)遇，也同樣面臨無(wú)法通過(guò)傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)，呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。
周鴻祎表示，“開(kāi)源帶來(lái)大模型的廣泛應(yīng)用，未來(lái)將會(huì)有各類專業(yè)大模型、垂直大模型、場(chǎng)景大模型，連接內(nèi)部知識(shí)庫(kù)，以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署，推進(jìn)‘智改數(shù)轉(zhuǎn)’，實(shí)現(xiàn)降本增效。然而大模型存在的幻覺(jué)、內(nèi)容安全等諸多問(wèn)題無(wú)法通過(guò)傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。”
周鴻祎認(rèn)為，大模型應(yīng)用安全主要集中在基座模型、知識(shí)庫(kù)和智能體三個(gè)方面?；Ｐ桶踩矫?，由于大模型普遍存在的幻覺(jué)現(xiàn)象，特別是在生成文本時(shí)可能輸出與現(xiàn)實(shí)不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場(chǎng)景下可能導(dǎo)致誤導(dǎo)性后果。知識(shí)庫(kù)安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲(chǔ)于內(nèi)部知識(shí)庫(kù)中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源。智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作，造成嚴(yán)重的物理?yè)p害。
針對(duì)上述挑戰(zhàn)，周鴻祎介紹，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對(duì)新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型-知識(shí)庫(kù)-智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“智改數(shù)轉(zhuǎn)”。
為進(jìn)一步強(qiáng)化這一防御體系，周鴻祎建議采取兩項(xiàng)措施：一是推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化。建議相關(guān)部門及時(shí)出臺(tái)配套政策措施，鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對(duì)人工智能應(yīng)用所涉及的基座模型、知識(shí)庫(kù)、智能體等安全問(wèn)題，基于安全大模型技術(shù)開(kāi)展研發(fā)工作，加速推動(dòng)技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。二是組建產(chǎn)業(yè)聯(lián)盟，推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機(jī)構(gòu)及終端用戶，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部實(shí)現(xiàn)技術(shù)成果共享，共同開(kāi)展產(chǎn)品及服務(wù)測(cè)試，待產(chǎn)品與服務(wù)成熟穩(wěn)定后，再向更廣闊的市場(chǎng)加以推廣。
本文鏈接：http://jphkf.cn/news-2-912-0.htmlDeepSeek開(kāi)啟AI新時(shí)代，應(yīng)完善大模型安全治理
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
