近來(lái)，DeepSeek遭到黑客持續(xù)攻擊，側(cè)面反映出國(guó)產(chǎn)大模型面臨的安全困境。
不可否認(rèn)，以DeepSeek為代表的中國(guó)開(kāi)源大模型的崛起，不僅降低了大模型訓(xùn)練和部署的成本，加速了人工智能技術(shù)的普及，也打破了技術(shù)封鎖與商業(yè)壁壘的雙重禁錮，推動(dòng)人工智能行業(yè)走向更加開(kāi)放的新時(shí)代。但是，如同一把雙刃劍，作為開(kāi)源大模型，DeepSeek同樣需要面對(duì)所有開(kāi)源軟件共同的安全挑戰(zhàn)：由于源代碼開(kāi)放，開(kāi)源軟件的安全問(wèn)題比閉源軟件更加復(fù)雜，攻擊者可以自由查看、修改源代碼，進(jìn)而引發(fā)潛在的安全漏洞。
這并非杞人憂天，DeepSeek的遭遇就證實(shí)了這個(gè)規(guī)律：一方面，來(lái)自外部的網(wǎng)絡(luò)攻擊持續(xù)時(shí)間長(zhǎng)、破壞力大、手段多、變化快；另一方面，在部署和應(yīng)用中發(fā)現(xiàn)的漏洞，暴露出多種安全風(fēng)險(xiǎn)。
有鑒于此，2025開(kāi)年以來(lái)，各家安全公司嚴(yán)陣以待，紛紛探索新路徑、新范式，以筑牢網(wǎng)絡(luò)安全防線，為國(guó)產(chǎn)大模型保駕護(hù)航。
比如，亞信安全與亞信科技近日聯(lián)合發(fā)布的大模型安全解決方案，其思路可以歸納為“以人工智能護(hù)航人工智能”，不僅融合了亞信科技大模型產(chǎn)品在重點(diǎn)行業(yè)領(lǐng)域的豐富實(shí)踐經(jīng)驗(yàn)，而且依托亞信安全在大模型安全領(lǐng)域的研究成果和技術(shù)實(shí)力，打造了兼具實(shí)戰(zhàn)需求和大模型發(fā)展要求的安全解決方案，由云安全防護(hù)系統(tǒng)、大模型安全網(wǎng)關(guān)、終端數(shù)據(jù)防護(hù)系統(tǒng)、AI應(yīng)用風(fēng)險(xiǎn)防護(hù)系統(tǒng)四大系統(tǒng)提供防護(hù)，為大模型建立起覆蓋基礎(chǔ)層、模型層、工具層和AI應(yīng)用層的四層縱深防護(hù)。與此同時(shí)，該方案還提供兩項(xiàng)專業(yè)服務(wù)，即人工智能風(fēng)險(xiǎn)評(píng)測(cè)和人工智能安全服務(wù)，定期進(jìn)行風(fēng)險(xiǎn)評(píng)測(cè)評(píng)估，護(hù)航大模型及應(yīng)用安全。
今后，隨著越來(lái)越多應(yīng)用場(chǎng)景的落地，國(guó)產(chǎn)大模型仍將面臨層出不窮的新風(fēng)險(xiǎn)。大模型安全不應(yīng)該只是“亡羊補(bǔ)牢”，更應(yīng)該未雨綢繆，重構(gòu)安全體系。
對(duì)此，多位受訪專家表示，應(yīng)重視大模型在安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面的“系統(tǒng)性短板”，從多個(gè)層面入手，綜合運(yùn)用多種手段，打造全方位、多層次的安全防護(hù)網(wǎng)絡(luò)，尤其是要建設(shè)大模型的“原生安全”能力。
更為重要的是，大模型在安全領(lǐng)域的應(yīng)用潛力巨大，憑借其卓越的推理能力、定制化的訓(xùn)練方式和開(kāi)源特性，能夠有效提升各種安全任務(wù)的執(zhí)行效率和準(zhǔn)確性。因此，探索大模型在安全領(lǐng)域的創(chuàng)新應(yīng)用、以大模型治理大模型安全問(wèn)題成為重要方向。
業(yè)界已經(jīng)形成共識(shí)，大模型是一個(gè)覆蓋多行業(yè)的交叉生態(tài)系統(tǒng)，大模型安全風(fēng)險(xiǎn)的綜合治理不僅僅只是技術(shù)問(wèn)題，需要政府、企業(yè)、科研機(jī)構(gòu)等多方力量參與其中，群策群力，夯實(shí)國(guó)產(chǎn)大模型發(fā)展的基礎(chǔ)，打開(kāi)思路為人工智能產(chǎn)業(yè)保駕護(hù)航。
近來(lái)，DeepSeek遭到黑客持續(xù)攻擊，側(cè)面反映出國(guó)產(chǎn)大模型面臨的安全困境。
不可否認(rèn)，以DeepSeek為代表的中國(guó)開(kāi)源大模型的崛起，不僅降低了大模型訓(xùn)練和部署的成本，加速了人工智能技術(shù)的普及，也打破了技術(shù)封鎖與商業(yè)壁壘的雙重禁錮，推動(dòng)人工智能行業(yè)走向更加開(kāi)放的新時(shí)代。但是，如同一把雙刃劍，作為開(kāi)源大模型，DeepSeek同樣需要面對(duì)所有開(kāi)源軟件共同的安全挑戰(zhàn)：由于源代碼開(kāi)放，開(kāi)源軟件的安全問(wèn)題比閉源軟件更加復(fù)雜，攻擊者可以自由查看、修改源代碼，進(jìn)而引發(fā)潛在的安全漏洞。
這并非杞人憂天，DeepSeek的遭遇就證實(shí)了這個(gè)規(guī)律：一方面，來(lái)自外部的網(wǎng)絡(luò)攻擊持續(xù)時(shí)間長(zhǎng)、破壞力大、手段多、變化快；另一方面，在部署和應(yīng)用中發(fā)現(xiàn)的漏洞，暴露出多種安全風(fēng)險(xiǎn)。
有鑒于此，2025開(kāi)年以來(lái)，各家安全公司嚴(yán)陣以待，紛紛探索新路徑、新范式，以筑牢網(wǎng)絡(luò)安全防線，為國(guó)產(chǎn)大模型保駕護(hù)航。
比如，亞信安全與亞信科技近日聯(lián)合發(fā)布的大模型安全解決方案，其思路可以歸納為“以人工智能護(hù)航人工智能”，不僅融合了亞信科技大模型產(chǎn)品在重點(diǎn)行業(yè)領(lǐng)域的豐富實(shí)踐經(jīng)驗(yàn)，而且依托亞信安全在大模型安全領(lǐng)域的研究成果和技術(shù)實(shí)力，打造了兼具實(shí)戰(zhàn)需求和大模型發(fā)展要求的安全解決方案，由云安全防護(hù)系統(tǒng)、大模型安全網(wǎng)關(guān)、終端數(shù)據(jù)防護(hù)系統(tǒng)、AI應(yīng)用風(fēng)險(xiǎn)防護(hù)系統(tǒng)四大系統(tǒng)提供防護(hù)，為大模型建立起覆蓋基礎(chǔ)層、模型層、工具層和AI應(yīng)用層的四層縱深防護(hù)。與此同時(shí)，該方案還提供兩項(xiàng)專業(yè)服務(wù)，即人工智能風(fēng)險(xiǎn)評(píng)測(cè)和人工智能安全服務(wù)，定期進(jìn)行風(fēng)險(xiǎn)評(píng)測(cè)評(píng)估，護(hù)航大模型及應(yīng)用安全。
今后，隨著越來(lái)越多應(yīng)用場(chǎng)景的落地，國(guó)產(chǎn)大模型仍將面臨層出不窮的新風(fēng)險(xiǎn)。大模型安全不應(yīng)該只是“亡羊補(bǔ)牢”，更應(yīng)該未雨綢繆，重構(gòu)安全體系。
對(duì)此，多位受訪專家表示，應(yīng)重視大模型在安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面的“系統(tǒng)性短板”，從多個(gè)層面入手，綜合運(yùn)用多種手段，打造全方位、多層次的安全防護(hù)網(wǎng)絡(luò)，尤其是要建設(shè)大模型的“原生安全”能力。
更為重要的是，大模型在安全領(lǐng)域的應(yīng)用潛力巨大，憑借其卓越的推理能力、定制化的訓(xùn)練方式和開(kāi)源特性，能夠有效提升各種安全任務(wù)的執(zhí)行效率和準(zhǔn)確性。因此，探索大模型在安全領(lǐng)域的創(chuàng)新應(yīng)用、以大模型治理大模型安全問(wèn)題成為重要方向。
業(yè)界已經(jīng)形成共識(shí)，大模型是一個(gè)覆蓋多行業(yè)的交叉生態(tài)系統(tǒng)，大模型安全風(fēng)險(xiǎn)的綜合治理不僅僅只是技術(shù)問(wèn)題，需要政府、企業(yè)、科研機(jī)構(gòu)等多方力量參與其中，群策群力，夯實(shí)國(guó)產(chǎn)大模型發(fā)展的基礎(chǔ)，打開(kāi)思路為人工智能產(chǎn)業(yè)保駕護(hù)航。
本文鏈接：http://jphkf.cn/news-2-1102-0.html探索新路徑 筑牢AI產(chǎn)業(yè)安全根基
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇：從仿冒域名到仿冒程序 惡意軟件“蹭熱度”瞄上DeepSeek
下一篇：不必過(guò)于焦慮被AI替代
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
