當(dāng)前，以大模型為代表的人工智能技術(shù)日新月異，AI寫作、AI對(duì)話、AI合成等生成式人工智能不斷用于辦公場(chǎng)景，特別是AI寫作深受辦公人士的青睞，僅需輸入關(guān)鍵詞就可一鍵生成文章，快速提高辦公效率。殊不知，AI工具在便捷辦公的同時(shí)，也帶來(lái)一定泄密風(fēng)險(xiǎn)。
依托AI出方案 敏感內(nèi)容網(wǎng)上傳
某涉密單位工作人員李某，在起草一份涉密方案時(shí)，聽同事說(shuō)AI寫作很好用，只要寫上主題和需求，就可以幫忙寫出文稿。李某在好奇心驅(qū)使下，在手機(jī)上下載一款A(yù)I寫作應(yīng)用軟件，并私自將該涉密方案的部分敏感內(nèi)容輸入AI寫作工具，通過AI代寫生成網(wǎng)絡(luò)文件資料。事件發(fā)生后，李某受到嚴(yán)肅處理。
借助AI提效率 科研成果遭泄露
某科研機(jī)構(gòu)一研究人員保密意識(shí)淡薄，為快速完成研究報(bào)告，擅自使用一款流行的AI寫作應(yīng)用軟件輔助辦公，將部分核心數(shù)據(jù)及實(shí)驗(yàn)成果上傳到該應(yīng)用，導(dǎo)致該研究報(bào)告中的部分涉密敏感信息被泄露，在網(wǎng)上流傳，給該科研機(jī)構(gòu)造成經(jīng)濟(jì)損失，也給國(guó)家利益帶來(lái)?yè)p害。事件發(fā)生后，該研究人員受到嚴(yán)肅處理。
隱患分析
生成式人工智能高度依托互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算平臺(tái)，AI接收的國(guó)家秘密信息會(huì)被作為大語(yǔ)言模型進(jìn)行學(xué)習(xí)訓(xùn)練，數(shù)據(jù)獲取、處理、存儲(chǔ)、運(yùn)算、傳輸各環(huán)節(jié)均面臨泄露風(fēng)險(xiǎn)。AI數(shù)據(jù)挖掘功能可基于海量原始數(shù)據(jù)進(jìn)行多維推理和關(guān)聯(lián)分析，哪怕只是截取涉密文件片段，也存在被攻擊竊取或經(jīng)關(guān)聯(lián)匯聚后泄密的風(fēng)險(xiǎn)。
紀(jì)律提醒
機(jī)關(guān)、單位工作人員使用AI辦公須繃緊保密之弦，使用合法合規(guī)的國(guó)產(chǎn)大模型，強(qiáng)化風(fēng)險(xiǎn)意識(shí)，規(guī)范使用流程，不得將涉密文件、圖片、音頻、視頻等信息，以拍照、輸入、復(fù)制以及其他任何形式，部分或者全部使用生成式人工智能工具進(jìn)行處理，堅(jiān)決避免AI辦公泄密。
法規(guī)鏈接
《中華人民共和國(guó)保守國(guó)家秘密法》第三十一條規(guī)定，任何組織和個(gè)人不得使用非涉密信息系統(tǒng)、非涉密信息設(shè)備存儲(chǔ)或者處理國(guó)家秘密。
《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十九條明確要求，提供生成式人工智能服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動(dòng)的安全管理，采取有效措施防范和處置網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險(xiǎn)。
當(dāng)前，以大模型為代表的人工智能技術(shù)日新月異，AI寫作、AI對(duì)話、AI合成等生成式人工智能不斷用于辦公場(chǎng)景，特別是AI寫作深受辦公人士的青睞，僅需輸入關(guān)鍵詞就可一鍵生成文章，快速提高辦公效率。殊不知，AI工具在便捷辦公的同時(shí)，也帶來(lái)一定泄密風(fēng)險(xiǎn)。
依托AI出方案 敏感內(nèi)容網(wǎng)上傳
某涉密單位工作人員李某，在起草一份涉密方案時(shí)，聽同事說(shuō)AI寫作很好用，只要寫上主題和需求，就可以幫忙寫出文稿。李某在好奇心驅(qū)使下，在手機(jī)上下載一款A(yù)I寫作應(yīng)用軟件，并私自將該涉密方案的部分敏感內(nèi)容輸入AI寫作工具，通過AI代寫生成網(wǎng)絡(luò)文件資料。事件發(fā)生后，李某受到嚴(yán)肅處理。
借助AI提效率 科研成果遭泄露
某科研機(jī)構(gòu)一研究人員保密意識(shí)淡薄，為快速完成研究報(bào)告，擅自使用一款流行的AI寫作應(yīng)用軟件輔助辦公，將部分核心數(shù)據(jù)及實(shí)驗(yàn)成果上傳到該應(yīng)用，導(dǎo)致該研究報(bào)告中的部分涉密敏感信息被泄露，在網(wǎng)上流傳，給該科研機(jī)構(gòu)造成經(jīng)濟(jì)損失，也給國(guó)家利益帶來(lái)?yè)p害。事件發(fā)生后，該研究人員受到嚴(yán)肅處理。
隱患分析
生成式人工智能高度依托互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算平臺(tái)，AI接收的國(guó)家秘密信息會(huì)被作為大語(yǔ)言模型進(jìn)行學(xué)習(xí)訓(xùn)練，數(shù)據(jù)獲取、處理、存儲(chǔ)、運(yùn)算、傳輸各環(huán)節(jié)均面臨泄露風(fēng)險(xiǎn)。AI數(shù)據(jù)挖掘功能可基于海量原始數(shù)據(jù)進(jìn)行多維推理和關(guān)聯(lián)分析，哪怕只是截取涉密文件片段，也存在被攻擊竊取或經(jīng)關(guān)聯(lián)匯聚后泄密的風(fēng)險(xiǎn)。
紀(jì)律提醒
機(jī)關(guān)、單位工作人員使用AI辦公須繃緊保密之弦，使用合法合規(guī)的國(guó)產(chǎn)大模型，強(qiáng)化風(fēng)險(xiǎn)意識(shí)，規(guī)范使用流程，不得將涉密文件、圖片、音頻、視頻等信息，以拍照、輸入、復(fù)制以及其他任何形式，部分或者全部使用生成式人工智能工具進(jìn)行處理，堅(jiān)決避免AI辦公泄密。
法規(guī)鏈接
《中華人民共和國(guó)保守國(guó)家秘密法》第三十一條規(guī)定，任何組織和個(gè)人不得使用非涉密信息系統(tǒng)、非涉密信息設(shè)備存儲(chǔ)或者處理國(guó)家秘密。
《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》第十九條明確要求，提供生成式人工智能服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)處理者應(yīng)當(dāng)加強(qiáng)對(duì)訓(xùn)練數(shù)據(jù)和訓(xùn)練數(shù)據(jù)處理活動(dòng)的安全管理，采取有效措施防范和處置網(wǎng)絡(luò)數(shù)據(jù)安全風(fēng)險(xiǎn)。
本文鏈接：http://jphkf.cn/news-2-1928-0.html謹(jǐn)防AI成為泄密“跑風(fēng)口”
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
