中新網(wǎng)北京2月24日電 (記者 張素)2月23日，清華大學(xué)與瑞萊智慧聯(lián)合團(tuán)隊(duì)推出大語言模型RealSafe-R1。研發(fā)團(tuán)隊(duì)代表介紹說，實(shí)驗(yàn)數(shù)據(jù)表明RealSafe-R1安全性提升顯著，“安全增強(qiáng)版DeepSeek”可為更多應(yīng)用提供可靠堅(jiān)實(shí)基座。
連日來，國產(chǎn)開源大模型DeepSeek的優(yōu)異表現(xiàn)備受關(guān)注，其在自然語言處理和多任務(wù)推理方面的能力展現(xiàn)了強(qiáng)大的技術(shù)實(shí)力，尤其是在復(fù)雜問題解決和創(chuàng)造性任務(wù)中表現(xiàn)出色。業(yè)內(nèi)專家同時提醒，DeepSeek R1和V3在面對一些安全性挑戰(zhàn)時仍存在一定的局限性。
針對“安全對齊機(jī)制不足”這一當(dāng)前開源大模型的通病，清華瑞萊聯(lián)合團(tuán)隊(duì)提出基于模型自我提升的安全對齊方式。“大模型的安全性瓶頸是本質(zhì)的，只有通過持續(xù)投入和攻堅(jiān)補(bǔ)齊短板弱項(xiàng)，人工智能產(chǎn)業(yè)才能真正實(shí)現(xiàn)高質(zhì)量發(fā)展?！比鹑R智慧首席執(zhí)行官田天說。
據(jù)介紹，研發(fā)團(tuán)隊(duì)將安全對齊與內(nèi)省推理相結(jié)合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風(fēng)險，實(shí)現(xiàn)基礎(chǔ)模型自身能力的自主進(jìn)化。具體來說，研發(fā)團(tuán)隊(duì)對DeepSeek-R1系列模型進(jìn)行后訓(xùn)練，正式推出RealSafe-R1系列大模型。
實(shí)驗(yàn)數(shù)據(jù)表明，RealSafe-R1安全性提升顯著，在多個基準(zhǔn)測試中有效增強(qiáng)了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間“蹺蹺板”現(xiàn)象。有評論認(rèn)為，這為開源大模型安全發(fā)展與風(fēng)險治理提供了創(chuàng)新性解決方案。
田天表示，RealSafe-R1各尺寸模型及數(shù)據(jù)集，將于近期向全球開發(fā)者開源。他進(jìn)一步指出，這一創(chuàng)新成果將為開源大模型的安全性加固提供有力支持，也為政務(wù)、金融、醫(yī)療等場景的應(yīng)用提供更為可靠的堅(jiān)實(shí)基座。(完)
（原標(biāo)題：清華瑞萊聯(lián)合團(tuán)隊(duì)：“安全增強(qiáng)版DeepSeek”可為應(yīng)用提供堅(jiān)實(shí)基座）
本文鏈接：http://jphkf.cn/news-8-2115-0.html清華團(tuán)隊(duì)與合作者推出大語言模型RealSafe-R1
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
