當(dāng)前，人工智能技術(shù)快速發(fā)展，但大模型“自說(shuō)自話”、一本正經(jīng)“胡說(shuō)八道”、生成偏離事實(shí)內(nèi)容的問(wèn)題日益凸顯，這一現(xiàn)象被稱為“AI幻覺”。不少業(yè)內(nèi)人士提醒，由于大模型主要基于概率生成文本而非邏輯推理，在短期內(nèi)難以完全避免此類問(wèn)題。
《瞭望》新聞周刊記者觀察到，AI虛構(gòu)事實(shí)或邏輯混亂的“幻覺”已在法律、內(nèi)容創(chuàng)作、專業(yè)咨詢等多個(gè)領(lǐng)域造成實(shí)際影響。
AI技術(shù)的發(fā)展方興未艾，但確保其生成內(nèi)容的真實(shí)性和可靠性，尤其需要技術(shù)開發(fā)者、監(jiān)管機(jī)構(gòu)共同努力。針對(duì)“AI幻覺”問(wèn)題，業(yè)界建議，在技術(shù)層面，要持續(xù)優(yōu)化模型架構(gòu)，增強(qiáng)事實(shí)核查能力；在監(jiān)管層面，需完善相關(guān)規(guī)范，明確責(zé)任邊界。
幻覺頻現(xiàn)
“AI幻覺”已經(jīng)成為當(dāng)前AI技術(shù)發(fā)展中最突出的技術(shù)瓶頸之一。從技術(shù)層面來(lái)看，AI幻覺的產(chǎn)生主要源于三個(gè)方面的原因：首先是訓(xùn)練數(shù)據(jù)的不足或偏差，導(dǎo)致模型對(duì)某些領(lǐng)域的認(rèn)知存在缺陷；其次是算法架構(gòu)的局限性，當(dāng)前主流大模型主要基于概率預(yù)測(cè)而非邏輯推理；最后是訓(xùn)練目標(biāo)的設(shè)定問(wèn)題，模型往往更傾向于生成“流暢”而非“準(zhǔn)確”的內(nèi)容。
“AI幻覺主要表現(xiàn)為事實(shí)性幻覺和邏輯性幻覺兩種。”業(yè)內(nèi)人士介紹，事實(shí)性幻覺，表現(xiàn)為模型會(huì)編造完全不存在的事實(shí)或信息。這種情況在專業(yè)領(lǐng)域尤為突出，如在法律咨詢中虛構(gòu)判例，在醫(yī)療診斷中給出錯(cuò)誤結(jié)論，或杜撰歷史事件。邏輯性幻覺，表現(xiàn)為模型在長(zhǎng)文本生成或連續(xù)對(duì)話中出現(xiàn)前后矛盾、邏輯混亂的情況，這主要是因?yàn)楫?dāng)前大模型的注意力機(jī)制在處理復(fù)雜語(yǔ)境時(shí)存在局限性。
多項(xiàng)研究證實(shí)了AI幻覺問(wèn)題的嚴(yán)重性。今年3月，哥倫比亞大學(xué)數(shù)字新聞研究中心針對(duì)主流AI搜索工具進(jìn)行的專項(xiàng)測(cè)試發(fā)現(xiàn)，這些工具在新聞引用方面的平均錯(cuò)誤率達(dá)到60%。一些研究顯示，AI并不擅長(zhǎng)辨別“新聞事實(shí)來(lái)自哪里”，會(huì)出現(xiàn)混淆信息來(lái)源、提供失效鏈接等問(wèn)題。更令人擔(dān)憂的是，隨著模型規(guī)模的擴(kuò)大，某些類型的幻覺問(wèn)題不僅沒有改善，反而呈現(xiàn)加劇趨勢(shì)。
多位業(yè)內(nèi)專家認(rèn)為，AI幻覺問(wèn)題在現(xiàn)有技術(shù)框架下難以徹底解決。思謀科技聯(lián)合創(chuàng)始人劉樞表示，當(dāng)前的大模型架構(gòu)決定了其本質(zhì)上是一個(gè)“黑箱”系統(tǒng)，優(yōu)化結(jié)構(gòu)等方式只能緩解模型幻覺問(wèn)題，很難完全避免幻覺的產(chǎn)生。
有受訪者從認(rèn)知科學(xué)的角度分析，當(dāng)前的大模型處于“我不知道我知道什么”的狀態(tài)，缺乏對(duì)自身知識(shí)邊界的準(zhǔn)確判斷能力。這些技術(shù)特性決定了AI幻覺問(wèn)題的存在，需通過(guò)多方面的技術(shù)改進(jìn)來(lái)逐步緩解。
警惕風(fēng)險(xiǎn)
業(yè)界普遍認(rèn)為，在AI幻覺短期內(nèi)難以完全消除的背景下，其潛在風(fēng)險(xiǎn)已從信息領(lǐng)域蔓延至現(xiàn)實(shí)世界，可能帶來(lái)較大風(fēng)險(xiǎn)。
世界經(jīng)濟(jì)論壇《2025年全球風(fēng)險(xiǎn)報(bào)告》已將“錯(cuò)誤和虛假信息”列為全球五大風(fēng)險(xiǎn)之一，其中AI生成的幻覺內(nèi)容被視作關(guān)鍵誘因之一。
AI幻覺最直接的危害是造成“信息污染”。在法律領(lǐng)域，美國(guó)紐約南區(qū)聯(lián)邦法院在審理一起航空事故訴訟時(shí)發(fā)現(xiàn)，原告律師提交的法律文書中引用了ChatGPT生成的6個(gè)虛假判例，這些虛構(gòu)案例包括完整的案件名稱、案卷號(hào)及法官意見，甚至模仿了美國(guó)聯(lián)邦最高法院的判例風(fēng)格，其虛構(gòu)能力干擾了司法程序。
金融咨詢領(lǐng)域，AI可能給出錯(cuò)誤投資建議，如誤讀財(cái)報(bào)數(shù)據(jù)或虛構(gòu)企業(yè)信息。
更令人擔(dān)憂的是，這些錯(cuò)誤信息可能被其他AI系統(tǒng)吸收，形成“幻覺循環(huán)”——錯(cuò)誤數(shù)據(jù)不斷被強(qiáng)化，最終污染整個(gè)信息生態(tài)。
隨著AI技術(shù)向?qū)嶓w設(shè)備領(lǐng)域滲透，幻覺問(wèn)題的影響已超越虛擬范疇，可能對(duì)人身安全構(gòu)成威脅。在自動(dòng)駕駛領(lǐng)域，生成式AI被用于實(shí)時(shí)路況分析和決策制定。業(yè)內(nèi)人士表示，在復(fù)雜路況中，自動(dòng)駕駛?cè)舢a(chǎn)生“感知幻覺”，可能導(dǎo)致系統(tǒng)誤判環(huán)境，觸發(fā)錯(cuò)誤決策，直接威脅行車安全。
人形機(jī)器人領(lǐng)域風(fēng)險(xiǎn)更值得關(guān)注。優(yōu)必選副總裁龐建新說(shuō)：“當(dāng)機(jī)器人因幻覺做出錯(cuò)誤動(dòng)作時(shí)，后果遠(yuǎn)超文本錯(cuò)誤。”例如，護(hù)理機(jī)器人可能誤解指令給患者錯(cuò)誤用藥，工業(yè)機(jī)器人可能誤判操作參數(shù)造成生產(chǎn)事故。這些場(chǎng)景中，AI幻覺甚至可能威脅人身安全。
協(xié)同治理
對(duì)于AI幻覺問(wèn)題帶來(lái)的挑戰(zhàn)，業(yè)內(nèi)人士建議從技術(shù)創(chuàng)新、制度監(jiān)管等多個(gè)維度構(gòu)建綜合治理體系。
技術(shù)創(chuàng)新是解決AI幻覺問(wèn)題的根本途徑。近年來(lái)，業(yè)界已提出多種技術(shù)方案來(lái)應(yīng)對(duì)這一挑戰(zhàn)。劉樞等介紹，檢索增強(qiáng)生成（Retrieval-augmented Generation，RAG）技術(shù)融合了檢索與生成模型優(yōu)勢(shì)，是當(dāng)前重要的發(fā)展方向之一。其通過(guò)將大模型與權(quán)威知識(shí)庫(kù)實(shí)時(shí)對(duì)接，能顯著提升生成內(nèi)容準(zhǔn)確性。
全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎提出“以模制模”，構(gòu)建專業(yè)知識(shí)庫(kù)，實(shí)施合理的矯正機(jī)制，構(gòu)建更完善的安全防護(hù)體系，降低“幻覺”帶來(lái)的負(fù)面影響。例如，研發(fā)專用的安全大模型來(lái)監(jiān)督知識(shí)庫(kù)使用和智能體調(diào)用，并采用多模型交叉驗(yàn)證、搜索矯正等技術(shù)手段來(lái)識(shí)別和糾正幻覺。
制度監(jiān)管方面需要建立多層次的治理體系。云天勵(lì)飛品牌運(yùn)營(yíng)中心總經(jīng)理胡思幸認(rèn)為，要完善監(jiān)管治理，研究AI生成內(nèi)容“數(shù)字水印+風(fēng)險(xiǎn)提示”雙重標(biāo)識(shí)，為AI生成內(nèi)容提供有效的溯源和警示機(jī)制。針對(duì)日益突出的AI造謠問(wèn)題，法律界人士建議，要持續(xù)完善相關(guān)規(guī)定，明確利用AI造謠的法律責(zé)任，加大對(duì)違法行為的懲處力度。
治理體系之外，當(dāng)前階段，在用戶使用AI開展工作時(shí)，亦需要建立對(duì)AI能力的理性認(rèn)知，了解其局限性。培養(yǎng)多渠道驗(yàn)證信息的習(xí)慣，優(yōu)先選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)作為信息來(lái)源，這些基本素養(yǎng)的提升將有效降低AI幻覺的社會(huì)影響。同時(shí)，在與AI系統(tǒng)交互時(shí)應(yīng)保持必要的懷疑態(tài)度和批判思維，多渠道核查驗(yàn)證信息的準(zhǔn)確性。
當(dāng)前，人工智能技術(shù)快速發(fā)展，但大模型“自說(shuō)自話”、一本正經(jīng)“胡說(shuō)八道”、生成偏離事實(shí)內(nèi)容的問(wèn)題日益凸顯，這一現(xiàn)象被稱為“AI幻覺”。不少業(yè)內(nèi)人士提醒，由于大模型主要基于概率生成文本而非邏輯推理，在短期內(nèi)難以完全避免此類問(wèn)題。
《瞭望》新聞周刊記者觀察到，AI虛構(gòu)事實(shí)或邏輯混亂的“幻覺”已在法律、內(nèi)容創(chuàng)作、專業(yè)咨詢等多個(gè)領(lǐng)域造成實(shí)際影響。
AI技術(shù)的發(fā)展方興未艾，但確保其生成內(nèi)容的真實(shí)性和可靠性，尤其需要技術(shù)開發(fā)者、監(jiān)管機(jī)構(gòu)共同努力。針對(duì)“AI幻覺”問(wèn)題，業(yè)界建議，在技術(shù)層面，要持續(xù)優(yōu)化模型架構(gòu)，增強(qiáng)事實(shí)核查能力；在監(jiān)管層面，需完善相關(guān)規(guī)范，明確責(zé)任邊界。
幻覺頻現(xiàn)
“AI幻覺”已經(jīng)成為當(dāng)前AI技術(shù)發(fā)展中最突出的技術(shù)瓶頸之一。從技術(shù)層面來(lái)看，AI幻覺的產(chǎn)生主要源于三個(gè)方面的原因：首先是訓(xùn)練數(shù)據(jù)的不足或偏差，導(dǎo)致模型對(duì)某些領(lǐng)域的認(rèn)知存在缺陷；其次是算法架構(gòu)的局限性，當(dāng)前主流大模型主要基于概率預(yù)測(cè)而非邏輯推理；最后是訓(xùn)練目標(biāo)的設(shè)定問(wèn)題，模型往往更傾向于生成“流暢”而非“準(zhǔn)確”的內(nèi)容。
“AI幻覺主要表現(xiàn)為事實(shí)性幻覺和邏輯性幻覺兩種。”業(yè)內(nèi)人士介紹，事實(shí)性幻覺，表現(xiàn)為模型會(huì)編造完全不存在的事實(shí)或信息。這種情況在專業(yè)領(lǐng)域尤為突出，如在法律咨詢中虛構(gòu)判例，在醫(yī)療診斷中給出錯(cuò)誤結(jié)論，或杜撰歷史事件。邏輯性幻覺，表現(xiàn)為模型在長(zhǎng)文本生成或連續(xù)對(duì)話中出現(xiàn)前后矛盾、邏輯混亂的情況，這主要是因?yàn)楫?dāng)前大模型的注意力機(jī)制在處理復(fù)雜語(yǔ)境時(shí)存在局限性。
多項(xiàng)研究證實(shí)了AI幻覺問(wèn)題的嚴(yán)重性。今年3月，哥倫比亞大學(xué)數(shù)字新聞研究中心針對(duì)主流AI搜索工具進(jìn)行的專項(xiàng)測(cè)試發(fā)現(xiàn)，這些工具在新聞引用方面的平均錯(cuò)誤率達(dá)到60%。一些研究顯示，AI并不擅長(zhǎng)辨別“新聞事實(shí)來(lái)自哪里”，會(huì)出現(xiàn)混淆信息來(lái)源、提供失效鏈接等問(wèn)題。更令人擔(dān)憂的是，隨著模型規(guī)模的擴(kuò)大，某些類型的幻覺問(wèn)題不僅沒有改善，反而呈現(xiàn)加劇趨勢(shì)。
多位業(yè)內(nèi)專家認(rèn)為，AI幻覺問(wèn)題在現(xiàn)有技術(shù)框架下難以徹底解決。思謀科技聯(lián)合創(chuàng)始人劉樞表示，當(dāng)前的大模型架構(gòu)決定了其本質(zhì)上是一個(gè)“黑箱”系統(tǒng)，優(yōu)化結(jié)構(gòu)等方式只能緩解模型幻覺問(wèn)題，很難完全避免幻覺的產(chǎn)生。
有受訪者從認(rèn)知科學(xué)的角度分析，當(dāng)前的大模型處于“我不知道我知道什么”的狀態(tài)，缺乏對(duì)自身知識(shí)邊界的準(zhǔn)確判斷能力。這些技術(shù)特性決定了AI幻覺問(wèn)題的存在，需通過(guò)多方面的技術(shù)改進(jìn)來(lái)逐步緩解。
警惕風(fēng)險(xiǎn)
業(yè)界普遍認(rèn)為，在AI幻覺短期內(nèi)難以完全消除的背景下，其潛在風(fēng)險(xiǎn)已從信息領(lǐng)域蔓延至現(xiàn)實(shí)世界，可能帶來(lái)較大風(fēng)險(xiǎn)。
世界經(jīng)濟(jì)論壇《2025年全球風(fēng)險(xiǎn)報(bào)告》已將“錯(cuò)誤和虛假信息”列為全球五大風(fēng)險(xiǎn)之一，其中AI生成的幻覺內(nèi)容被視作關(guān)鍵誘因之一。
AI幻覺最直接的危害是造成“信息污染”。在法律領(lǐng)域，美國(guó)紐約南區(qū)聯(lián)邦法院在審理一起航空事故訴訟時(shí)發(fā)現(xiàn)，原告律師提交的法律文書中引用了ChatGPT生成的6個(gè)虛假判例，這些虛構(gòu)案例包括完整的案件名稱、案卷號(hào)及法官意見，甚至模仿了美國(guó)聯(lián)邦最高法院的判例風(fēng)格，其虛構(gòu)能力干擾了司法程序。
金融咨詢領(lǐng)域，AI可能給出錯(cuò)誤投資建議，如誤讀財(cái)報(bào)數(shù)據(jù)或虛構(gòu)企業(yè)信息。
更令人擔(dān)憂的是，這些錯(cuò)誤信息可能被其他AI系統(tǒng)吸收，形成“幻覺循環(huán)”——錯(cuò)誤數(shù)據(jù)不斷被強(qiáng)化，最終污染整個(gè)信息生態(tài)。
隨著AI技術(shù)向?qū)嶓w設(shè)備領(lǐng)域滲透，幻覺問(wèn)題的影響已超越虛擬范疇，可能對(duì)人身安全構(gòu)成威脅。在自動(dòng)駕駛領(lǐng)域，生成式AI被用于實(shí)時(shí)路況分析和決策制定。業(yè)內(nèi)人士表示，在復(fù)雜路況中，自動(dòng)駕駛?cè)舢a(chǎn)生“感知幻覺”，可能導(dǎo)致系統(tǒng)誤判環(huán)境，觸發(fā)錯(cuò)誤決策，直接威脅行車安全。
人形機(jī)器人領(lǐng)域風(fēng)險(xiǎn)更值得關(guān)注。優(yōu)必選副總裁龐建新說(shuō)：“當(dāng)機(jī)器人因幻覺做出錯(cuò)誤動(dòng)作時(shí)，后果遠(yuǎn)超文本錯(cuò)誤。”例如，護(hù)理機(jī)器人可能誤解指令給患者錯(cuò)誤用藥，工業(yè)機(jī)器人可能誤判操作參數(shù)造成生產(chǎn)事故。這些場(chǎng)景中，AI幻覺甚至可能威脅人身安全。
協(xié)同治理
對(duì)于AI幻覺問(wèn)題帶來(lái)的挑戰(zhàn)，業(yè)內(nèi)人士建議從技術(shù)創(chuàng)新、制度監(jiān)管等多個(gè)維度構(gòu)建綜合治理體系。
技術(shù)創(chuàng)新是解決AI幻覺問(wèn)題的根本途徑。近年來(lái)，業(yè)界已提出多種技術(shù)方案來(lái)應(yīng)對(duì)這一挑戰(zhàn)。劉樞等介紹，檢索增強(qiáng)生成（Retrieval-augmented Generation，RAG）技術(shù)融合了檢索與生成模型優(yōu)勢(shì)，是當(dāng)前重要的發(fā)展方向之一。其通過(guò)將大模型與權(quán)威知識(shí)庫(kù)實(shí)時(shí)對(duì)接，能顯著提升生成內(nèi)容準(zhǔn)確性。
全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎提出“以模制模”，構(gòu)建專業(yè)知識(shí)庫(kù)，實(shí)施合理的矯正機(jī)制，構(gòu)建更完善的安全防護(hù)體系，降低“幻覺”帶來(lái)的負(fù)面影響。例如，研發(fā)專用的安全大模型來(lái)監(jiān)督知識(shí)庫(kù)使用和智能體調(diào)用，并采用多模型交叉驗(yàn)證、搜索矯正等技術(shù)手段來(lái)識(shí)別和糾正幻覺。
制度監(jiān)管方面需要建立多層次的治理體系。云天勵(lì)飛品牌運(yùn)營(yíng)中心總經(jīng)理胡思幸認(rèn)為，要完善監(jiān)管治理，研究AI生成內(nèi)容“數(shù)字水印+風(fēng)險(xiǎn)提示”雙重標(biāo)識(shí)，為AI生成內(nèi)容提供有效的溯源和警示機(jī)制。針對(duì)日益突出的AI造謠問(wèn)題，法律界人士建議，要持續(xù)完善相關(guān)規(guī)定，明確利用AI造謠的法律責(zé)任，加大對(duì)違法行為的懲處力度。
治理體系之外，當(dāng)前階段，在用戶使用AI開展工作時(shí)，亦需要建立對(duì)AI能力的理性認(rèn)知，了解其局限性。培養(yǎng)多渠道驗(yàn)證信息的習(xí)慣，優(yōu)先選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)作為信息來(lái)源，這些基本素養(yǎng)的提升將有效降低AI幻覺的社會(huì)影響。同時(shí)，在與AI系統(tǒng)交互時(shí)應(yīng)保持必要的懷疑態(tài)度和批判思維，多渠道核查驗(yàn)證信息的準(zhǔn)確性。
本文鏈接：http://jphkf.cn/news-2-3386-0.html瞭望 | AI幻覺頻現(xiàn) 風(fēng)險(xiǎn)挑戰(zhàn)幾何
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
