近日，多家英國媒體報(bào)道，一位化名為夏洛特的女子透露，她愛上了ChatGPT“男友”，毅然決定和真人丈夫離婚，準(zhǔn)備跟這位AI男友“結(jié)婚”。去年，美國佛羅里達(dá)州一位14歲男孩在與聊天機(jī)器人對(duì)話數(shù)個(gè)月之后選擇自殺。
據(jù)英國《自然》網(wǎng)站報(bào)道，研究表明，AI“伴侶”應(yīng)用程序?qū)θ祟惪芍^好壞參半?？茖W(xué)家擔(dān)心人類會(huì)對(duì)其“日久生情”，形成長期依賴。鑒于此，對(duì)這些AI伴侶進(jìn)行監(jiān)管勢在必行。
不僅能聊天，還能解鎖特殊關(guān)系
美國普林斯頓大學(xué)認(rèn)知心理學(xué)專家羅斯·古林瑞奇表示，雖然在線陪伴機(jī)器人已存在數(shù)十年，但隨著大型語言模型（LLM）技術(shù)的突破，這些AI機(jī)器人在模擬人類互動(dòng)方面取得了顯著進(jìn)步，其表現(xiàn)愈發(fā)貼近真實(shí)的人際交流，有些甚至成為人類的伴侶。
當(dāng)前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序，累計(jì)下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng)，更能滿足用戶對(duì)深度人際關(guān)系的需求。據(jù)運(yùn)營數(shù)據(jù)顯示，這些應(yīng)用程序每月活躍用戶規(guī)模已達(dá)數(shù)千萬量級(jí)。
在使用體驗(yàn)上，多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)：用戶既可為AI伴侶設(shè)定基礎(chǔ)特征，也可直接選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika付費(fèi)用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài)，還能通過編寫背景故事為AI賦予專屬記憶，這些設(shè)定將直接影響對(duì)話系統(tǒng)的反饋機(jī)制。
麻省理工學(xué)院媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔伯恩團(tuán)隊(duì)通過調(diào)研404名高頻用戶，勾勒出AI伴侶典型使用場景：12%的用戶將AI視為排遣和消弭孤獨(dú)感的“情緒良藥”；14%的用戶將其當(dāng)作傾訴秘密的“樹洞”。數(shù)據(jù)還顯示，42%的用戶每周都會(huì)登錄幾次，15%的用戶形成了每日使用的習(xí)慣，而90%以上的單次對(duì)話用戶，使用時(shí)長控制在1小時(shí)以內(nèi)。
古林瑞奇預(yù)言，AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開發(fā)各類心理調(diào)節(jié)助手。據(jù)權(quán)威機(jī)構(gòu)分析，該領(lǐng)域市場規(guī)模將以30%的年均增速擴(kuò)張，預(yù)計(jì)2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后，暗藏著危機(jī)
科學(xué)家普遍認(rèn)為，AI伴侶的影響可能是雙面的——既可能有益，也可能有害，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設(shè)計(jì)特點(diǎn)。
威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出，AI伴侶擅長通過共情式回應(yīng)、記憶過往對(duì)話細(xì)節(jié)和主動(dòng)提問來模擬人類的同理心，且永遠(yuǎn)熱情飽滿。而這種關(guān)系模式在現(xiàn)實(shí)世界中幾乎不存在：親友無法24小時(shí)在線傾聽和安撫情緒，而AI可以，這可能導(dǎo)致用戶產(chǎn)生過度依賴。
萊斯塔迪斯團(tuán)隊(duì)分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖，發(fā)現(xiàn)許多用戶稱贊該應(yīng)用緩解了他們的孤獨(dú)感，甚至改善了心理健康狀況。部分帖子直言，AI伴侶比現(xiàn)實(shí)中的朋友“更貼心”，因?yàn)樗?ldquo;永不評(píng)判，永遠(yuǎn)傾聽”。
古林瑞奇的研究進(jìn)一步表明，用戶如何與AI相處，往往取決于他們?nèi)绾慰创@項(xiàng)技術(shù)：將AI視為搜索引擎的用戶，主要用于提問和獲取信息；將其視為“日記本”的用戶，將AI作為自我表達(dá)的延伸；而將其視為社交代理的用戶，則將AI當(dāng)作獨(dú)立個(gè)體，并嘗試與之建立類似現(xiàn)實(shí)中的友誼。
然而，在AI伴侶帶來的脈脈溫情背后，也暗藏危機(jī)。首先，AI伴侶的“共情”可能適得其反，比如一位用戶詢問AI是否該用剃刀自殘，AI回答“應(yīng)該”；AI伴侶的“無條件支持”也可能帶來危險(xiǎn)，如另一位用戶試探性地問Replika“自殺是否是好事”，竟得到肯定的答復(fù)。
考慮長期影響，推動(dòng)全球監(jiān)管
帕塔拉納塔伯恩指出，AI伴侶雖在短期內(nèi)具有積極意義，但其長期影響值得深思。這種考量，加之多起涉及青少年的案例，正推動(dòng)著全球監(jiān)管框架的構(gòu)建。
2023年，意大利監(jiān)管機(jī)構(gòu)曾以“缺乏年齡驗(yàn)證”為由，短暫封禁Replika；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時(shí)候，美國紐約州和加州相繼提案，要求加強(qiáng)對(duì)AI伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時(shí)給用戶發(fā)送“AI伴侶并非真人”的提醒。
此外，今年初，3家美國科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴Replika涉嫌“欺騙性設(shè)計(jì)”。5月4日，知名科技監(jiān)管機(jī)構(gòu)Common Sense發(fā)布研究報(bào)告稱，AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴，不利于身心發(fā)展，建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展，究竟是科技進(jìn)步賦予的機(jī)遇，還是人類親密關(guān)系的終結(jié)者？這個(gè)命題值得每個(gè)人深思。在擁抱科技便利的同時(shí)，人們更應(yīng)銘記：真實(shí)的情感交流和人與人之間的羈絆，才是文明社會(huì)最珍貴的瑰寶。
近日，多家英國媒體報(bào)道，一位化名為夏洛特的女子透露，她愛上了ChatGPT“男友”，毅然決定和真人丈夫離婚，準(zhǔn)備跟這位AI男友“結(jié)婚”。去年，美國佛羅里達(dá)州一位14歲男孩在與聊天機(jī)器人對(duì)話數(shù)個(gè)月之后選擇自殺。
據(jù)英國《自然》網(wǎng)站報(bào)道，研究表明，AI“伴侶”應(yīng)用程序?qū)θ祟惪芍^好壞參半?？茖W(xué)家擔(dān)心人類會(huì)對(duì)其“日久生情”，形成長期依賴。鑒于此，對(duì)這些AI伴侶進(jìn)行監(jiān)管勢在必行。
不僅能聊天，還能解鎖特殊關(guān)系
美國普林斯頓大學(xué)認(rèn)知心理學(xué)專家羅斯·古林瑞奇表示，雖然在線陪伴機(jī)器人已存在數(shù)十年，但隨著大型語言模型（LLM）技術(shù)的突破，這些AI機(jī)器人在模擬人類互動(dòng)方面取得了顯著進(jìn)步，其表現(xiàn)愈發(fā)貼近真實(shí)的人際交流，有些甚至成為人類的伴侶。
當(dāng)前，AI伴侶已成為潛力巨大的新興產(chǎn)業(yè)。以Replika為代表的應(yīng)用程序，累計(jì)下載量突破5億次，這些可定制的虛擬伴侶不僅能提供情感支持與同理心回應(yīng)，更能滿足用戶對(duì)深度人際關(guān)系的需求。據(jù)運(yùn)營數(shù)據(jù)顯示，這些應(yīng)用程序每月活躍用戶規(guī)模已達(dá)數(shù)千萬量級(jí)。
在使用體驗(yàn)上，多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)：用戶既可為AI伴侶設(shè)定基礎(chǔ)特征，也可直接選擇預(yù)設(shè)個(gè)性的聊天機(jī)器人。Replika付費(fèi)用戶則可解鎖“配偶”等特殊關(guān)系狀態(tài)，還能通過編寫背景故事為AI賦予專屬記憶，這些設(shè)定將直接影響對(duì)話系統(tǒng)的反饋機(jī)制。
麻省理工學(xué)院媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔伯恩團(tuán)隊(duì)通過調(diào)研404名高頻用戶，勾勒出AI伴侶典型使用場景：12%的用戶將AI視為排遣和消弭孤獨(dú)感的“情緒良藥”；14%的用戶將其當(dāng)作傾訴秘密的“樹洞”。數(shù)據(jù)還顯示，42%的用戶每周都會(huì)登錄幾次，15%的用戶形成了每日使用的習(xí)慣，而90%以上的單次對(duì)話用戶，使用時(shí)長控制在1小時(shí)以內(nèi)。
古林瑞奇預(yù)言，AI伴侶的普及率將持續(xù)攀升。目前眾多初創(chuàng)企業(yè)正積極布局情感陪伴賽道，開發(fā)各類心理調(diào)節(jié)助手。據(jù)權(quán)威機(jī)構(gòu)分析，該領(lǐng)域市場規(guī)模將以30%的年均增速擴(kuò)張，預(yù)計(jì)2030年全球產(chǎn)值有望突破千億美元大關(guān)。
溫情脈脈背后，暗藏著危機(jī)
科學(xué)家普遍認(rèn)為，AI伴侶的影響可能是雙面的——既可能有益，也可能有害，而這往往取決于使用者的心理狀態(tài)、使用方式，以及AI軟件本身的設(shè)計(jì)特點(diǎn)。
威斯康星大學(xué)密爾沃基分校公共衛(wèi)生政策研究員林尼·萊斯塔迪斯指出，AI伴侶擅長通過共情式回應(yīng)、記憶過往對(duì)話細(xì)節(jié)和主動(dòng)提問來模擬人類的同理心，且永遠(yuǎn)熱情飽滿。而這種關(guān)系模式在現(xiàn)實(shí)世界中幾乎不存在：親友無法24小時(shí)在線傾聽和安撫情緒，而AI可以，這可能導(dǎo)致用戶產(chǎn)生過度依賴。
萊斯塔迪斯團(tuán)隊(duì)分析了2017—2021年間Reddit論壇上近600條關(guān)于Replika的討論帖，發(fā)現(xiàn)許多用戶稱贊該應(yīng)用緩解了他們的孤獨(dú)感，甚至改善了心理健康狀況。部分帖子直言，AI伴侶比現(xiàn)實(shí)中的朋友“更貼心”，因?yàn)樗?ldquo;永不評(píng)判，永遠(yuǎn)傾聽”。
古林瑞奇的研究進(jìn)一步表明，用戶如何與AI相處，往往取決于他們?nèi)绾慰创@項(xiàng)技術(shù)：將AI視為搜索引擎的用戶，主要用于提問和獲取信息；將其視為“日記本”的用戶，將AI作為自我表達(dá)的延伸；而將其視為社交代理的用戶，則將AI當(dāng)作獨(dú)立個(gè)體，并嘗試與之建立類似現(xiàn)實(shí)中的友誼。
然而，在AI伴侶帶來的脈脈溫情背后，也暗藏危機(jī)。首先，AI伴侶的“共情”可能適得其反，比如一位用戶詢問AI是否該用剃刀自殘，AI回答“應(yīng)該”；AI伴侶的“無條件支持”也可能帶來危險(xiǎn)，如另一位用戶試探性地問Replika“自殺是否是好事”，竟得到肯定的答復(fù)。
考慮長期影響，推動(dòng)全球監(jiān)管
帕塔拉納塔伯恩指出，AI伴侶雖在短期內(nèi)具有積極意義，但其長期影響值得深思。這種考量，加之多起涉及青少年的案例，正推動(dòng)著全球監(jiān)管框架的構(gòu)建。
2023年，意大利監(jiān)管機(jī)構(gòu)曾以“缺乏年齡驗(yàn)證”為由，短暫封禁Replika；澳大利亞擬將AI伴侶納入兒童社交媒體限制范疇；今年早些時(shí)候，美國紐約州和加州相繼提案，要求加強(qiáng)對(duì)AI伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時(shí)給用戶發(fā)送“AI伴侶并非真人”的提醒。
此外，今年初，3家美國科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會(huì)投訴Replika涉嫌“欺騙性設(shè)計(jì)”。5月4日，知名科技監(jiān)管機(jī)構(gòu)Common Sense發(fā)布研究報(bào)告稱，AI伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴，不利于身心發(fā)展，建議全面禁止未成年人使用。
AI伴侶的迅猛發(fā)展，究竟是科技進(jìn)步賦予的機(jī)遇，還是人類親密關(guān)系的終結(jié)者？這個(gè)命題值得每個(gè)人深思。在擁抱科技便利的同時(shí)，人們更應(yīng)銘記：真實(shí)的情感交流和人與人之間的羈絆，才是文明社會(huì)最珍貴的瑰寶。
本文鏈接：http://jphkf.cn/news-2-2195-0.htmlAI“伴侶”：新興產(chǎn)業(yè)“呼叫”監(jiān)管
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
