tubesex18 video,国产亚洲婷婷香蕉久久精品 ,九九99久久精品综合,国产精品99久久不卡,久久精品免视看国产成人

我在AI論壇打瞌睡會錯過未來嗎

2周前 來源:中國青年網(wǎng) 觀看:7

65歲的學(xué)者汪暉身著西裝上臺了。他頭發(fā)花白,手執(zhí)講稿,身后的大屏幕上寫著這場論壇的主題:“AI時代的倫理奇點”。這是當(dāng)下的熱門話題,但臺下有人在打哈欠,顯然清晨的困意未消。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

我是一大早,跨越大半個北京城,擠了一個多小時的地鐵來清華大學(xué)聽這場“方塘論壇”的,興致很高。一半是因為這跟AI有關(guān),一半是因為嘉賓名單里不只有科學(xué)家,還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他們是人文社科領(lǐng)域的“思想老者”,要跟科學(xué)家一塊兒探討這個時代最新的燙手命題,這本身就值得期待。針對“時代”,他們論了幾十年,現(xiàn)在仍未停止。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

面前的階梯教室沒坐滿,但也匯聚了上百人:學(xué)生、教授、學(xué)者、記者、作家,還有從美、英、德、意等國請來的嘉賓??諝饫锼坪鯊浡环N學(xué)術(shù)會議特有的、略帶沉悶的氣氛,我揉了揉酸澀的眼睛,吃了口離家時塞進背包的面包,想提振精神,讓沉重的腦袋清醒一些。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“幾乎所有領(lǐng)域,都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場,話語沉穩(wěn)有力,“回應(yīng)AI時代的倫理挑戰(zhàn),不僅需要對技術(shù)本身的理解,更需要回到哲學(xué)、社會學(xué)、政治經(jīng)濟學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域,共同探尋人類何以‘安身立命’”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

論壇的擇期頗顯用心,6月23日這天是計算機科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年;圖靈獎的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

人工智能被提出75年了,而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示,中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億,中國互聯(lián)網(wǎng)花了15年,而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達到了5億。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

歷史上從未有一個時代如AI時代這般,將未來如此迅猛地推向當(dāng)下。時間仿佛被丟入加速器,而AI如氧氣一般,彌漫進社會和人的毛細(xì)血管里。智能駕駛、機器人、AI醫(yī)生、AI伴侶等,過去數(shù)十年來,昔日科幻小說里的事物正步入現(xiàn)實。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時,挑戰(zhàn)也如影隨形:失業(yè)、偏見、倫理、法律,乃至關(guān)乎人類存續(xù)的風(fēng)險。這些問題,讓我覺得既遙遠又真實。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“通用人工智能的能力快速增長,人類是否還有能力管控它?”姚期智是這天的第一個主題發(fā)言者。年近八旬的他,聲音不高,但每一個問題,都能戳我一下。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他認(rèn)為,AI時代的問題,許多是被放大的舊疾,尤其是生存性風(fēng)險,武器的誕生曾讓人類很焦慮,AI也有這樣的問題,“它變得更危險、更難對付”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

姚期智提到了2024年諾貝爾化學(xué)獎得主——因利用AlphaFold(一種AI系統(tǒng))解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎的戴米斯·哈薩比斯(Demis Hassabis)和約翰·江珀(John M.Jumper)。“這是多年來不可能的事情,也給了我們一些終極希望。”姚期智隨即警示,AI在生物醫(yī)學(xué)領(lǐng)域的突破,也可能被用來創(chuàng)造“鏡像生命(Mirror life,一種存在于假說中的人工合成生物)”,帶來致命的災(zāi)難。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

2024年12月,《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究,優(yōu)先考慮并防范風(fēng)險。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

另一種生存性風(fēng)險在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng),它變得越來越像人。”姚期智指出,已有模型展示出“騙人”本領(lǐng)和對人性的洞察——問題的嚴(yán)峻性在于,當(dāng)它真正像人一樣,甚至超過人時,如何控制。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”,現(xiàn)在這個難題比以往任何時候都更迫切地需要答案。我這個人工智能技術(shù)領(lǐng)域的小白是沒有答案的,那一刻,我腦子里只閃過許多科幻電影里的失控場景。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

從兩年前開始,許多科學(xué)家就曾疾呼:至少三分之一AI研發(fā)預(yù)算要用于確保安全。現(xiàn)實卻是,全球AI安全研究明顯滯后于技術(shù)發(fā)展。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“現(xiàn)在的大模型還沒有‘囂張’到那個程度,所以還沒有產(chǎn)生毀滅世界的結(jié)果,但是長期來講,我們要把這個事管制好。”姚期智強調(diào),安全治理的當(dāng)務(wù)之急是發(fā)展“AI對齊(AI Alignment)”及評估方法。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他提供了兩種思路。一種思路要從博弈論角度展開,讓AI的行為與人類想法對齊,以人類的利益為主;另一種“更有把握、更徹底”的思路是,設(shè)計可證明的安全的AGI(通用人工智能),每一步都符合數(shù)學(xué)上絕對安全的要求,“凡是有可能出問題的系統(tǒng)大家都不要做”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

技術(shù)細(xì)節(jié)依然艱深,暗藏的安全隱患愈發(fā)明顯。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

AI對齊,是人工智能安全領(lǐng)域的核心議題,旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價值觀、偏好及意圖協(xié)調(diào)一致。然而在“對齊”這件事上,中國社會科學(xué)院學(xué)部委員趙汀陽的想法有點兒不一樣。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

須發(fā)皆白的他,跛著腳走上臺,坐下,第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對齊嗎?”聽聞此問,我有些愣住,困意全消。他繼續(xù)驚人之語:“人們期望AI要和人的價值觀對齊。我對這個想法是有一些疑問的。地球上的所有‘壞事’都是人類做的,其他生命沒有做過任何超出生物需要的壞事。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

趙汀陽盯著階梯教室里的100余人,笑聲一片,我也笑了。但笑過之后,細(xì)細(xì)琢磨,他的這番話,更像是一記打向人性的耳光。AI也許是“性本善”的,只不過跟著人類的數(shù)據(jù)經(jīng)驗,“照貓畫虎”數(shù)年,學(xué)了好,也學(xué)了壞。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他認(rèn)為,人類試圖把AI制造成為一種具有主體性的新物種,但這似乎是個自虐性的悖論。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

人類既希望AI擁有超能力,去完成人做不了或不想做的事,又擔(dān)心AI獲得自我意識后會傷害人類。趙汀陽說,如果人類不教唆AI犯罪,AI應(yīng)是安全的,對齊人類價值觀的AI,則很可能通過模仿人類而變得危險。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

這個邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的,是人性投射在AI身上的影子。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

至于設(shè)立“AI倫理”,趙汀陽覺得無濟于事。“人類也往往見利就忘義,如果倫理不能必然約束人類自身,又何以能夠約束AI?”他主張,管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

趙汀陽眼里另有一種危險性相對比較低的對齊,是智能對齊。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“就目前智能水平而言,人類相對于AI仍然保有知己知彼的優(yōu)勢,因此能夠控制AI。”趙汀陽說,但當(dāng)AI部分經(jīng)驗?zāi)芰h超人類后,人類優(yōu)勢蕩然無存,AI將成為令人不寒而栗的“他者”,世界將形成二元主體性的格局,而人類與AI的關(guān)系將如何,無從知道。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

不過,在中國科學(xué)院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來,未來的社會可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想,未來的社會不僅有人類、動物、超級智能,可能還有模仿狗、植物的類生命體。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

那是一個他期待的可持續(xù)的共生社會,靠人和超級智能共同構(gòu)造,而不是靠人類自己。曾毅認(rèn)為,“所以向人類的對齊確實是不對的,要做超級的聯(lián)合對齊。”聯(lián)合對齊,這個詞很新鮮,帶著一種“天下大同”的意味。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

但他認(rèn)為,在這樣的社會中,更重要的是,人類的價值觀要演化。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“比如當(dāng)超級智能未傷害到人類時,可不可以有自己的隱私?”曾毅提出這個問題時,我愣了一下。我從來沒思考過,機器某一天可以有自己的隱私?那意味著,它相對自由、獨立,不再是人類的附庸和工具。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“當(dāng)人對超級智能說,‘我是你的創(chuàng)作者,你要保護我’時,超級智能可能會跟人說,‘當(dāng)我看到你,就像你看到螞蟻一樣,你從來不會保護螞蟻,我為什么要保護你’。”曾毅提醒道。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他覺得,人工智能是一面鏡子。“當(dāng)人工智能騙人,大家都吃驚,說人工智能怎么能騙人呢,太壞了。但是當(dāng)人騙你的時候你的反應(yīng)有這么大嗎?恐怕沒有。”在曾毅看來,人工智能的鏡子讓我們看到了人類的缺陷,給了人類演化的機遇。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“人工智能演化慢點沒問題,但如果人類演化太慢了,那是真正的危險。”曾毅說。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

說老實話,僅在“人類價值觀演化”層面,我對人類的未來信心不足。一旦AI邁過奇點,超越人類,一切都將不盡如人意。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“作為一個自私的人,我希望人工智能‘性本善’。”曾毅記得,有一次,他在講座中遇到了一位研修佛法者,問他AI能否成佛。他覺得,并非沒有可能,超級智能除了認(rèn)知超過人類,也可能是超級“利他”的。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

聽完曾毅的發(fā)言,汪暉說,他腦子里出現(xiàn)了赫爾曼·黑塞(Hermann Hesse)的《玻璃球游戲》中的鏡像,人在多重鏡面看到了自身。“我們都在討論怎么馴化機器,我們也需要討論人與自然、人與物的關(guān)系,重新理解人自身。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

上午的論壇結(jié)束,我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本,感覺腦袋里比來時更“沉重”了。這場論壇,表面上是在探討AI倫理奇點、智能邊界,實際上始終在叩問自詡?cè)f物之靈的人類自己——那個既渴望神力、又恐懼神力的高級動物。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

下午的3場分論壇分別圍繞“2100年人類與超級智能的關(guān)系”“認(rèn)識機器:意識、道德與風(fēng)險”和“奇點前夜:人類如何安身立命”,我選擇了第二場,但沒聽多久,就開始犯困,身邊也有人開始打瞌睡,頭不停地點著,像被陣陣微風(fēng)拂過的蘆葦。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

發(fā)言者有一半人說英文,我戴著同聲傳譯器,耳機里不時傳來資本、奴隸、機器、工具等詞匯,每一個字都聽得懂,卻沒有一句能真正進入意識里。我感覺會場的學(xué)者離我越來越遠,那些聲音越來越小,有好幾次,我差點兒睡著了,也許是真的太困,也許是腦容量過載了。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

中途,我離開昏昏欲睡的會場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子,催我修改。在蒙民偉人文樓的大廳里,我找到了一塊插線板,打開電腦,席地而坐,開始忙碌。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

神奇的是,一旦回到具體而微的“人類事務(wù)”,我的精神很快就清醒了。也許,相比于思考數(shù)十年后與AI的關(guān)系、厘清機器的倫理邊界、琢磨人類如何安身立命這類宏大的時代命題,此刻的我更在乎如何在當(dāng)下“安身立命”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

只是腦子里,還隱約回響著那句警言:“如果人類演化太慢了,那才是真正的危險。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

65歲的學(xué)者汪暉身著西裝上臺了。他頭發(fā)花白,手執(zhí)講稿,身后的大屏幕上寫著這場論壇的主題:“AI時代的倫理奇點”。這是當(dāng)下的熱門話題,但臺下有人在打哈欠,顯然清晨的困意未消。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

我是一大早,跨越大半個北京城,擠了一個多小時的地鐵來清華大學(xué)聽這場“方塘論壇”的,興致很高。一半是因為這跟AI有關(guān),一半是因為嘉賓名單里不只有科學(xué)家,還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他們是人文社科領(lǐng)域的“思想老者”,要跟科學(xué)家一塊兒探討這個時代最新的燙手命題,這本身就值得期待。針對“時代”,他們論了幾十年,現(xiàn)在仍未停止。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

面前的階梯教室沒坐滿,但也匯聚了上百人:學(xué)生、教授、學(xué)者、記者、作家,還有從美、英、德、意等國請來的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會議特有的、略帶沉悶的氣氛,我揉了揉酸澀的眼睛,吃了口離家時塞進背包的面包,想提振精神,讓沉重的腦袋清醒一些。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“幾乎所有領(lǐng)域,都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場,話語沉穩(wěn)有力,“回應(yīng)AI時代的倫理挑戰(zhàn),不僅需要對技術(shù)本身的理解,更需要回到哲學(xué)、社會學(xué)、政治經(jīng)濟學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域,共同探尋人類何以‘安身立命’”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

論壇的擇期頗顯用心,6月23日這天是計算機科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年;圖靈獎的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

人工智能被提出75年了,而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示,中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億,中國互聯(lián)網(wǎng)花了15年,而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達到了5億。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

歷史上從未有一個時代如AI時代這般,將未來如此迅猛地推向當(dāng)下。時間仿佛被丟入加速器,而AI如氧氣一般,彌漫進社會和人的毛細(xì)血管里。智能駕駛、機器人、AI醫(yī)生、AI伴侶等,過去數(shù)十年來,昔日科幻小說里的事物正步入現(xiàn)實。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時,挑戰(zhàn)也如影隨形:失業(yè)、偏見、倫理、法律,乃至關(guān)乎人類存續(xù)的風(fēng)險。這些問題,讓我覺得既遙遠又真實。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“通用人工智能的能力快速增長,人類是否還有能力管控它?”姚期智是這天的第一個主題發(fā)言者。年近八旬的他,聲音不高,但每一個問題,都能戳我一下。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他認(rèn)為,AI時代的問題,許多是被放大的舊疾,尤其是生存性風(fēng)險,武器的誕生曾讓人類很焦慮,AI也有這樣的問題,“它變得更危險、更難對付”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

姚期智提到了2024年諾貝爾化學(xué)獎得主——因利用AlphaFold(一種AI系統(tǒng))解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎的戴米斯·哈薩比斯(Demis Hassabis)和約翰·江珀(John M.Jumper)。“這是多年來不可能的事情,也給了我們一些終極希望。”姚期智隨即警示,AI在生物醫(yī)學(xué)領(lǐng)域的突破,也可能被用來創(chuàng)造“鏡像生命(Mirror life,一種存在于假說中的人工合成生物)”,帶來致命的災(zāi)難。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

2024年12月,《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究,優(yōu)先考慮并防范風(fēng)險。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

另一種生存性風(fēng)險在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng),它變得越來越像人。”姚期智指出,已有模型展示出“騙人”本領(lǐng)和對人性的洞察——問題的嚴(yán)峻性在于,當(dāng)它真正像人一樣,甚至超過人時,如何控制。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”,現(xiàn)在這個難題比以往任何時候都更迫切地需要答案。我這個人工智能技術(shù)領(lǐng)域的小白是沒有答案的,那一刻,我腦子里只閃過許多科幻電影里的失控場景。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

從兩年前開始,許多科學(xué)家就曾疾呼:至少三分之一AI研發(fā)預(yù)算要用于確保安全?,F(xiàn)實卻是,全球AI安全研究明顯滯后于技術(shù)發(fā)展。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“現(xiàn)在的大模型還沒有‘囂張’到那個程度,所以還沒有產(chǎn)生毀滅世界的結(jié)果,但是長期來講,我們要把這個事管制好。”姚期智強調(diào),安全治理的當(dāng)務(wù)之急是發(fā)展“AI對齊(AI Alignment)”及評估方法。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他提供了兩種思路。一種思路要從博弈論角度展開,讓AI的行為與人類想法對齊,以人類的利益為主;另一種“更有把握、更徹底”的思路是,設(shè)計可證明的安全的AGI(通用人工智能),每一步都符合數(shù)學(xué)上絕對安全的要求,“凡是有可能出問題的系統(tǒng)大家都不要做”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

技術(shù)細(xì)節(jié)依然艱深,暗藏的安全隱患愈發(fā)明顯。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

AI對齊,是人工智能安全領(lǐng)域的核心議題,旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價值觀、偏好及意圖協(xié)調(diào)一致。然而在“對齊”這件事上,中國社會科學(xué)院學(xué)部委員趙汀陽的想法有點兒不一樣。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

須發(fā)皆白的他,跛著腳走上臺,坐下,第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對齊嗎?”聽聞此問,我有些愣住,困意全消。他繼續(xù)驚人之語:“人們期望AI要和人的價值觀對齊。我對這個想法是有一些疑問的。地球上的所有‘壞事’都是人類做的,其他生命沒有做過任何超出生物需要的壞事。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

趙汀陽盯著階梯教室里的100余人,笑聲一片,我也笑了。但笑過之后,細(xì)細(xì)琢磨,他的這番話,更像是一記打向人性的耳光。AI也許是“性本善”的,只不過跟著人類的數(shù)據(jù)經(jīng)驗,“照貓畫虎”數(shù)年,學(xué)了好,也學(xué)了壞。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他認(rèn)為,人類試圖把AI制造成為一種具有主體性的新物種,但這似乎是個自虐性的悖論。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

人類既希望AI擁有超能力,去完成人做不了或不想做的事,又擔(dān)心AI獲得自我意識后會傷害人類。趙汀陽說,如果人類不教唆AI犯罪,AI應(yīng)是安全的,對齊人類價值觀的AI,則很可能通過模仿人類而變得危險。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

這個邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的,是人性投射在AI身上的影子。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

至于設(shè)立“AI倫理”,趙汀陽覺得無濟于事。“人類也往往見利就忘義,如果倫理不能必然約束人類自身,又何以能夠約束AI?”他主張,管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

趙汀陽眼里另有一種危險性相對比較低的對齊,是智能對齊。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“就目前智能水平而言,人類相對于AI仍然保有知己知彼的優(yōu)勢,因此能夠控制AI。”趙汀陽說,但當(dāng)AI部分經(jīng)驗?zāi)芰h超人類后,人類優(yōu)勢蕩然無存,AI將成為令人不寒而栗的“他者”,世界將形成二元主體性的格局,而人類與AI的關(guān)系將如何,無從知道。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

不過,在中國科學(xué)院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來,未來的社會可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想,未來的社會不僅有人類、動物、超級智能,可能還有模仿狗、植物的類生命體。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

那是一個他期待的可持續(xù)的共生社會,靠人和超級智能共同構(gòu)造,而不是靠人類自己。曾毅認(rèn)為,“所以向人類的對齊確實是不對的,要做超級的聯(lián)合對齊。”聯(lián)合對齊,這個詞很新鮮,帶著一種“天下大同”的意味。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

但他認(rèn)為,在這樣的社會中,更重要的是,人類的價值觀要演化。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“比如當(dāng)超級智能未傷害到人類時,可不可以有自己的隱私?”曾毅提出這個問題時,我愣了一下。我從來沒思考過,機器某一天可以有自己的隱私?那意味著,它相對自由、獨立,不再是人類的附庸和工具。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“當(dāng)人對超級智能說,‘我是你的創(chuàng)作者,你要保護我’時,超級智能可能會跟人說,‘當(dāng)我看到你,就像你看到螞蟻一樣,你從來不會保護螞蟻,我為什么要保護你’。”曾毅提醒道。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

他覺得,人工智能是一面鏡子。“當(dāng)人工智能騙人,大家都吃驚,說人工智能怎么能騙人呢,太壞了。但是當(dāng)人騙你的時候你的反應(yīng)有這么大嗎?恐怕沒有。”在曾毅看來,人工智能的鏡子讓我們看到了人類的缺陷,給了人類演化的機遇。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“人工智能演化慢點沒問題,但如果人類演化太慢了,那是真正的危險。”曾毅說。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

說老實話,僅在“人類價值觀演化”層面,我對人類的未來信心不足。一旦AI邁過奇點,超越人類,一切都將不盡如人意。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

“作為一個自私的人,我希望人工智能‘性本善’。”曾毅記得,有一次,他在講座中遇到了一位研修佛法者,問他AI能否成佛。他覺得,并非沒有可能,超級智能除了認(rèn)知超過人類,也可能是超級“利他”的。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

聽完曾毅的發(fā)言,汪暉說,他腦子里出現(xiàn)了赫爾曼·黑塞(Hermann Hesse)的《玻璃球游戲》中的鏡像,人在多重鏡面看到了自身。“我們都在討論怎么馴化機器,我們也需要討論人與自然、人與物的關(guān)系,重新理解人自身。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

上午的論壇結(jié)束,我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本,感覺腦袋里比來時更“沉重”了。這場論壇,表面上是在探討AI倫理奇點、智能邊界,實際上始終在叩問自詡?cè)f物之靈的人類自己——那個既渴望神力、又恐懼神力的高級動物。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

下午的3場分論壇分別圍繞“2100年人類與超級智能的關(guān)系”“認(rèn)識機器:意識、道德與風(fēng)險”和“奇點前夜:人類如何安身立命”,我選擇了第二場,但沒聽多久,就開始犯困,身邊也有人開始打瞌睡,頭不停地點著,像被陣陣微風(fēng)拂過的蘆葦。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

發(fā)言者有一半人說英文,我戴著同聲傳譯器,耳機里不時傳來資本、奴隸、機器、工具等詞匯,每一個字都聽得懂,卻沒有一句能真正進入意識里。我感覺會場的學(xué)者離我越來越遠,那些聲音越來越小,有好幾次,我差點兒睡著了,也許是真的太困,也許是腦容量過載了。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

中途,我離開昏昏欲睡的會場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子,催我修改。在蒙民偉人文樓的大廳里,我找到了一塊插線板,打開電腦,席地而坐,開始忙碌。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

神奇的是,一旦回到具體而微的“人類事務(wù)”,我的精神很快就清醒了。也許,相比于思考數(shù)十年后與AI的關(guān)系、厘清機器的倫理邊界、琢磨人類如何安身立命這類宏大的時代命題,此刻的我更在乎如何在當(dāng)下“安身立命”。URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

只是腦子里,還隱約回響著那句警言:“如果人類演化太慢了,那才是真正的危險。”URa即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

本文鏈接:http://jphkf.cn/news-2-2797-0.html我在AI論壇打瞌睡會錯過未來嗎

聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻,不代表本站觀點,本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。

上一篇:科技型企業(yè)孵化器將迎多重政策利好

下一篇:AI賦能!新能源汽車跑出“智造”加速度

為你推薦
來自美國亞利桑那大學(xué)的天文學(xué)家團隊使用大型雙筒望遠鏡干涉儀,在紅外波段捕捉到了迄今為止最清晰的活動星系核(AGN)圖像,并將研究結(jié)果發(fā)表在最新一期...
01-21
圖源:圖蟲創(chuàng)意 還有10天就是除夕,作為2025蛇年春晚獨家電商...
01-21
  本報記者趙珊《人民日報海外版》(2025年01月17日第12版)  新春佳節(jié)臨近,海南省??谑胁勐?..
01-21
  近日,《遼寧省沿海港口布局規(guī)劃(2024—2035年)》(以下簡稱《規(guī)劃》)正式出臺。我省是2023年全國港口航道...
02-05
  今天(1月20日)進入大寒節(jié)氣,我國大部氣溫將較常年同期偏高。20日、21日,大部地區(qū)升溫勢頭持續(xù),最高氣溫20℃線將推進到湖北至河南南部一帶,但是晝夜溫差較大,公眾請適時調(diào)整...
01-21
  現(xiàn)代快報訊(實習(xí)生 唐子文 記者 季雨)日前,現(xiàn)代快報報道了“7個1”手機號60萬元起拍一事,引發(fā)網(wǎng)友關(guān)注。1月21日,該手機號正式開拍,在經(jīng)過3個小時的競拍后,終因無人出價導(dǎo)致...
01-22
2 月 2 日消息,繼昨日多位博主分享了蔚來 5 年 0 息購車優(yōu)惠海報后,蔚來官方公布了限時金融優(yōu)惠更多細(xì)節(jié):用戶 2025 年 2 月 1 日至 2 月 28 日期間支付定金購買蔚來,可...
02-02
2 月 3 日消息,今年春節(jié)假期,七座以下(含七座)小型客車通行收費公路繼續(xù)執(zhí)行免收通行費政策,免費通行時段起止時間為1月28日(除夕)00:00至2月4日(正月初七,明天)24:00,共計8天...
02-04
最近幾天,幾部新劇陸續(xù)播出,其中備受期待的《復(fù)明計劃A》終于上線。該劇播出后熱度不減,頻繁登上各大社交平臺熱搜。接下來聊聊這部劇的劇情。主演為朱彥愷和...
02-20
近期,臺灣娛樂圈風(fēng)波不斷,先是大S的突然離世震驚各界,隨后又傳出陳妍希與陳曉婚變的消息,令人唏噓不已。然而,事件并未平息,19日晚再傳新動態(tài),汪小菲即將抵臺,預(yù)計將與S媽展開正面交...
02-23
21世紀(jì)經(jīng)濟報道記者 李佳英 廣州報道近期,寧夏紀(jì)委監(jiān)委反腐專題片《為了人民的利益》、貴州紀(jì)委監(jiān)委專題片《縱深推進——貴州正風(fēng)肅紀(jì)反腐...
01-21
  近期,呼吸道傳染病進入高發(fā)季。中國疾控中心傳染病預(yù)防控制所所長闞飆表示,目前到醫(yī)院就診的、癥狀類似流感的患者中,流感病毒、鼻病毒、人偏肺病毒和肺炎支原體等病...
01-21
文|《中國科學(xué)報》記者孫滔 回國任教是董若冰2024年的頭等大事。這一年里...
01-21
  大眾網(wǎng)記者 秦瑾 通訊員 吳悅 報道  12月19日,2024年度山東省數(shù)據(jù)要素發(fā)展大會暨可信數(shù)據(jù)空間建設(shè)啟動會在山東大廈舉行。齊魯師范學(xué)院人工智能教育研究院研發(fā)的“...
01-21
  在我國人口老齡化加速的大背景下,養(yǎng)老金融成為社會關(guān)注的焦點。中共中央、國務(wù)院近日出臺的...
01-21
  截至2月13日,已有135家險企(不含再保險公司)披露了2024年四季度償付能力報告,包括60家人身險公...
02-14
天蝎座的女生通常被認(rèn)為是十分獨立、自信和堅強的,但當(dāng)她們感到自己的愛情受到威脅時,她...
01-22
每個人都有自己心目中理想的伴侶類型,而對于獅子座的男生他們通常希望找到一位能夠與他...
01-22
日系穿搭特點?一、日系穿搭的特點在穿搭方面日系風(fēng)簡直把休閑做到了極致,要說亞洲潮流文化發(fā)祥地,原宿絕對是一大圣地這里除了有常見的時尚大牌,還有親民的牌子,日系穿搭的主要特...
02-07
休閑襯衫搭配什么褲子和鞋子好看?一、休閑襯衫搭配什么褲子和鞋子好看?休閑襯衫搭配什么褲子 配闊腿牛仔褲 隨著復(fù)古的闊腿褲回歸,闊腿褲的搭配越來越靈活。 最常見的韓范妹子...
02-12
2月8日消息,據(jù)“市象”公眾號消息,京東近期正式推出競價購物玩法“京東指數(shù)”,該玩法采用消費者與商家雙方共同競價的模式,形成商品價格的動態(tài)交易。接近京東的人士透露,這一新玩...
02-09
2月13日消息,商務(wù)部新聞發(fā)言人何詠前今日介紹“2025全國網(wǎng)上年貨節(jié)”有關(guān)情況。2月5日,2025年全國網(wǎng)上年貨節(jié)圓滿收官。據(jù)商務(wù)大數(shù)據(jù)對重點電商平臺監(jiān)測,活動期間,全國日均網(wǎng)上...
02-14
2月13日消息,京東養(yǎng)車日前與杭州陸益嘉信息技術(shù)有限公司達成戰(zhàn)略合作,雙方將以獨家授權(quán)的合作模式,共同推進浙江省五市京東養(yǎng)車連鎖加盟門店的拓展。根據(jù)合作協(xié)議,雙方將于三年...
02-14
來源:圖蟲 3月3日,《長安的荔枝》發(fā)布首支預(yù)告及海報,并官宣...
03-04
2024年12月14日 消息,杭州曉商圈網(wǎng)絡(luò)科技有限公司(簡稱“曉商圈”),今日獲得深圳市冠峰永越投資有限公司(簡稱“冠峰資本”)三千萬人民幣的戰(zhàn)略投資。曉...
02-07
近日,華力創(chuàng)科學(xué)宣布完成數(shù)千萬元A+輪融資,本輪融資由金屬3D打印領(lǐng)域頭部上市公司鉑力特獨家投資。據(jù)披露,本輪融資所募集的資金將專注于深挖高性能光學(xué)多模態(tài)感知技術(shù),結(jié)合金屬...
01-24
Midnight Society是由頗具爭議的主播Dr Disrespect聯(lián)合創(chuàng)立的游戲工作室。在進行大規(guī)模裁員四個月后,該工作室即將關(guān)門大吉。與此同時,谷歌宣布解除對Dr Disresp...
02-03
發(fā)行商Hooded Horse近日宣布,中古時期策略游戲《莊園領(lǐng)主》銷量已突破300萬份,官方對玩家的支持表示了衷心感謝。 《莊園領(lǐng)主》最初于2024年4月26日在Steam上發(fā)...
02-10
極目新聞記者 周萍英1月31日,農(nóng)歷正月初三,湖北襄陽南漳東鞏鎮(zhèn)蒼坪村龍王灘橋,兩輛車在同一地點轉(zhuǎn)彎墜橋,掉入水中,網(wǎng)友質(zhì)疑道路設(shè)計有問題。2月4日,當(dāng)?shù)叵嚓P(guān)部門回應(yīng)極目新聞記者...
02-04
極目新聞記者 舒隆煥2月5日,一名女子阻止一名男子上車并抱住對方大腿的視頻在網(wǎng)上傳播,引發(fā)熱議。女子抱住男子的大腿(視頻截圖)視頻中,男子讓女子上陜F牌照的新能源車,并稱“你再...
02-06
返回

點擊右上角微信好友

朋友圈

點擊瀏覽器下方“”分享微信好友Safari瀏覽器請點擊“”按鈕

點擊右上角QQ

點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕