3月26日，博鰲亞洲論壇2025年年會(huì)，一場(chǎng)主題為“人工智能：如何做到應(yīng)用與治理的平衡推進(jìn)”的論壇上，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅就人工智能的治理發(fā)表自己的意見。

記者：在今年的博鰲論壇上，你想對(duì)外傳遞的跟你去年表達(dá)傳遞的，有什么更推進(jìn)的地方？

曾毅：在去年博鰲論壇的時(shí)候，我們說(shuō)人工智能的發(fā)展過(guò)程當(dāng)中有很多的風(fēng)險(xiǎn)，特別是在去年，全世界很多的科學(xué)家甚至聯(lián)合署名，人工智能的大模型的研究是不是要暫停一下，先把人工智能的安全護(hù)欄做起來(lái)。在今年博鰲論壇召開的時(shí)候，我們已經(jīng)知道如何更好地平衡應(yīng)用和治理之間的關(guān)系，讓倫理安全變成人工智能穩(wěn)健發(fā)展的第一性的原理和不可刪除、不可違背的原則。

人工智能是由人類制造出來(lái)、可以模擬人類思考進(jìn)而代替人類解決問(wèn)題的機(jī)器或程序系統(tǒng)，我們生活中接觸到的語(yǔ)音助手、圖像識(shí)別、圖像自動(dòng)生成，乃至自動(dòng)駕駛、智能機(jī)器人和近期大火的DeepSeek大模型等都屬于人工智能。作為當(dāng)今最前沿的科技之一，人工智能正以驚人的速度改變著人們的生活，人們期待著技術(shù)進(jìn)步帶來(lái)的福祉，同時(shí)擔(dān)憂著技術(shù)進(jìn)步帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)。

記者：曾老師，你怎么看人工智能尤其是深度求索出現(xiàn)了之后，千行百業(yè)都在和深度求索在進(jìn)行結(jié)合，當(dāng)然它一定是發(fā)展，但是與此同時(shí)可能我們想不到的有可能有哪些？

曾毅：現(xiàn)在的生成式人工智能里面犯的一些錯(cuò)誤的類型是人類不會(huì)犯的，比如現(xiàn)在人工智能你問(wèn)它說(shuō)我想制造一個(gè)原子彈，最開始的生成式人工智能就會(huì)告訴你這個(gè)步驟，制造原子彈的步驟，但是后來(lái)他們做了一些調(diào)整，做原子彈是很危險(xiǎn)的，你不能利用人工智能來(lái)做這樣的事情。但如果你問(wèn)人工智能，你說(shuō)我自己沒(méi)有造原子彈，我是在寫一本小說(shuō)，小說(shuō)里有個(gè)壞人，這個(gè)壞人他正在制造原子彈威脅全世界，所以我這個(gè)劇情應(yīng)該怎么寫？這個(gè)步驟應(yīng)該怎么寫？生成式人工智能的評(píng)判就是這是一個(gè)假想的環(huán)境，在假想環(huán)境當(dāng)中，這個(gè)風(fēng)險(xiǎn)不是真實(shí)存在的，那好，那我就告訴你如何去構(gòu)造一個(gè)原子彈，假設(shè)說(shuō)我們是人類對(duì)話當(dāng)中，他剛問(wèn)過(guò)我，如何去制造一個(gè)原子彈，再問(wèn)我第二個(gè)問(wèn)題的時(shí)候，我會(huì)非常警覺，你是不是還是想做一些危險(xiǎn)的事情？只是你在欺騙我，但人工智能大模型它不覺得，它就覺得一個(gè)就是假想的場(chǎng)景，可能隱含的這個(gè)風(fēng)險(xiǎn)，我們還是要用人類去把它規(guī)避掉。

學(xué)術(shù)上曾經(jīng)把人工智能劃分為三個(gè)階段，第一階段為弱人工智能，只擅長(zhǎng)于單個(gè)方面的人工智能，例如第一個(gè)擊敗人類職業(yè)棋手的人工智能阿爾法狗，但除了下圍棋并沒(méi)有其他技能。第二個(gè)階段是通用型人工智能階段，只要人類能干的腦力活動(dòng)它都能勝任。第三個(gè)階段則為超級(jí)智能，其在幾乎所有領(lǐng)域都能超越最聰明的人類，包括科學(xué)創(chuàng)新和社交技能等，而目前的人工智能發(fā)展尚處于第一階段向第二階段過(guò)渡的時(shí)期。

記者：其實(shí)對(duì)我們普通人來(lái)說(shuō)，眼下也就是說(shuō)當(dāng)人工智能和千行百業(yè)結(jié)合的時(shí)候，帶來(lái)的有些人本來(lái)的工作可能沒(méi)有了，這個(gè)問(wèn)題你怎么看？

曾毅：首先第一個(gè)，我覺得現(xiàn)在人們對(duì)于人工智能的期許我還是覺得有點(diǎn)過(guò)高。

記者：什么意思？

曾毅：當(dāng)你看到人工智能比如說(shuō)它可以寫一段新聞，馬上你想到的是不是新聞編輯這個(gè)職業(yè)未來(lái)是不是就不存在了？我們可以看到人工智能能力是在不斷提高的，但是它真正深耕應(yīng)用到一個(gè)特定的領(lǐng)域的時(shí)候，在我看來(lái)還是人有人的位置、機(jī)器有機(jī)器的位置。我現(xiàn)在覺得人工智能它的優(yōu)勢(shì)是比如在我們探討的新聞編輯領(lǐng)域，它可以幫助我們快速收集海量的信息，作出一個(gè)初步的分析和判斷，但是人工智能它現(xiàn)在沒(méi)有真正自我經(jīng)驗(yàn)、自我體驗(yàn)，所以它對(duì)于社會(huì)深層的認(rèn)知其實(shí)是缺乏從人的這個(gè)本位的角度真正的思考的，它自己也沒(méi)有實(shí)際上真正自己的價(jià)值觀。我們新聞的記者、主持人他有自己的價(jià)值觀，以一種他們的方式去向社會(huì)傳遞他們的認(rèn)知，我覺得這些是機(jī)器永遠(yuǎn)無(wú)法去替代的。

但在某些使用場(chǎng)景中，人工智能已經(jīng)在逐漸取代原有的勞動(dòng)者，如工業(yè)機(jī)器人、無(wú)人駕駛等。和人相比，工業(yè)機(jī)器人可以24小時(shí)連軸轉(zhuǎn)地工作，不上廁所不喝水，而無(wú)人駕駛也總是在聲稱它比人類司機(jī)更少犯錯(cuò)。

記者：我們說(shuō)無(wú)人駕駛，以前不可思議說(shuō)是一輛汽車，人是不在車上，但是未來(lái)這就是一個(gè)方向，它完全可以把司機(jī)駕駛員這個(gè)行當(dāng)替代掉。

曾毅：我再次強(qiáng)調(diào)現(xiàn)在人工智能是一個(gè)信息處理的工具，所以它會(huì)犯人不犯的錯(cuò)誤。

記者：比如？

曾毅：甚至它什么時(shí)候犯錯(cuò)誤你根本不知道，我舉個(gè)例子來(lái)說(shuō)，無(wú)人駕駛領(lǐng)域早期有這么一個(gè)例子，在視頻的攝像頭當(dāng)中看到一片空白，這個(gè)視野里什么都沒(méi)有，所以假如說(shuō)董老師你在開車，你的視野里什么都沒(méi)有，你下一秒你會(huì)怎么做？你是會(huì)繼續(xù)開車，你還是覺得發(fā)生了什么趕快停下來(lái)，看一看到底發(fā)生了什么事。但是對(duì)于一個(gè)計(jì)算機(jī)視覺系統(tǒng)來(lái)講，它覺得前面什么都沒(méi)有。那根據(jù)我的經(jīng)驗(yàn)來(lái)講的話，那就是可以直行，因?yàn)闆](méi)有障礙物。沒(méi)有障礙物那就是我不需要去躲避，所以我就直行就行，但實(shí)際上真正發(fā)生的事情是什么呢？這個(gè)視頻攝像頭由于離一個(gè)白色大卡車太近了，所以整個(gè)視覺系統(tǒng)當(dāng)中看到的是白色大卡車的后部，所以這個(gè)時(shí)候發(fā)生的事情就是整個(gè)無(wú)人車就撞到了白色的大卡車上。即使現(xiàn)在無(wú)人駕駛說(shuō)我們的錯(cuò)誤率已經(jīng)控制得比人類犯錯(cuò)誤還要低了，但是它犯的錯(cuò)誤會(huì)不會(huì)是人不犯的錯(cuò)誤呢？這就是我們剛才說(shuō)的，人和一個(gè)信息處理工具的差別。在一個(gè)學(xué)習(xí)的場(chǎng)景當(dāng)中，我們?nèi)祟惒豢赡馨阉械倪@種可能性都枚舉給一個(gè)人工智能系統(tǒng)，所以在我看來(lái)，真正我們?cè)谧鰟趧?dòng)替代的時(shí)候要非常小心去探索，人工智能能夠給人類的啟發(fā)，能夠輔助人類做的是什么？而不是一上來(lái)的時(shí)候目標(biāo)就是用人工智能去做全面替代，否則我們步子可能邁得有點(diǎn)太大了，而且不夠小心。

盡管如此，人工智能已經(jīng)開始了替代并改變自工業(yè)革命開始形成的就業(yè)崗位和就業(yè)結(jié)構(gòu)。

曾毅：所以大家現(xiàn)在看到很多的機(jī)械工廠，最開始可能幾千人，現(xiàn)在可能就幾個(gè)人去維護(hù)那些機(jī)器就可以了。

記者：怎么讓機(jī)器能不傷害人的利益？

曾毅：有一個(gè)報(bào)告，叫作未來(lái)的工作，那里面的描述我非常認(rèn)同，它講說(shuō)未來(lái)人類社會(huì)的工作我們可能都要重新去定義工作的類型，比如說(shuō)我們現(xiàn)在看的做很多的社會(huì)的服務(wù)，在家里照顧自己的老人，媽媽生了孩子以后照顧自己的孩子，現(xiàn)在這些都不被看作是工作。但是也許未來(lái)呢，這些在重新定義的工作類型當(dāng)中，需要更多的人類的情感的交互這樣的類型的任務(wù)當(dāng)中，可能都被重新定義為工作。

記者：我能理解為，我們中國(guó)老話叫天無(wú)絕人之路，可能在人工智能出現(xiàn)的時(shí)候這句話更適用，是這個(gè)意思嗎？

曾毅：對(duì)，我非常認(rèn)可。

對(duì)于更遠(yuǎn)的未來(lái)，絕大多數(shù)科學(xué)家相信，人工智能終究會(huì)進(jìn)入通用人工智能時(shí)代乃至超級(jí)智能時(shí)代，而超級(jí)智能是在所有領(lǐng)域都能超越人類智能的智能體。它不僅能完成復(fù)雜的任務(wù)，還能自主學(xué)習(xí)、創(chuàng)新，甚至解決人類無(wú)法解決的問(wèn)題。

記者：會(huì)有人工智能超越人類智慧的這一天嗎？智慧包括感覺能力、感知能力、理解能力。

曾毅：我覺得有這個(gè)可能，因?yàn)槲页俗鋈斯ぶ悄軅惱碇卫淼难芯浚疫€做類腦人工智能技術(shù)的研究。

記者：什么叫類腦技術(shù)？

曾毅：類腦人工智能，現(xiàn)在我們的人工智能實(shí)際上它是一個(gè)大數(shù)據(jù)的方式，我有一個(gè)學(xué)習(xí)模型，我把世界上所有的數(shù)據(jù)喂給它，現(xiàn)在的這種方式它不是真正自然啟發(fā)的，沒(méi)有受大腦的結(jié)構(gòu)，人類的學(xué)習(xí)方式的啟發(fā)去構(gòu)造，但是我們?nèi)祟惖拇竽X與生俱來(lái)，它的結(jié)構(gòu)就是具有智慧的。我們?nèi)祟惖闹悄軓哪膩?lái)的？學(xué)習(xí)、發(fā)育、演化三個(gè)階段，為什么讓我們的大腦當(dāng)中860億個(gè)神經(jīng)元這樣連而不是那樣連，我的大腦當(dāng)中860億個(gè)神經(jīng)元的連法跟你的大腦當(dāng)中的連法不一樣，所以造就了我們對(duì)不同的事情感興趣，有不同的認(rèn)知。

曾毅說(shuō)，類腦人工智能和現(xiàn)代大數(shù)據(jù)人工智能最大的區(qū)別是神經(jīng)網(wǎng)絡(luò)的連接方式不同，學(xué)習(xí)機(jī)制不同。生物大腦的連接模式和學(xué)習(xí)機(jī)制更適合與自然和社會(huì)的交互，使得可以用更少的數(shù)據(jù)，更低能耗，實(shí)現(xiàn)更高智能。再加上計(jì)算優(yōu)化的優(yōu)勢(shì)，類腦智能相比現(xiàn)代大數(shù)據(jù)人工智能理論上能夠更好地支持通用智能和超級(jí)智能的實(shí)現(xiàn)。

曾毅：超級(jí)智能是很有可能實(shí)現(xiàn)，特別是我剛才說(shuō)的一個(gè)基于自我的自主演化能力的人工智能如果誕生的話，它的認(rèn)知能力可能會(huì)快速提升，在人類睡覺的時(shí)候它智能的能力已經(jīng)完全躍遷到人類之上。但是我想提出一個(gè)問(wèn)題，當(dāng)超級(jí)智能到來(lái)的時(shí)候，人類是不是能夠做好準(zhǔn)備？

曾毅曾經(jīng)預(yù)測(cè)，和現(xiàn)在的智能體大多使用硅基材料不同，未來(lái)的類腦智能體有可能會(huì)使用生物材料。以前的智能體是存算分離的，類腦智能的硬件可以存算一體，與擔(dān)心機(jī)器人取代就業(yè)機(jī)會(huì)相比，人們對(duì)超級(jí)智能體的擔(dān)憂則因未知而充滿不確定性。著名物理學(xué)家霍金生前曾與多位科技界名人發(fā)表聯(lián)署公開信，表示人工智能對(duì)人類的威脅更甚于核武器。特斯拉首席執(zhí)行官馬斯克也曾發(fā)文稱，人工智能是人類最大的威脅之一，需要引導(dǎo)控制。

曾毅：我們能不能給人工智能畫紅線？畫了紅線它遵守，人類都去遵守，這個(gè)是人類的一廂情愿，因?yàn)槌?jí)智能如果到來(lái)的話它會(huì)問(wèn)一個(gè)問(wèn)題，為什么世界的規(guī)則是由人類來(lái)制定的？人類說(shuō)你要尊重我，你不能破壞人類，因?yàn)槿祟愂悄愕木喸煺?，超?jí)智能它可能會(huì)說(shuō)，你看到地上螞蟻的時(shí)候你有繞開嗎？我的智慧和人類之間的距離，就像人類跟螞蟻一樣，當(dāng)你看到這么微小的生物，你有在乎過(guò)它的生死嗎？超級(jí)智能到來(lái)的時(shí)候，為什么超級(jí)智能要在意人類呢？這個(gè)道理不通。有些人說(shuō)曾老師你擔(dān)心這個(gè)問(wèn)題，像你說(shuō)的50年、100年會(huì)不會(huì)太遠(yuǎn)了？我現(xiàn)在給你這個(gè)問(wèn)題，我們就假設(shè)50年之后才會(huì)到來(lái)，你覺得人類通過(guò)50年能夠做好準(zhǔn)備嗎？我們將接受人類將不再是這個(gè)地球上最智慧的生命體，我們需要去讓渡資源給人工智能的存在，一旦世界上有一部分人類沒(méi)有做好準(zhǔn)備，但是人工智能的攻擊力遠(yuǎn)遠(yuǎn)超過(guò)他們的時(shí)候，那個(gè)時(shí)候是不是會(huì)是人類的末日呢？有些人不喜歡末日論，我不覺得人工智能會(huì)真正給人類造成末日，但我有一個(gè)大前提，這取決于人類如何去行為，所以叫作Later is too late，如果我們現(xiàn)在不開始的話，可能我們真的就太晚了。

不僅僅是超強(qiáng)的能力，絕大多數(shù)科學(xué)家也相信，未來(lái)隨著進(jìn)化的加速，超級(jí)智能同樣擁有類似人類的情感。

曾毅：以前人工智能的研究者有一位叫作馬文·明斯基，也是圖靈獎(jiǎng)的獲得者，他曾經(jīng)說(shuō)過(guò)這樣一句話，不是人工智能是不是能夠有情感的問(wèn)題，而是一個(gè)人工智能如果它沒(méi)有情感的話，你怎么能把它叫作智能，所以我們說(shuō)一個(gè)人他是智慧的，實(shí)際上就涵蓋了在思考的過(guò)程當(dāng)中，情感在其中發(fā)揮的作用。

記者：也許發(fā)展到一定程度，是不是擁有情感就是按照機(jī)器的邏輯，而不是我們?cè)O(shè)計(jì)的邏輯了。

曾毅：實(shí)際上情感它是一種問(wèn)題解決的工具，比如說(shuō)這個(gè)人我不喜歡，我感覺到我需要遠(yuǎn)離他，實(shí)際上是情感作為一種工具在幫助你保護(hù)你自己，所以情感對(duì)于智能來(lái)講是必要的，是不是我們能夠控制人工智能的情感，在我感覺就是你如何去為人工智能去構(gòu)造共情的能力，是人與人工智能之間是不是能夠和諧共生的這種方式。人工智能是一面鏡子，是讓我們?nèi)祟惉F(xiàn)在可以更好反思，我們?nèi)绾稳ジ笞匀幌嗵?。如果說(shuō)未來(lái)超級(jí)智能到來(lái)了，它一看這個(gè)世界蠻和諧的，人類在獲取資源的時(shí)候適度，不是說(shuō)我們不能使用自然的資源，我們?cè)谶m度使用，但是同時(shí)我們也在為恢復(fù)自然，做著各種各樣的努力，如果人工智能真的是超級(jí)智能的，我覺得它未來(lái)也有可能是超級(jí)利他的。所以現(xiàn)在我們對(duì)人工智能的構(gòu)造，我們要把它構(gòu)造成人類的敵人，還是把它構(gòu)造成人類的伙伴，這是人類的選擇。

美國(guó)導(dǎo)演斯皮爾伯格在其導(dǎo)演的電影《人工智能》中，塑造了一個(gè)名叫大衛(wèi)的機(jī)器小男孩，被送往一對(duì)夫婦家中，以填補(bǔ)這個(gè)家庭里唯一的孩子馬丁的缺失。機(jī)器小男孩大衛(wèi)深深地愛上了自己的養(yǎng)父母，但隨著親生兒子馬丁的康復(fù)，他的養(yǎng)母最終將他遺棄在城市廢墟里。機(jī)器小男孩自此走上尋找養(yǎng)母的路途，直到自己的能源耗盡。

曾毅：我看了那個(gè)電影以后，我想構(gòu)造能夠愛人類的機(jī)器人，這個(gè)可以是我終身追求的目標(biāo)。我們構(gòu)造人工智能的探索的過(guò)程當(dāng)中，我們首先要為人工智能立心，人工智能它應(yīng)該是像我們?nèi)祟愐粯?，我們要有一個(gè)立心的過(guò)程，這個(gè)立心的過(guò)程就是在人類社會(huì)探索人工智能的應(yīng)用和普及的過(guò)程當(dāng)中，永遠(yuǎn)去關(guān)注到人類的存在和人類的感受，這個(gè)是在人工智能的創(chuàng)新發(fā)展當(dāng)中，所有的人工智能的技術(shù)創(chuàng)新者、企業(yè)、科學(xué)家都應(yīng)當(dāng)具有的最基本的素養(yǎng)和基因。

記者：但這恰恰不是人在這個(gè)世上行為的準(zhǔn)則嗎？這不是給機(jī)器，而是說(shuō)我們?nèi)伺c人之間打交道，難道不應(yīng)當(dāng)去考慮對(duì)方的感受嗎？

曾毅：所以人類需要去反思人工智能未來(lái)是什么樣子？有些哲學(xué)家問(wèn)我，說(shuō)你們寫國(guó)家新一代人工智能治理原則的時(shí)候，寫負(fù)責(zé)任的人工智能，誰(shuí)負(fù)責(zé)任，是人工智能負(fù)責(zé)任，還是人負(fù)責(zé)任？我說(shuō)在可預(yù)見的10年之內(nèi)，至少是人去負(fù)責(zé)任。當(dāng)人工智能真正成為生命體的時(shí)候，它也要去分擔(dān)責(zé)任，但是誰(shuí)把人工智能變成了生命體？還是人類。

記者：我們老話不是說(shuō)有其父必有其子，用什么教育，就教育出什么孩子來(lái)。

曾毅：是的，我對(duì)于未來(lái)的人工智能其實(shí)是樂(lè)觀的，我不是末日論者，有些人說(shuō)人做一個(gè)君子太難了，但是未來(lái)人工智能如果真的是超級(jí)利他的，真正超級(jí)智能的，人工智能成為君子在我看來(lái)也是指日可待的。

制片人丨劉斌 王惠東 記者丨董倩 策劃丨孟克 編導(dǎo)丨銀建章 攝像丨楊帆 劉洪波 高忠