AI詐騙頻發(fā)，名人屢被“冒充”，青少年與AI對(duì)話后自殺……AI技術(shù)發(fā)展過程中，安全挑戰(zhàn)一直如影隨形。如何確?！癆I向善”，發(fā)展負(fù)責(zé)任的人工智能？11月21日，2024世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)人工智能負(fù)責(zé)任開發(fā)與應(yīng)用論壇在浙江烏鎮(zhèn)舉行，來自政、產(chǎn)、學(xué)、媒的多位與會(huì)嘉賓對(duì)此作了深度討論。

中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏、浙江省人民政府副省長(zhǎng)張雁云出席論壇并致辭。人民網(wǎng)董事長(zhǎng)、傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室主任葉蓁蓁出席論壇并發(fā)言。

世界知識(shí)產(chǎn)權(quán)組織駐華代表劉華在致辭中指出，人工智能的發(fā)展正在對(duì)知識(shí)產(chǎn)權(quán)工作產(chǎn)生前所未有的影響，人工智能參與下的知識(shí)產(chǎn)權(quán)保護(hù)問題成為全球關(guān)注的焦點(diǎn)。各國(guó)在司法判例和實(shí)踐中對(duì)人工智能對(duì)知識(shí)產(chǎn)權(quán)的影響有不同的處理方式，這進(jìn)一步凸顯了人工智能技術(shù)給知識(shí)產(chǎn)權(quán)帶來的挑戰(zhàn)。因此，需要進(jìn)一步加強(qiáng)人工智能領(lǐng)域的國(guó)際協(xié)調(diào)與合作，以應(yīng)對(duì)這些挑戰(zhàn)。

第十四屆全國(guó)政協(xié)委員、中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)理事長(zhǎng)趙澤良在發(fā)言中指出，人工智能的安全治理要把握好三個(gè)方面，一是要高度關(guān)注和注意解決人工智能本身和人工智能在使用過程中可能產(chǎn)生的安全問題；二是要善于、注重用人工智能，包括用大模型來解決其他類型的網(wǎng)絡(luò)安全問題；三是人工智能安全治理，要以保障和促進(jìn)人工智能的發(fā)展應(yīng)用為出發(fā)點(diǎn)。這三點(diǎn)哪一點(diǎn)都離不開創(chuàng)新，創(chuàng)新是核心，創(chuàng)新是靈魂。

“AI向善”首先意味著要以人為本。中國(guó)工程院院士、同濟(jì)大學(xué)校長(zhǎng)鄭慶華表示，讓科技與人類價(jià)值對(duì)齊，是引導(dǎo)人工智能科技向善、以人為本的重要基礎(chǔ)。鄭慶華強(qiáng)調(diào)，作為教育工作者，既要發(fā)揮人工智能的賦能作用，又要防止技術(shù)凌駕于人之上，在人才培養(yǎng)領(lǐng)域堅(jiān)持德智體美勞全面發(fā)展，避免技術(shù)“物化”和“異化”。

“AI向善”也意味著要可持續(xù)發(fā)展。香港理工大學(xué)視覺計(jì)算講座教授、歐洲人文和自然科學(xué)院外籍院士陳長(zhǎng)汶坦言，從實(shí)踐看，人工智能在多方面與可持續(xù)發(fā)展存在著爭(zhēng)奪寶貴資源的博弈。目前的大模型仍依賴于超大規(guī)模的算力和能源資源的供給。跟人腦的低功耗相比，差別巨大。需要我們對(duì)下一代人工智能訓(xùn)練、推理設(shè)計(jì)提出新的架構(gòu)要求。

“AI向善”要具體問題具體分析。在螞蟻集團(tuán)副總裁李俊奎看來，AI如同高速行駛的汽車，需要道路和信號(hào)的引導(dǎo)。他提出“紅燈停、黃燈等、綠燈行”的理念，即對(duì)違反人類價(jià)值觀的AI應(yīng)用進(jìn)行防御和抵制，對(duì)潛在風(fēng)險(xiǎn)的AI應(yīng)用進(jìn)行慎重對(duì)待，對(duì)有益于人類的AI應(yīng)用予以鼓勵(lì)和支持。

“AI向善”依托于技術(shù)的發(fā)展。深圳理工大學(xué)計(jì)算機(jī)科學(xué)與控制工程學(xué)院院長(zhǎng)、講席教授，美國(guó)醫(yī)學(xué)與生物工程院院士潘毅說，從應(yīng)用看，人工智能正經(jīng)歷普通模型、行業(yè)模型、場(chǎng)景模型和問題模型四個(gè)發(fā)展階段，每個(gè)階段的發(fā)展，都依賴于更多的知識(shí)和參數(shù)微調(diào)。目前人工智能更多是基于參數(shù)的預(yù)測(cè)推理，后續(xù)還需不斷攻克算力限制、AI幻覺、風(fēng)險(xiǎn)識(shí)別等問題，最終在各領(lǐng)域?qū)崿F(xiàn)高價(jià)值賦能。

“我們應(yīng)該以工具視之，以工具用之，以工具治理之。”安恒信息董事長(zhǎng)范淵提出，新一代人工智能技術(shù)，不僅僅是人機(jī)交互體驗(yàn)、協(xié)作的革命，更是專家經(jīng)驗(yàn)傳承的一次變革。在網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域，AI正在重構(gòu)安全工作協(xié)同關(guān)系，助力安全產(chǎn)業(yè)發(fā)展和行業(yè)應(yīng)用價(jià)值化呈現(xiàn)，為行業(yè)應(yīng)用帶來質(zhì)的變化。

通過積極的治理和技術(shù)創(chuàng)新，AI可以成為推動(dòng)社會(huì)進(jìn)步和提升生活質(zhì)量的有力工具。宜人智科董事會(huì)主席、首席執(zhí)行官唐寧談到，從理論研究到商業(yè)運(yùn)用，人工智能通過技術(shù)創(chuàng)新與應(yīng)用創(chuàng)新發(fā)揮了眾多積極作用。將人工智能技術(shù)轉(zhuǎn)化為具體且可行的解決方案與產(chǎn)品，對(duì)推動(dòng)人工智能行業(yè)的發(fā)展以及實(shí)現(xiàn)商業(yè)價(jià)值，有著至關(guān)重要的意義。

在圓桌討論環(huán)節(jié)中，嘉賓一致認(rèn)為：全球協(xié)作是AI治理的關(guān)鍵，需要各方共同努力，形成系統(tǒng)性共識(shí)，推動(dòng)AI治理的有效實(shí)施。隨后，圍繞AI治理的具體路徑，中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅、中國(guó)電信研究院副院長(zhǎng)李安民、浙江大學(xué)傳媒與國(guó)際文化學(xué)院常務(wù)副院長(zhǎng)方興東、浙江大學(xué)濱江研究院數(shù)智融合研究中心主任韓蒙、劍橋大學(xué)智能未來研究中心項(xiàng)目主任肖恩·歐·海格緹、美國(guó)奧爾布賴特石橋集團(tuán)合伙人及副總裁 保羅·特里奧洛、香港醫(yī)院管理局資訊科技及醫(yī)療信息部總經(jīng)理余法昌、鈦媒體聯(lián)合創(chuàng)始人兼聯(lián)席CEO劉湘民、印象筆記董事長(zhǎng)兼首席執(zhí)行官唐毅等多位專家進(jìn)行了深入探討。

本次論壇由世界知識(shí)產(chǎn)權(quán)組織、人民網(wǎng)、中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)、安恒信息主辦，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)、印象筆記、鈦媒體協(xié)辦，旨在促進(jìn)建設(shè)多主體參與、多層面治理的人工智能科研、轉(zhuǎn)化與發(fā)展機(jī)制，推動(dòng)構(gòu)建人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的良好生態(tài)。