久久精品日产第一区二区三区画质_www.xx日本在线_久久久国产老熟女_h片免费看久久_亚洲偷窃自拍_又色又爽又黄又刺激国产视频_国产操美女逼逼网站_一区二区产好的精华液

關(guān)注我們
荊楚網(wǎng) > 新聞頻道 > 熱點(diǎn)

數(shù)字技術(shù)與大語言模型時代

發(fā)布時間:2023年09月05日11:12 來源: 光明網(wǎng)

作者:陳曉東(中國社會科學(xué)院工業(yè)經(jīng)濟(jì)研究所研究員)

在人類發(fā)展史上,由于技術(shù)進(jìn)步帶來的全新產(chǎn)品與服務(wù),不僅滿足了既有的需求還創(chuàng)造了新的需求。隨著數(shù)字技術(shù)的廣泛應(yīng)用,以智能化為特征的第四次工業(yè)革命已經(jīng)悄然出現(xiàn)。ChatGPT由于具備了較為流暢的邏輯性對話和交互能力,體現(xiàn)出具有高水平結(jié)構(gòu)復(fù)雜性和大量參數(shù)的大模型可以實(shí)現(xiàn)深度學(xué)習(xí),一經(jīng)問世就備受市場關(guān)注。從本質(zhì)上講,這種大模型是大語言模型(LLM),具有大規(guī)模參數(shù)和復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu),引發(fā)了人工智能生成內(nèi)容(AIGC)技術(shù)的質(zhì)變。與傳統(tǒng)語言模型不同,大語言模型通過在大規(guī)模語料庫上進(jìn)行訓(xùn)練來學(xué)習(xí)語言的統(tǒng)計規(guī)律,能夠自動學(xué)習(xí)語法、句法、語義等多層次的語言規(guī)律。人工智能的大語言模型參數(shù)一般有1億多個,且這一標(biāo)準(zhǔn)還在不斷提高,而比大語言模型更大、更復(fù)雜的人工神經(jīng)網(wǎng)絡(luò)模型,通常擁有數(shù)萬億到數(shù)十萬億個參數(shù)的超大模型。超大模型通常被用于解決自然語言處理(NLP)中的問答和機(jī)器翻譯、計算機(jī)視覺中的目標(biāo)檢測和圖像生成等更為復(fù)雜的任務(wù)。從人工智能的生成角度來看,其模型可以根據(jù)文本提示生成代碼,還可以解釋甚至在某些情況下調(diào)試代碼。這一過程不僅可以實(shí)現(xiàn)文本、圖像、音頻、視頻的生成并構(gòu)建多模態(tài),還可以在更為廣泛的領(lǐng)域生成新的設(shè)計、知識和思想,乃至實(shí)現(xiàn)廣義的藝術(shù)和科學(xué)再創(chuàng)造。

大語言模型的訓(xùn)練需要大量的計算資源和數(shù)據(jù)。OpenAI就用了數(shù)萬臺CPU、GPU(圖像處理單元)和多種技術(shù)對其模型進(jìn)行優(yōu)化調(diào)整。2018—2023年,OpenAI的大語言模型實(shí)現(xiàn)了數(shù)次迭代;OpenAI還提供了API接口,使得開發(fā)者可以利用大語言模型進(jìn)行NLP的應(yīng)用開發(fā)。這是在數(shù)學(xué)、統(tǒng)計學(xué)、計算機(jī)科學(xué)、物理學(xué)、工程學(xué)、神經(jīng)學(xué)、語言學(xué)、哲學(xué)、人工智能等諸多學(xué)科融合基礎(chǔ)上的一次突變。正如谷歌研究院、斯坦福大學(xué)和DeepMind聯(lián)合發(fā)表的《大語言模型的涌現(xiàn)能力》中所提及的:“許多新的能力在中小模型上線性放大規(guī)模都得不到線性的增長,模型規(guī)模必須呈指數(shù)級增長并超過某個臨界點(diǎn),新技能才會突飛猛進(jìn)?!币虼?,大語言模型的訓(xùn)練和調(diào)整需要極其巨大的算力、算法、數(shù)據(jù)、技術(shù)以及超大規(guī)模的投入與協(xié)作,而前三者作為人工智能的三要素,在產(chǎn)業(yè)數(shù)字化的智能升級進(jìn)程中發(fā)揮著巨大作用。其中,數(shù)據(jù)是生產(chǎn)資料,算法代表新生產(chǎn)關(guān)系,算力作為新生產(chǎn)力支撐著算法和數(shù)據(jù),而算力水平又直接決定數(shù)據(jù)處理能力的強(qiáng)弱。在復(fù)雜的算力場景中,如何組合不同的算力類型,是降低成本并最終得到市場認(rèn)可的關(guān)鍵。

當(dāng)前,算力已成為全球主要國家的戰(zhàn)略布局核心,更成為全球戰(zhàn)略競爭新焦點(diǎn),對于我國在推進(jìn)新型工業(yè)化過程中搶占新一輪科技革命和產(chǎn)業(yè)變革制高點(diǎn)同樣具有深刻意義。大語言模型對算力的要求更多地聚焦在智能算力上,預(yù)計到2026年,中國智能算力規(guī)模將達(dá)1271.4 EFLOPS(即每秒浮點(diǎn)運(yùn)算次數(shù)),年復(fù)合增長率達(dá)52.3%。隨著“東數(shù)西算”工程與新型基礎(chǔ)設(shè)施等政策出臺,我國算力整體布局從東部地區(qū)開始逐漸向中西部地區(qū)延伸,因此要鼓勵有條件的地區(qū)因地制宜探索試點(diǎn)算力新領(lǐng)域。在加大算力作為經(jīng)濟(jì)發(fā)展重要底層支撐的同時,還要著力培育并加快建立我國人工智能發(fā)展的完整生態(tài)。OpenAI專注于大語言模型研發(fā),算力由微軟公司完成,數(shù)據(jù)由專門公司負(fù)責(zé)清洗……OpenAI正是在整個人工智能生態(tài)中完成了大語言模型開發(fā),這樣的多方協(xié)作生態(tài)不斷促使各參與主體的自主創(chuàng)新與協(xié)同發(fā)展。發(fā)展我國大語言模型,必須建立一個統(tǒng)一的大語言模型平臺和基座,對接國產(chǎn)算力公司并做好接口,讓所有企業(yè)都可以參與使用,這樣才能促進(jìn)人工智能尤其是大語言模型的生態(tài)鏈建設(shè),在同經(jīng)濟(jì)社會發(fā)展深度融合中推動我國新一代人工智能健康發(fā)展。

來源:中國社會科學(xué)網(wǎng)-中國社會科學(xué)報

【責(zé)任編輯:周曉燕】

Copyright ? 2001-2025 湖北荊楚網(wǎng)絡(luò)科技股份有限公司 All Rights Reserved

營業(yè)執(zhí)照增值電信業(yè)務(wù)許可證互聯(lián)網(wǎng)出版機(jī)構(gòu)網(wǎng)絡(luò)視聽節(jié)目許可證廣播電視節(jié)目許可證

關(guān)于我們 - 版權(quán)聲明 - 合作咨詢

版權(quán)為 荊楚網(wǎng) www.cnhubei.com 所有 未經(jīng)同意不得復(fù)制或鏡像

静海县| 宁国市| 浏阳市| 社旗县| 泰兴市| 棋牌| 辰溪县| 淳安县| 龙州县| 昌黎县| 吴江市| 浪卡子县| 河西区| 东宁县| 沈丘县| 安龙县| 石柱| 卓资县| 上高县| 五大连池市| 余江县| 当涂县| 高尔夫| 武山县| 柞水县| 承德县| 康乐县| 丰顺县| 农安县| 南郑县| 双桥区| 阳城县| 沂南县| 肥乡县| 崇明县| 寻乌县| 扬中市| 江阴市| 淳安县| 游戏| 内黄县|