中國電信中部智算中心機房。
湖北電信提示詞工程師程宇正在陪大模型“聊天”。
湖北日報全媒記者 劉天縱 通訊員 許國勝 王云鶴
它是文采飛揚的詩人,是天馬行空的畫家,是醫(yī)院病房的助理,是網(wǎng)站熱線的客服,是電商機構的主播,是工廠車間的“大腦”……它就是大模型,能讓人工智能自主思考決策。
當前,各類大模型應用開始深度融入經(jīng)濟社會生活。2024年1月10日,中國電信宣布將布局多年、完全自研的“星辰”大模型全面開源。“星辰”大模型持續(xù)進化,湖北電信逐步誕生了大數(shù)據(jù)挖掘師、提示詞工程師、云網(wǎng)系統(tǒng)架構師、數(shù)據(jù)安全工程師、智能云服務交付工程師等300余個“工程師”新崗位。
提示詞工程師程宇:
教會大模型秒懂各地方言
在國內招聘平臺上,新興職業(yè)“提示詞工程師”月收入上萬元。
10月25日,在湖北電信產(chǎn)業(yè)數(shù)字化研發(fā)中心,湖北日報全媒記者見到了26歲的“提示詞工程師”程宇,他主要任務是負責和AI聊天,當大模型的“導師”。
“看看我跟AI的聊天記錄,談戀愛都不會聊這么多話?!背逃畲蜷_辦公電腦的AI對話框,不斷上滑鼠標滾輪,翻了幾分鐘也沒把聊天記錄翻到頭。
程宇說,計算能力增強和深度學習理論發(fā)展,催生了“提示詞工程師”這個新職業(yè)。如果將大模型比喻為新型計算機,提示詞工程師就是為它編程的程序員,編程的主要方式不是寫代碼,而是陪AI聊天,進而教大模型如何理解用戶、與用戶的意圖對齊。
陪AI聊天、與人聊天有何區(qū)別?
“聊天內容與日常文字聊天差不多,但‘是與否’‘能與不能’等命令式詞語多一些,以告訴AI哪些問題可以回答,哪些內容不能回答?!背逃罱榻B,大模型就像一個剛畢業(yè)的學生,學習了很多基礎知識和通用常識,但入職后要勝任崗位,得先找個師傅帶。
如,訓練AI講解員,提示詞工程師需要告訴大模型:你是展廳講解員,你負責接待引導、介紹項目,觀眾提問要禮貌回應、逐一解答。
提示詞工程師除了要陪AI聊天,還要給大模型“投喂”語料,幫大模型學知識、長見識。
今年5月,“星辰”大模型的“技能包”上新——可識別國內30種方言自由混說,成為國內目前支持最多方言的語音識別大模型。湖北電信針對湖北方言,開發(fā)了AI語音自動識別系統(tǒng),識別武漢話、宜昌話、襄陽話、恩施話等不在話下,甚至部分咸寧地區(qū)的方言也聽得懂。
程宇介紹,智能客服每天會接到幾百萬通電話,其中很大比例是方言。中國電信構建了超30萬小時的高質量方言數(shù)據(jù)庫,海量方言數(shù)據(jù)的“投喂”,讓大模型逐步成為方言專家。
借助“星辰”大模型,中國電信10000號智能客服能“秒懂”各地方言,實現(xiàn)31個省份全覆蓋;數(shù)字人連接大模型后,不但能用方言與人流暢對話,還能中英文隨意切換。
此外,“星辰”大模型還賦能多地的12345市民服務平臺,提高客服人員便民服務效率,助力政務工作智能化升級。
程宇認為,方言大模型前景廣闊,可作為智能網(wǎng)聯(lián)汽車的智駕助手,與全國司機用方言交流;可嵌入智能看護、親情互動、智能手環(huán)等設備,讓適老化服務更有家鄉(xiāng)溫度。
大模型算法工程師周慧平:
陪“諦聽”刷題
“星辰”大模型作為通用大模型,相當于大模型體系中的“樹干”,一些更細分的行業(yè)大模型則是“樹枝”,其定位目標更明確和聚焦。
客戶服務智能體“諦聽”,便是湖北電信原創(chuàng)的行業(yè)大模型,寓意“通過聆聽來辨認眾生萬物的真實需求”。今年5月底上線后,“諦聽”可提升人工客服服務效率30%以上。如,過去平均45秒的用戶寬帶報障來電,現(xiàn)在平均處理時限縮短到30秒以內。
今年50歲的周慧平是中國電信集團AI高級專家,也是湖北電信的大模型算法工程師。2023年12月,針對人工客服培訓壓力大、業(yè)務復雜度高等問題,湖北電信通過“揭榜掛帥”提出了通過AI提升客服質效的要求,周慧平主動承擔起技術攻關任務。
每天,湖北電信10000號服務量達到30萬分鐘,包括10000號呼入和呼出、政企熱線、銷售隊列等人工和自助服務,產(chǎn)生的語音和文圖數(shù)據(jù)總量超過3個TB。
數(shù)據(jù)量雖大,但在周慧平看來,大量用戶咨詢問題屬于“重復來話”,只要通過“知識圖譜”和算法讓AI理解“解題邏輯”,再通過大數(shù)據(jù)“題庫”讓AI日復一日地“刷題”,AI便能自主生成“標準答案”,成為“解題高手”。
周慧平將“諦聽”大模型的運行機制分為“九步法”,即識別用戶來電、語音轉文本、用戶意圖識別、匹配服務方案、調取知識庫、提取用戶個性信息、執(zhí)行服務方案、推薦服務話術、坐席(后續(xù)可以改為AI)與客戶溝通。
周慧平說,過去,AI只能做輔助人工客服的“拐杖”,做一些語音、少數(shù)意圖同步識別等簡單工作。現(xiàn)在,“諦聽”已成為人工客服的“老師”,能自主識別用戶多輪對話中的復雜意圖,自動生成解決方案,人工客服甚至只需跟著AI的“臺詞”念即可滿足用戶一般需求。新入職客服人員以前需要培訓3個月,現(xiàn)在僅需培訓3天。
如今,生成式AI的爆火,燃起了周慧平求學時的青春激情。他說,上世紀九十年代,他的大學計算機教材里就有關于AI的章節(jié),那時的AI技術,只能在固定規(guī)則的條條框框里運行。周慧平1995年入職湖北電信后從事IT工作,2022年,隨著大模型的火爆出圈,他主動更換賽道,成功轉型成為一名大模型算法工程師。
數(shù)據(jù)安全工程師李少君:
反詐大模型守好群眾“錢袋子”
大模型在安全風險防范上也有用武之地。
29歲的李少君從武漢郵電科學研究院碩士畢業(yè)后,于2022年入職湖北電信,成為反詐工作專班一名數(shù)據(jù)安全工程師。
李少君說,網(wǎng)絡詐騙行為呈現(xiàn)出難定位、犯罪隱蔽性強、詐騙行為周期短等特點,要在短時間甄別藏匿很深的涉詐行為,就需要反詐大模型來幫忙。
為此,湖北電信配合公安等部門,對每日的通信業(yè)務辦理情況、生產(chǎn)運營存量和增量數(shù)據(jù)進行全量AI篩查,通過對通信業(yè)務邏輯的精細分析,將可能涉詐的業(yè)務、行為特征提取出來,“教會”大模型。
“未知鏈接不點擊,陌生來電不輕信,個人信息不透露,轉賬匯款多核實。”李少君介紹,為夯實反詐防火墻,湖北電信基于反詐大模型增加了主動防御功能,對老年人、大齡婦女等易受騙人群進行了用戶標記,按照低、中、高不同風險程度,在用戶接到疑似詐騙電話時,采取AI主動攔截、電話短信提醒等措施。
在打擊GOIP(虛擬撥號設備)方面,湖北電信打好警企聯(lián)動“組合拳”,深入挖掘各類異常遠程控制軟件使用場景,不斷迭代輸出多類GOIP監(jiān)控模型,守好百姓“錢袋子”。
AI應用飛速發(fā)展,網(wǎng)絡安全迭代進化。目前,數(shù)據(jù)安全工程師隊伍持續(xù)擴容,湖北電信專業(yè)從事反詐工作技術人員已超過60人。
數(shù)說AI與大模型
中國10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個
行業(yè)大模型深度賦能電子信息、醫(yī)療、交通等領域形成上百種應用模式,賦能千行百業(yè)
中國大模型產(chǎn)業(yè)市場規(guī)模2020年為15億元
預計2024年將達到216億元年均增長率達94.7%
今年1至7月全國電信行業(yè)的云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)等新興業(yè)務收入規(guī)模已經(jīng)達到2584億元收入占比達到25%
數(shù)據(jù)來源:央視新聞客戶端、中商產(chǎn)業(yè)研究院、Quest Mobile《中國移動互聯(lián)網(wǎng)2024年秋季報告》
(本版圖片均為湖北日報全媒記者 劉天縱 攝)
Copyright ? 2001-2024 湖北荊楚網(wǎng)絡科技股份有限公司 All Rights Reserved
營業(yè)執(zhí)照 - 增值電信業(yè)務許可證 - 互聯(lián)網(wǎng)出版機構 - 網(wǎng)絡視聽節(jié)目許可證 - 廣播電視節(jié)目許可證
版權為 荊楚網(wǎng) www.cnhubei.com 所有 未經(jīng)同意不得復制或鏡像