近日，美國(guó)OpenAI公司發(fā)布的首個(gè)視頻生成模型“Sora”給國(guó)內(nèi)外信息產(chǎn)業(yè)帶來(lái)震撼影響，同時(shí)也引發(fā)了人們對(duì)生成式AI技術(shù)被用于深度偽造內(nèi)容，可能加劇錯(cuò)誤和虛假信息傳播的擔(dān)憂(yōu)。在生成式AI技術(shù)迅速發(fā)展的當(dāng)下，偽造視頻、圖片、語(yǔ)音用于不法目的的行為時(shí)有報(bào)道。已有多家媒體報(bào)道稱(chēng)，生成式AI技術(shù)已被用于深度偽造領(lǐng)域，并被用于誤導(dǎo)選民、干擾選舉、抹黑名人、造謠誹謗、電信詐騙、色情敲詐等不法行為中。

當(dāng)前，國(guó)內(nèi)外生成式AI技術(shù)快速發(fā)展，從事該領(lǐng)域研究、開(kāi)發(fā)、應(yīng)用的新生企業(yè)如雨后春筍般涌現(xiàn)，AI手機(jī)的開(kāi)發(fā)更是如火如荼。需要看到的是，生成式AI技術(shù)的快速發(fā)展具有兩面性。一方面是該技術(shù)有創(chuàng)造性，能為影視制作、文娛創(chuàng)作、游戲制作、音樂(lè)工業(yè)等提供全新生產(chǎn)力，促進(jìn)文化產(chǎn)業(yè)繁榮發(fā)展；另一方面是該技術(shù)具有破壞性，能快速廉價(jià)地實(shí)現(xiàn)以假亂真、移花接木、無(wú)中生有等特定訴求，為不法分子大開(kāi)方便之門(mén)。

如能有效限制生成式AI技術(shù)的破壞性，更能有利于生成式AI技術(shù)的創(chuàng)造性發(fā)揮，在保障這一新生事物行穩(wěn)致遠(yuǎn)的同時(shí)，也能夠使之成為國(guó)家經(jīng)濟(jì)增長(zhǎng)中的新質(zhì)生產(chǎn)力之一。為此，筆者建議從多個(gè)層次扎牢防范風(fēng)險(xiǎn)的籬笆。

在生成式AI大模型的開(kāi)發(fā)過(guò)程中，監(jiān)管機(jī)構(gòu)應(yīng)督促相關(guān)上市公司盡快設(shè)立兩類(lèi)審查制度，切實(shí)管控好底層代碼和訓(xùn)練樣本。

一類(lèi)審查用于生成式AI大模型的底層代碼。對(duì)于從事生成式AI大模型的開(kāi)發(fā)型企業(yè)，應(yīng)在內(nèi)部建立起對(duì)底層代碼審查制度，其底層代碼對(duì)監(jiān)管機(jī)構(gòu)及內(nèi)部審查機(jī)構(gòu)透明化可查閱，鼓勵(lì)頭部開(kāi)發(fā)企業(yè)在底層代碼開(kāi)源可見(jiàn)、主動(dòng)對(duì)外披露方面多做工作。

一類(lèi)審查用于生成式AI大模型的樣本訓(xùn)練環(huán)節(jié)。對(duì)于從事生成式AI大模型的訓(xùn)練型企業(yè)，應(yīng)在內(nèi)部建立對(duì)訓(xùn)練樣本審查制度，其訓(xùn)練樣本的來(lái)源、脫敏、數(shù)據(jù)清洗等關(guān)鍵環(huán)節(jié)應(yīng)設(shè)置檢查點(diǎn)，從而避免敏感信息、個(gè)人信息被用于樣本訓(xùn)練，進(jìn)而生成深度偽造內(nèi)容。

在生成式AI大模型的安裝及應(yīng)用過(guò)程中，應(yīng)盡快建立實(shí)名認(rèn)證制度和指令鑒別機(jī)制。

通過(guò)建立實(shí)名認(rèn)證制度，可確保安裝在個(gè)人計(jì)算機(jī)、服務(wù)器、手機(jī)、智能移動(dòng)終端的生成式AI大模型客戶(hù)端與用戶(hù)實(shí)名捆綁，確定生成式AI大模型的指令發(fā)出人、指令接受人、內(nèi)容流向清晰可見(jiàn)，在內(nèi)容生成流程上實(shí)現(xiàn)可追溯、可監(jiān)控、可預(yù)防。

通過(guò)建立指令鑒別機(jī)制，可在生成式AI大模型的客戶(hù)端就及時(shí)拒絕并剔除非法指令，提前鑒別出有明顯違法傾向性的提示詞指令，從而預(yù)防生成式AI大模型被用于深度偽造的不法目的。

在生成式AI大模型的內(nèi)容傳播過(guò)程中，應(yīng)建立標(biāo)簽提示機(jī)制。標(biāo)簽提示機(jī)制應(yīng)安排在視頻、圖片、語(yǔ)音等關(guān)鍵位置上，提示受眾注意相關(guān)內(nèi)容由生成式AI提供，確保受眾能分辨出生成式AI大模型的內(nèi)容，以免出現(xiàn)視聽(tīng)混淆、錯(cuò)誤理解等。

對(duì)于生成式AI大模型的開(kāi)發(fā)企業(yè)、發(fā)布商、硬件生產(chǎn)商及主要受眾群體應(yīng)給予全面覆蓋的警示教育。監(jiān)管機(jī)構(gòu)應(yīng)警惕生成式AI技術(shù)被用于深度偽造內(nèi)容后，產(chǎn)生“造謠、信謠、傳謠”的連鎖反應(yīng)，在網(wǎng)絡(luò)終端提前構(gòu)建快速反應(yīng)的輿情監(jiān)控系統(tǒng)，確保實(shí)現(xiàn)“違法亂紀(jì)的勾當(dāng)做不得，以假亂真的內(nèi)容信不得，混淆黑白的消息傳不得”的理念深入人心。

對(duì)于銀行網(wǎng)點(diǎn)、快遞收發(fā)、電商、短視頻、直播等高頻率內(nèi)容傳播環(huán)節(jié)，應(yīng)督促相關(guān)上市公司按照分區(qū)負(fù)責(zé)、統(tǒng)一責(zé)任、統(tǒng)一管理的方式，安排專(zhuān)人宣講防范手段、危害重點(diǎn)和典型案例，營(yíng)造全民防范深度偽造的社會(huì)氛圍。