近年來(lái),深度合成作為一種人工智能內(nèi)容合成技術(shù),風(fēng)頭正勁。技術(shù)的發(fā)展與風(fēng)險(xiǎn)相伴而生,當(dāng)深度合成技術(shù)在美顏、繪畫(huà)、主播、元宇宙等領(lǐng)域?yàn)榇蟊妿?lái)多樣化的交互體驗(yàn)時(shí),其技術(shù)濫用也引發(fā)了侵權(quán)、詐騙等一系列問(wèn)題。2022年11月25日,國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)。其中提出,深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意?!兑?guī)定》自2023年1月10日起施行。
對(duì)于深度合成技術(shù)的監(jiān)管,此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及,而《規(guī)定》則對(duì)深度合成內(nèi)容更有針對(duì)性地進(jìn)行規(guī)制,標(biāo)志著監(jiān)管部門(mén)針對(duì)互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖進(jìn)一步細(xì)化。
那么,究竟什么是深度合成技術(shù)?《規(guī)定》給出了答案:深度合成技術(shù),是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。具體包括篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù);文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù);音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù);人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù);圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù),三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)等。
深度合成技術(shù)是人工智能發(fā)展到一定階段的產(chǎn)物,其衍生出包括圖像合成、視頻合成、聲音合成和文本生成等多種技術(shù),廣泛應(yīng)用于新聞傳媒、影視制作、娛樂(lè)、教育和電子商務(wù)等領(lǐng)域。不過(guò),由于操作便捷,成本低廉,深度合成服務(wù)容易被不法人員利用,用于制作、復(fù)制、傳播違法信息,甚至仿用他人身份實(shí)施詐騙。如今常見(jiàn)或大熱的語(yǔ)音轉(zhuǎn)換、圖像修復(fù)、三維重建、虛擬人、AI換臉、AI繪畫(huà)等技術(shù)類型都被涵蓋其中,而這些深度合成技術(shù)的濫用風(fēng)險(xiǎn)是看得見(jiàn)的。
為防止深度合成技術(shù)被用于犯罪活動(dòng),《規(guī)定》對(duì)深度合成服務(wù)提供者、技術(shù)支持者等各方責(zé)任義務(wù)進(jìn)行了系統(tǒng)性制度設(shè)計(jì),包括算法機(jī)制機(jī)理審核、信息內(nèi)容管理、安全評(píng)估、從業(yè)人員教育培訓(xùn)等。
《規(guī)定》明確,任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息,或從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。
同時(shí),《規(guī)定》要求,深度合成服務(wù)提供者建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度;制定和公開(kāi)管理規(guī)則、平臺(tái)公約,完善服務(wù)協(xié)議,落實(shí)真實(shí)身份信息認(rèn)證制度;采取技術(shù)或者人工方式對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核,建立健全用于識(shí)別違法和不良信息的特征庫(kù);建立健全辟謠機(jī)制等。
在《算法規(guī)定》明確“不得生成合成虛假新聞信息”的基礎(chǔ)上,《規(guī)定》也對(duì)相關(guān)主體,在新聞?shì)浾擃I(lǐng)域的深度合成技術(shù)運(yùn)用進(jìn)行了規(guī)范。
按照《規(guī)定》,深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的,應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。此外,具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者,應(yīng)當(dāng)按照《算法規(guī)定》履行備案和變更、注銷備案手續(xù);深度合成服務(wù)提供者開(kāi)發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能的,應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。
中國(guó)信息通信研究院副院長(zhǎng)王志勤認(rèn)為,《規(guī)定》有效銜接了相關(guān)法律法規(guī)。在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下,《規(guī)定》有效承接了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章、規(guī)范性文件中關(guān)于網(wǎng)絡(luò)信息內(nèi)容管理、新技術(shù)新應(yīng)用安全評(píng)估、顯著標(biāo)識(shí)、備案管理等制度規(guī)定,對(duì)深度合成服務(wù)管理機(jī)制、主體責(zé)任等作出了銜接性制度安排。
除深度合成服務(wù)提供者以外,《規(guī)定》也將深度合成服務(wù)技術(shù)支持者納入監(jiān)管,明確他們的數(shù)據(jù)和技術(shù)管理規(guī)范。
《規(guī)定》明確,深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理。采取必要措施保障訓(xùn)練數(shù)據(jù)安全之余,提供人臉、人聲等生物識(shí)別信息顯著編輯功能的,應(yīng)當(dāng)提示使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意。
深度合成服務(wù)提供者和技術(shù)支持者還應(yīng)當(dāng)加強(qiáng)技術(shù)管理,定期審核、評(píng)估、驗(yàn)證生成合成類算法機(jī)制機(jī)理。其中,對(duì)具有生成或者編輯人臉、人聲等生物識(shí)別信息,可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的模型、模板等工具,應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開(kāi)展安全評(píng)估。
此外,《算法規(guī)定》要求,發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的,應(yīng)當(dāng)作出顯著標(biāo)識(shí)后,方可繼續(xù)傳輸?!兑?guī)定》在此基礎(chǔ)上進(jìn)一步細(xì)化,通過(guò)顯著標(biāo)識(shí)和隱式標(biāo)識(shí)兩種方式對(duì)深度合成信息進(jìn)行規(guī)范。
按照《規(guī)定》,深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)。提供智能對(duì)話、智能寫(xiě)作、合成人聲、仿聲、人臉生成、人臉替換、人臉操控、姿態(tài)操控、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能的服務(wù),可能導(dǎo)致公眾混淆或者誤認(rèn)的,深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示深度合成情況。
“《規(guī)定》是目前我國(guó)針對(duì)深度合成服務(wù)出臺(tái)的第一部專門(mén)性部門(mén)規(guī)章,作出了一系列明確合規(guī)指引,對(duì)加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理意義重大,影響深遠(yuǎn)。”中國(guó)科學(xué)院信息工程研究所所長(zhǎng)孟丹表示。
“深度合成服務(wù)從相繼被納入到相關(guān)規(guī)定中監(jiān)管,到出臺(tái)專門(mén)的規(guī)章進(jìn)行規(guī)制,顯示出我國(guó)一方面引導(dǎo)深度合成技術(shù)良性發(fā)展,另一方面堅(jiān)決打擊利用深度合成服務(wù)制作傳播違法不良信息、危害信息內(nèi)容安全、社會(huì)公共利益和國(guó)家安全的行為。”在中國(guó)政法大學(xué)副校長(zhǎng)時(shí)建中看來(lái),深度合成技術(shù)展現(xiàn)了其強(qiáng)大的能量和可能性,加速應(yīng)用已經(jīng)成為現(xiàn)實(shí)趨勢(shì)。在合規(guī)前提下,深度合成技術(shù)創(chuàng)新發(fā)展,不斷開(kāi)拓應(yīng)用場(chǎng)景,將形成對(duì)人工智能產(chǎn)業(yè)整體的帶動(dòng)效應(yīng),促進(jìn)技術(shù)向上向善。
本網(wǎng)站及其公眾號(hào)為公益性網(wǎng)絡(luò)平臺(tái),所發(fā)圖文僅供傳播信息、介紹知識(shí)、說(shuō)明問(wèn)題之用;相關(guān)版權(quán)歸原作者所有,轉(zhuǎn)載請(qǐng)務(wù)必注明出處和作者。
稿件一經(jīng)選用,即視為作者同意本網(wǎng)免費(fèi)將其使用于本網(wǎng)或與本網(wǎng)有合作關(guān)系的非贏利性各類出版物、互聯(lián)網(wǎng)與手機(jī)端媒體及專業(yè)學(xué)術(shù)文庫(kù)等。
由稿件引起的著作權(quán)問(wèn)題及其法律責(zé)任由作者自行承擔(dān)。
了解更多動(dòng)態(tài),請(qǐng)掃描二維碼,關(guān)注我們的微信公眾號(hào):