標(biāo)識(shí)，讓AI生產(chǎn)的內(nèi)容“亮明身份”

光明日報(bào)2025-03-27

作者：本報(bào)記者 劉坤 本報(bào)通訊員 柳素雯

藝術(shù)展融合人工智能，給觀眾帶來全新感受。 光明圖片/視覺中國

江蘇省蘇州市“人工智能+”創(chuàng)新發(fā)展推進(jìn)大會(huì)上展示的人形機(jī)器人。新華社發(fā)

在山東青島某中學(xué)舉行的科技節(jié)活動(dòng)中，學(xué)生們觀看機(jī)器狗表演。 張鷹攝/光明圖片

【經(jīng)濟(jì)界面】

夜深人靜時(shí)，有人找它線上聊天、獲取慰藉；視頻帶貨時(shí)，有人用它快速生成營銷文案；同學(xué)聚會(huì)時(shí)，有人用它現(xiàn)場作詩助興……它，就是很多人眼中的“生活好幫手”“工作好搭子”——人工智能（AI）大模型。

近期，多款大模型產(chǎn)品橫空出世、風(fēng)靡全球，再次掀起人工智能熱潮。但與此同時(shí)，也有一些人利用人工智能生成合成虛假內(nèi)容，或?yàn)槲矍?、賺取流量，或試圖以假亂真、造謠詐騙等，帶來一定風(fēng)險(xiǎn)和隱患，引發(fā)社會(huì)關(guān)注。

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡稱《辦法》）。《辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，將于2025年9月1日起施行。

如何讓人工智能生成合成內(nèi)容“亮明身份”，不再“真假難辨”？如何破解人工智能安全治理難題？記者就此進(jìn)行了采訪。

人工智能合成讓人真假難辨

小貓小狗隨著音樂跳起舞蹈，家中“萌娃”大戰(zhàn)公雞……在短視頻平臺(tái)上，人們不時(shí)會(huì)刷到類似視頻。其實(shí)，一些傳播量、點(diǎn)贊量都很大的“神奇視頻”并非是真實(shí)的，而是由人工智能生成合成的。

所謂人工智能生成合成內(nèi)容，是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。

近年來，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺(tái)傳播，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也帶來生成合成技術(shù)濫用、破壞網(wǎng)絡(luò)生態(tài)等問題，引發(fā)社會(huì)各界的關(guān)注。

“一些喜歡我參演的影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣。”一位演員說，希望能建立更好的規(guī)范。實(shí)際上，不少公眾人物都遭遇過類似問題。

公安部數(shù)據(jù)顯示，近兩年來，全國共發(fā)生“AI換臉”類詐騙案近百起，累計(jì)造成的經(jīng)濟(jì)損失高達(dá)2億元。

“人工智能生成合成內(nèi)容日益逼真，也催生虛假消息傳播、身份信息冒充、惡意內(nèi)容生成等新型安全風(fēng)險(xiǎn)，并削弱著公眾對網(wǎng)絡(luò)傳播內(nèi)容的信任根基?！敝袊こ淘涸菏俊⒄憬髮W(xué)教授陳純說。

中國電子信息產(chǎn)業(yè)發(fā)展研究院副總工程師劉權(quán)認(rèn)為，人工智能大模型本身存在不可解釋性問題。大模型運(yùn)作機(jī)制不透明，產(chǎn)生的“黑箱”屬性導(dǎo)致不可解釋性。這種不可解釋性降低了可信度，使得輸出的內(nèi)容可能存在事實(shí)性錯(cuò)誤和偏差，特別是在醫(yī)療、金融等領(lǐng)域，難以滿足嚴(yán)苛的可信要求。

中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，通過人工智能生成合成技術(shù)降低了內(nèi)容“偽造”“造假”等的時(shí)間成本，尤其在圖片、音頻、視頻等領(lǐng)域，從早期引起廣泛關(guān)注的“換臉”工具，到偽造人聲、通話視頻的詐騙活動(dòng)，再到“被壓在廢墟下的小男孩”等熱點(diǎn)事件，人工智能技術(shù)帶來的深度偽造、虛假信息、不良信息、抄襲侵權(quán)等問題，對包括內(nèi)容治理在內(nèi)的網(wǎng)絡(luò)空間秩序構(gòu)成挑戰(zhàn)，對治理工具、方式和手段也提出了更新更高的要求。

數(shù)據(jù)顯示，截至2024年底，共302款生成式人工智能服務(wù)在國家網(wǎng)信辦完成備案，其中當(dāng)年新增238款備案。

“當(dāng)前，大模型能夠生成高真實(shí)感的文本、人像、場景、音頻，普通民眾不借助檢測工具往往很難辨別內(nèi)容真?zhèn)巍！敝袊茖W(xué)院計(jì)算技術(shù)研究所數(shù)字內(nèi)容合成與偽造檢測實(shí)驗(yàn)室主任、研究員曹娟認(rèn)為，隨著生成式人工智能技術(shù)在各個(gè)行業(yè)落地應(yīng)用，生成合成內(nèi)容的數(shù)據(jù)規(guī)?？焖僭鲩L，對生成內(nèi)容進(jìn)行全面檢測成本太高。生成合成內(nèi)容適用場景大幅擴(kuò)展，助長了欺騙場景多樣化。

打造可信賴的AI技術(shù)

《辦法》的推出是我國推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措，標(biāo)志著我國在生成式人工智能領(lǐng)域邁出了構(gòu)建安全可信生態(tài)的關(guān)鍵一步。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人介紹，《辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭打造可信賴的人工智能技術(shù)。

針對服務(wù)提供者，《辦法》明確，應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

針對互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)，《辦法》提出在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

針對用戶，《辦法》提出，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

此外，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

“《辦法》以合理成本提高安全性，促進(jìn)人工智能在文本對話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場景加快落地，同時(shí)減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為，推動(dòng)人工智能健康有序發(fā)展?！痹撠?fù)責(zé)人說。

中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒認(rèn)為，人工智能生成內(nèi)容標(biāo)識(shí)制度具備獨(dú)特制度價(jià)值。標(biāo)識(shí)能夠有效區(qū)分出人工智能生成合成的信息，防范虛假信息的傳播利用；標(biāo)識(shí)能夠幫助用戶快速了解生成式人工智能產(chǎn)品和服務(wù)的相關(guān)屬性或參數(shù)信息；標(biāo)識(shí)能夠協(xié)助監(jiān)管部門對生成式人工智能產(chǎn)品或服務(wù)實(shí)施評估、追溯等監(jiān)管，推進(jìn)人工智能生成合成內(nèi)容合法合規(guī)發(fā)展。

張凌寒表示，目前，人工智能生成合成內(nèi)容標(biāo)識(shí)制度主要關(guān)注“是否機(jī)器生成”的形式判斷。隨著標(biāo)識(shí)技術(shù)的進(jìn)步與發(fā)展，未來標(biāo)識(shí)制度能夠發(fā)揮更為豐富的功能，從形式判斷逐漸轉(zhuǎn)向“是否足夠可靠”的質(zhì)量判斷，進(jìn)一步促進(jìn)行業(yè)健康發(fā)展。

安全治理進(jìn)入“深水區(qū)”

良法善治，重在實(shí)施。

為推動(dòng)《辦法》落地實(shí)施，強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標(biāo)識(shí)方法》同步發(fā)布，更好地指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識(shí)活動(dòng)。

“當(dāng)前，人工智能安全治理已從危害探討進(jìn)入實(shí)際執(zhí)法的深水區(qū)?！辈芫暾f，大模型生成技術(shù)迭代更新很快，平均兩個(gè)月就會(huì)出現(xiàn)新的里程碑模型，提升針對新生偽造方法的泛化能力至關(guān)重要，需要摒棄“來一個(gè)打一槍”的事后思維，構(gòu)建AI鑒偽底座模型，提高鑒偽模型的泛化適用性能。

曹娟表示，要研究精準(zhǔn)化對抗鑒偽技術(shù)，防范惡意逃避風(fēng)險(xiǎn)。同時(shí)，降低對無害生成內(nèi)容傳播的影響，兼顧生成內(nèi)容應(yīng)用的發(fā)展與治理，打造全民化偽造檢測工具，推動(dòng)人人可用鑒偽。

“可以預(yù)見，我國人工智能安全執(zhí)法將延續(xù)重點(diǎn)事項(xiàng)監(jiān)管、促進(jìn)產(chǎn)業(yè)有序發(fā)展的方向。”公安部第三研究所副所長金波說，伴隨標(biāo)識(shí)管理與算法備案、安全評估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接，生成合成內(nèi)容標(biāo)識(shí)合規(guī)或?qū)⒊蔀橄嚓P(guān)部門開展人工智能監(jiān)督檢查、專項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域。在此進(jìn)程中，如何平衡好發(fā)展與安全、創(chuàng)新與責(zé)任，提升執(zhí)法的專業(yè)化、精細(xì)化、智慧化水平，從而培育出安全、開放、公平的人工智能產(chǎn)業(yè)生態(tài)環(huán)境，還需要深入探究。

“此外，‘人的因素’應(yīng)融入人工智能標(biāo)識(shí)管理的全過程。”金波表示，要著重提升公眾對信息內(nèi)容真實(shí)性、來源可追溯性的評估能力，積極培育公眾的人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享。

在陳純看來，《辦法》的落地離不開全社會(huì)凝心聚力和協(xié)同配合。地方主管部門、高校、科研機(jī)構(gòu)、企業(yè)可共同參與，形成標(biāo)識(shí)工作先行的多點(diǎn)協(xié)同內(nèi)容治理網(wǎng)絡(luò)，推動(dòng)標(biāo)識(shí)工作行穩(wěn)致遠(yuǎn)。此外，有必要建立全國性的內(nèi)容標(biāo)識(shí)公共服務(wù)平臺(tái)，以可視可交互的實(shí)際操練形式，促進(jìn)公眾和產(chǎn)業(yè)深入理解標(biāo)識(shí)工作。

“生成式人工智能促使信息技術(shù)從普通工具屬性向‘思維伙伴’型高智能化工具屬性進(jìn)化，帶來顛覆性發(fā)展機(jī)遇，未來勢必成為我們的必備技能，這要求我們在使用時(shí)切實(shí)正確理解并管理人工智能。”陳純說。