半月談評(píng)論員 孫文豪

國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)近期聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(下稱(chēng)《辦法》)，并同步出臺(tái)配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)。小小標(biāo)識(shí)，為何得到國(guó)家多部門(mén)重視，又將如何改變?nèi)藗兯幍木W(wǎng)絡(luò)內(nèi)容環(huán)境?

標(biāo)識(shí)小，作用大

接到“領(lǐng)導(dǎo)”視頻電話(huà)要求緊急轉(zhuǎn)賬20萬(wàn);社會(huì)名人被AI配音后刷屏社交平臺(tái);“頂流明星在澳門(mén)輸了10億”的假新聞實(shí)則為AI捏造……在AI技術(shù)為內(nèi)容合成帶來(lái)便利的同時(shí)，其“雙刃劍”效應(yīng)也逐漸凸顯：金融詐騙、身份冒充、虛假新聞等問(wèn)題時(shí)有發(fā)生，眼見(jiàn)不一定為實(shí)，有圖、有視頻也不一定有真相。

“借助AI手段炮制虛假信息正催發(fā)公眾的‘信任危機(jī)’，并對(duì)正規(guī)的內(nèi)容創(chuàng)作生態(tài)造成沖擊?！敝袊?guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春對(duì)半月談?dòng)浾哒f(shuō)，相關(guān)不法行為往往只需要極低的制作成本和違規(guī)成本。除虛假信息外，由AI導(dǎo)致的數(shù)據(jù)安全、隱私保護(hù)等與用戶(hù)直接相關(guān)的問(wèn)題，也需要強(qiáng)有力的監(jiān)管措施介入。

2022年以來(lái)，我國(guó)已陸續(xù)出臺(tái)多部法律法規(guī)對(duì)AI生成內(nèi)容作出約束。但業(yè)內(nèi)人士認(rèn)為，此前出臺(tái)的相關(guān)法律法規(guī)在內(nèi)容識(shí)別上的要求較為寬泛，而《辦法》將推動(dòng)AI內(nèi)容的標(biāo)識(shí)從“原則性規(guī)定”走向“操作性規(guī)范”。

讓人工智能技術(shù)“可信賴(lài)”

“《辦法》重點(diǎn)解決‘哪些是生成的’‘誰(shuí)生成的’‘從哪里生成的’等問(wèn)題?！眹?guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，要通過(guò)標(biāo)識(shí)提醒用戶(hù)辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，讓人工智能技術(shù)“可信賴(lài)”。

劉曉春等受訪(fǎng)專(zhuān)家認(rèn)為，《辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，提出具體操作規(guī)范：

——構(gòu)建信任機(jī)制?！掇k法》要求AI生成內(nèi)容添加顯式標(biāo)識(shí)(文字、聲音提示)和隱式標(biāo)識(shí)(元數(shù)據(jù)嵌入)。前者是在AI生成內(nèi)容中，通過(guò)添加顯式標(biāo)識(shí)，讓用戶(hù)一眼可知“哪些是生成的”;后者則為厘清內(nèi)容是“誰(shuí)生成的”“從哪里生成的”。

——厘清責(zé)任主體?！掇k法》針對(duì)不同主體，著力構(gòu)建全鏈條責(zé)任機(jī)制：用戶(hù)發(fā)布生成內(nèi)容需主動(dòng)聲明;社交平臺(tái)等互聯(lián)網(wǎng)應(yīng)用需審核AI服務(wù)標(biāo)識(shí)材料;服務(wù)提供者應(yīng)當(dāng)確保生成合成內(nèi)容含有滿(mǎn)足要求的顯式標(biāo)識(shí)，并在文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)等。

業(yè)內(nèi)人士認(rèn)為，《辦法》主要從立法層面提出管理要求，與之配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)主要提出具體實(shí)施方式和操作方法。例如規(guī)定元數(shù)據(jù)字段格式、標(biāo)識(shí)顯眼度閾值等，避免相關(guān)主體“憑感覺(jué)合規(guī)”。

拒絕“野蠻生產(chǎn)”，迎來(lái)“規(guī)范競(jìng)爭(zhēng)”

“推動(dòng)強(qiáng)制標(biāo)識(shí)制度，與我國(guó)人工智能生成內(nèi)容技術(shù)發(fā)展和應(yīng)用階段相匹配，是具有廣泛社會(huì)共識(shí)和現(xiàn)階段在技術(shù)上較為可行的方案?！眲源赫J(rèn)為，提升人工智能生成內(nèi)容的透明度和可追溯性，有助于增強(qiáng)公眾信任感，推動(dòng)行業(yè)從“野蠻生長(zhǎng)”轉(zhuǎn)向“規(guī)范競(jìng)爭(zhēng)”。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，“統(tǒng)籌發(fā)展和安全”是《辦法》的總體思路之一，這一治理理念體現(xiàn)在諸多實(shí)施細(xì)則上。例如一些大型企業(yè)和主要的AI服務(wù)提供商履行“標(biāo)識(shí)義務(wù)”已有一段時(shí)間，但一些中小企業(yè)、傳統(tǒng)企業(yè)等或?qū)⑿枰夹g(shù)調(diào)整的過(guò)程，面臨標(biāo)識(shí)技術(shù)投入壓力。為此，《辦法》創(chuàng)新提出文本符號(hào)標(biāo)識(shí)等低成本標(biāo)識(shí)方法。

據(jù)了解，《辦法》將從9月1日開(kāi)始實(shí)施。劉曉春認(rèn)為，其間幾個(gè)月的施行過(guò)渡期，既是為企業(yè)理解規(guī)范、針對(duì)性地開(kāi)展功能研發(fā)預(yù)留時(shí)間，也為提升用戶(hù)認(rèn)知和公眾AI素養(yǎng)提供窗口期?！啊说囊蛩亍瘧?yīng)融入人工智能標(biāo)識(shí)管理的全過(guò)程。”公安部第三研究所副所長(zhǎng)金波認(rèn)為，要著重提升公眾對(duì)信息內(nèi)容真實(shí)性、來(lái)源可追溯性的評(píng)估能力。