AI生成內(nèi)容不得“隱身”傳播。昨天，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《標識辦法》)正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容均須“亮明身份”。新規(guī)落地之際，多家互聯(lián)網(wǎng)平臺響應，相關(guān)用戶協(xié)議已修改升級，將嚴打?qū)I生成技術(shù)的濫用行為。

各社交平臺更新用戶協(xié)議

“AI‘假孫子’總算現(xiàn)原形了?！弊蛱欤忻駝⑾壬蜷_一家短視頻平臺，發(fā)現(xiàn)之前奶奶愛看的“萌娃”短視頻下面多了一行小字：“作者提示：內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請謹慎甄別”，“這下老人總該相信，這些一兩歲的孩子洗菜燒火都是假的了。”

提示小字的上線，與《標識辦法》密切相關(guān)。據(jù)規(guī)定，利用人工智能技術(shù)生成的文本、圖片、音頻、視頻、虛擬場景等信息，必須添加顯式和隱式兩種標識。顯式標識指可以被用戶明顯感知到的標識，隱式標識指在生成內(nèi)容的數(shù)據(jù)中添加的標識。

“哪些內(nèi)容是生成的”“內(nèi)容從哪里生成的”“誰生成的這些內(nèi)容”……《標識辦法》明確了生成合成內(nèi)容制作傳播各主體的責任義務。比如服務提供者應在內(nèi)容生成、傳播、下載等環(huán)節(jié)確保標識完整；互聯(lián)網(wǎng)應用程序分發(fā)平臺應審核應用是否具備添加標識功能；個人用戶發(fā)布生成內(nèi)容時應主動聲明。

新規(guī)落地后，記者注意到，各社交媒體平臺相關(guān)用戶協(xié)議已有所更新。微信、視頻號、抖音、B站、微博、小紅書等平臺，要求內(nèi)容發(fā)布者以顯著方式主動標識AI生成內(nèi)容。對于不主動標識AI生成內(nèi)容的行為，部分平臺表示會采取限流、下架、封號等措施。同時，部分社交平臺表示，還將對可能是AI生成合成的內(nèi)容進行相應提示，以便用戶清晰識別。

完善標識防范AI以假亂真

給AI生成合成內(nèi)容加上標識，為何需要單獨出臺文件加以規(guī)制？據(jù)悉，標識制度的獨特制度價值已經(jīng)成為國際共識。日前，美國、新加坡、歐盟、英國等國家和地區(qū)紛紛采取措施推進生成式人工智能標識制度的建立。

“標識制度的主要目標是實現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。”中國科學院科技戰(zhàn)略咨詢研究院研究員肖尤丹表示，此次新規(guī)雖然切口小，但可以用較小的合規(guī)成本，較好地解決當前AI技術(shù)快速發(fā)展帶來的新問題。標識制度對利用AI技術(shù)抄襲、搬運內(nèi)容的新媒體營銷號無疑是一次沉重打擊。同時，平臺方可以追溯到服務提供者，明確其是否履行了標識義務。

作為我國人工智能領(lǐng)域首部“辦法+強制性國家標準”的“組合拳”，配套的強制性國家標準《網(wǎng)絡安全技術(shù)人工智能生成合成內(nèi)容標識方法》也于昨天同步施行。該標準針對人工智能生成合成標識的技術(shù)實現(xiàn)方式給出了更加細致、精準的指引，并配以具體的實現(xiàn)范例。例如視頻內(nèi)容顯式標識要求，文字提示高度不低于畫面最短邊的5%，持續(xù)時間不少于2秒等。

“這有助于相關(guān)行業(yè)各主體采取相應的技術(shù)措施、全面準確落實內(nèi)容標識義務，并實現(xiàn)標識技術(shù)的標準化，提高互認程度，降低由于標準不統(tǒng)一帶來的合規(guī)成本。”中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任劉曉春表示。

整治AI濫用也需防誤傷

AI生成內(nèi)容，已成當下熱門內(nèi)容賽道，百度、B站、字節(jié)跳動、快手等，都曾針對生成式AI的創(chuàng)作者提供流量資源扶持、現(xiàn)金補貼等活動。與此同時，AI生成的違規(guī)內(nèi)容信息也紛至沓來，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，批量制造虛假人設，大量推送獵奇、養(yǎng)生、情感等內(nèi)容，并可通過引流帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。

針對這一新形勢，今年4月開始，中央網(wǎng)信辦開展了為期3個月的“清朗·整治AI技術(shù)濫用”專項行動，共攔截清理相關(guān)違法違規(guī)信息82萬余條，處置違規(guī)賬號1400余個，下線違規(guī)智能體2700余個。

除了要求以顯著方式主動標識AI生成內(nèi)容外，多個平臺也發(fā)布公告，重點整治AI生成濫用，其中，利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內(nèi)容、AI生成國際軍事虛假內(nèi)容等，正成為重點整治對象。

值得注意的是，目前有網(wǎng)絡用戶表示，自己發(fā)布畫作、文章、視頻被“誤傷”，明明是原創(chuàng)內(nèi)容，卻被平臺誤判為“疑似AI合成”，面臨作品被限流、下架的問題。據(jù)悉，目前業(yè)內(nèi)在AI低質(zhì)內(nèi)容治理方面，占比九成以上的審核工作由機器來完成，機器審核準確率難以達到100%，仍需人工不斷校準。

對此，業(yè)內(nèi)專家建議，未來平臺應完善復核機制，建立便捷、有效的申訴渠道，如有條件，還可在算法識別基礎(chǔ)上引入專家評估機制，綜合判斷內(nèi)容是否為AI生成。