帶貨視頻中的明星配音、短視頻里突然出現的名人，可能并非本人，而是AI生成——從9月1日起，它們必須亮明身份。
9月1日，由國家互聯網信息辦公室、工業和信息化部等部門發布的《人工智能生成合成內容標識辦法》（以下簡稱“《辦法》”），以及配套《辦法》發布的強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》同時實施。
這意味著，從今天開始，不管是AI生成的視頻、語音、文字還是圖片，都必須帶上“身份標簽”，讓用戶能夠分辨AI內容的真實來源。
就在今日，在上海市委網信辦指導下，由上海市互聯網業聯合會和徐匯區委宣傳部聯合主辦的“人工智能生成合成內容標識工作交流會”在上海模速空間舉行，來自政府、產業的多元角色就《辦法》落地實施首日，就技術路徑以及行業實踐等問題展開了交流
《辦法》對AI生成內容鏈條上的不同角色提出了清晰要求。上海市信息安全測評認證中心總工程師李宏達在交流會中介紹，對于生成合成服務提供者來說，需在AI生成的文字、圖片、音視頻等內容中添加顯式和隱式標識，“這類角色通常以大模型企業為代表”。
而對于內容傳播服務提供者，如B站、小紅書等平臺，要在傳播環節核驗元數據并對相關內容加注提示，讓公眾知曉其為AI生成，并提供必要的標識功能，提醒用戶主動聲明發布內容中是否包含生成合成內容。
同時，在分發環節，應用程序分發平臺也應該核驗相關應用的生成合成內容標識材料。對于用戶來說，在上傳和傳播AI生成的合成內容時也應該主動標識。
此前，有微信公眾號平臺的內容創作者曾向第一財經記者表示，擔心顯式的AI標識會影響內容傳播效果。對此，《辦法》也進行了相關規定。李宏達介紹，根據《辦法》第九條，服務提供者，也就是以AI模型公司為代表的企業，能夠通過用戶協議，明確特定用戶的使用責任和標識義務后，提供不含顯式標識的生成合成內容。同時，服務提供者依舊需要對該生成合成內容提供隱式標識。
《辦法》3月份發布，9月份實施，在這半年的緩沖期里，企業也在探索符合規范的技術路徑和產品方案。
MiniMax執行總編輯周曉榕在現場展示了在MiniMax、海螺、MiniMax Audio、星野平臺中的文字、圖片、語音和視頻生成內容是如何進行顯式標識的。在用戶可見的界面中，MiniMax通過角標等方式清晰標注“AI生成”字樣。
對于生成式語音片段，周曉榕現場播放了一段“摩斯密碼”式的提示音，也就是在合成語音后接入“短長短短”的節奏信號，用來提醒用戶內容為AI生成。同時，企業也可以選擇在內容中直接加入“內容由AI生成”等提示語，來進行顯式標注。
“標識是生成式內容可信性的基石。”周曉榕認為，對于大模型企業而言，技術硬實力決定了能否進入并留在牌桌，而可信性則決定了企業的市場拓展能力。“我們在和B端企業合作的過程當中，明確感知到了市場對合規的需求，合規能力也應當是企業市場競爭能力的一部分。”
嗶哩嗶哩內容產品負責人欒帥則透露，嗶哩嗶哩已經通過多輪公告、站內信、彈窗、制作專題視頻等方式，向用戶及時公布了AI標識改造功能的進度、入口和具體用法。“我們在向用戶宣傳法律法規要求的同時，也會引導用戶規范使用AI技術來產出優質的內容。”
據了解，在過去幾個月中，上海市委網信辦此前已開展多層次、分階段宣貫工作。當前，上海市委網信辦已經指導成立了人工智能生成合成內容標識生態聯盟，推動30余家企業開展隱式標識互認驗證。
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯系我們修改或刪除，多謝。
