國家網信辦、工信部、公安部、廣電總局聯合發布《人工智能生成合成內容標識辦法》,9月起正式實施,規定所有AI生成的文字、圖片、視頻等內容,都要明確標示。
《標識辦法》涵蓋人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。標識包括顯式標識和隱式標識。平台在服務提供者的內容上架或上線時,要核驗生成合成內容標識,對未標識或疑似生成內容要添加風險提示,從而在傳播端阻斷虛假信息擴散。
顯式標識是指在生成合成內容、或者交互場景界面中添加,以文字、聲音、圖形等方式呈現,並可以被用戶明顯感知到的標識。隱式標識是指採取技術措施,在生成合成內容文件數據中添加,不易被用戶明顯感知到的標識。
多個平台包括騰訊、抖音、快手、B站、DeepSeek等,都因應《標識辦法》出台細化規則。抖音發表《公告》指,已上線兩項標識功能,協助創作者標明人工智能生成內容,若創作者未主動添加標識,抖音將輔助添加標識說明。
騰訊公告指,據《標識辦法》要求,平台進一步優化內容識別能力,並對可能是AI生成的內容進行相應提示,以便用戶清晰辨識。
《標識辦法》又規定,用戶不得以任何方式刪除、篡改、偽造或隱匿平台添加的AI標識。同時不得利用AI技術製作傳播虛假信息、侵權信息以及從事任何違法違規活動。對於違反法律法規及平台規範的行為,平台將視違規情況進行處罰。
四川省委網信辦指,強制「標識」能在保障安全與促進發展之間取得平衡。壓實開發者、提供者和平台的主體責任,通過治理和規範去凈化網絡空間環境。標識亦方便企業篩選高質量的數據進行模型訓練,提升技術可信度,推動生成式人工智能良性發展。