新规｜专家解读《人工智能生成合成内容标识办法》：“小步快走”实施AI治理

伴随着人工智能技术的加速发展近年来，关于AI深度伪造技术、AI虚假泛滥等现象屡禁不止，日前国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），对AI内容的标识提出了三大核心要求，涉及显式标识、隐式标识和平台责任。《标识办法》自2025年9月1日起施行。

在专家看来，当前监管部门针对人工智能的治理，尤其是内容治理，所遵循的思路是“小步快走”，而非追求大而全。这一思路也符合人工智能技术的发展现状，与人工智能技术在大规模应用中的产业场景相契合。

AI生成营销内容必须规范标注

根据此次发布的《标识办法》，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

《标识办法》提出，服务提供者提供的生成合成服务，应当按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识等。《标识办法》明确，违反规定的，将由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

中国科学院科技战略咨询研究院研究员肖尤丹向澎湃科技表示，此次新规虽然切口小，但应当把它放到生成式人工智能内容治理的总体框架里，与算法备案管理、生成式人工智能服务管理、深度合成管理相互协调、共同发挥作用的角度去理解。

在肖尤丹看来，当前人工智能的治理，尤其是内容治理，所遵循的思路是“小步快走”，而非追求大而全。这种思路符合人工智能技术的发展现状，也与人工智能技术在大规模应用中的产业场景相契合。

专注于AI信息安全与数字资产保护，隐拓智安科技有限公司的工作人员万嗣芳向澎湃科技分析认为，今后用户刷到AI生成的明星广告时，一眼就会看到“AI生成”提示，会避免被虚假宣传误导。对于AI公司和互联网平台来说，直观的影响在于，使用AI批量生成营销内容时，必须像给商品贴成分表一样规范标注，否则可能面临处罚。

万嗣芳称，这次文件明确要求，AI服务提供者和内容传播平台必须采取措施对AI生成内容进行标识。可以预见，未来AI服务平台和各类媒体平台上都将更加清晰地展示相关标识，帮助公众更便捷地识别AI生成内容和深度伪造信息，相应由AI伪造带来的谣言情况也会随之减少。

肖尤丹认为，接下来AI公司和平台更需要适应新规范下的运营流程。社会对该办法出台的预期比较稳定，办法也预留了半年左右的准备时间，因此，对大多数AIGC服务提供者来说，履行办法中的“标识义务”并没有太大的技术难度和合规成本。尤其是现在国内主流的AI服务提供商，实际上已经在采取类似的标识方式。不过，对于那些提供接口服务或间接向公众提供AI服务的公司来说，或许会需要一个技术调整与合规的过程。

对AI深度伪造病毒式传播是一次“致命打击”

澎湃科技注意到，《标识办法》中第十条明确规定，用户使用网络信息传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

在肖尤丹看来，这一细则的好处在于，对于那些利用AI技术抄袭、搬运内容的新媒体营销号无疑是一次“致命打击”。