【全文】
一、《人工智能生成合成内容标识办法》及配套国家标准的发布背景
近年来，生成式人工智能和深度合成技术的迅猛发展，大大提升了文本、图片、音频等信息在生成与处理上的便捷性和高效性，尤其是ChatGPT、DeepSeek等AIGC工具的普及，让生成式人工智能有了更加广泛和日常的应用场景。然而，在为人们的生活带来便利的同时，技术的快速普及也带来了一系列不可忽视的问题，如虚假信息传播、深度伪造、个人信息保护等，这些问题给公民合法权益和社会公共秩序带来了严重威胁，也会削弱公众对于网络信息的信任基础，如果不能及时解决，将会成为我国人工智能发展道路上的阻力。
为了应对这些问题带来的挑战，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》（以下简称《办法》）并自2025年9月1日起实施，目的是“促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益”，与此同时，这一办法的配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》于2025年2月28日经2025年第3号中国国家标准公告公布，也将自2025年9月1日起实施，以应对人工智能生成合成内容被误用、滥用、恶意使用的风险。
二、《人工智能生成合成内容标识办法》及配套国家标准的规则架构
（一）《人工智能生成合成内容标识办法》
《办法》全文共十四条，其规则架构主要围绕以下几个方面展开：
1.明确人工智能生成合成内容的标识要求
《办法》第三条将人工智能生成合成内容标识分为了显式标识和隐式标识，并对二者的概念进行了明确的界定。“显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。”根据《办法》第四条、第五条的规定，要求添加显式标识和隐式标识的方法与位置有所不同，具体来说，深度合成服务提供者在提供符合《互联网信息服务深度合成管理规定》第十七条第一款规定的深度合成服务，包括但不限于模拟自然人进行文本生成或者编辑服务、语音生成或显著改变个人身份特征的编辑服务、人物图像视频生成或显著改变个人身份特征的编辑服务、沉浸式拟真场景等生成或编辑服务，可能导致公众混淆或误认的，应当在生成或编辑的信息内容的合理位置、区域添加显式标识以提示公众，显式标识应当做到位置显著，足以使公众注意；隐式标识则是在生成合成内容的文件元数据（按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容）中以数字水印等形式添加，例如图片基础信息属性里的生成合成服务提供者的名称或编码等。
2.明确规定各类主体的法律责任
《办法》第六条至第十二条分别明确对人工智能生成合成内容从生成到传播、使用全流程中涉及的各个主体的责任进行了明确的划分。
首先，对于提供网络信息内容传播服务的服务提供者，如各类能够发布人工智能生成合成内容的平台方等，《办法》规定了这类主体负有核验文件元数据中是否含有隐式标识的义务，并对于确定、疑似为人工智能生成合成内容的信息负有在其周边添加显著的提示标识以主动提醒公众该内容确定或疑似为人工智能生成合成内容的义务，服务提供者对于信息的发布者也负有提供必要标识功能并提醒其主动声明是否发布内容中是否含有人工智能生成合成内容的义务。
其次，互联网应用程序分发平台负有要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务、并在其提供服务时负有核验相关内容标识的义务。
最后，《办法》也对人工智能生成合成服务的用户规定了相应的义务，从正面来说，用户在使用网络信息内容传播服务发布生成合成内容时，负有主动声明并使用服务提供者提供的表示功能对内容进行标识的义务；从反面来说，禁止任何组织和个人恶意删除、篡改、伪造、隐匿生成合成内容标识或者为他人实施这些行为提供工具和服务、损害他人合法权益。
通过分主体明确各类组织和个人的义务，《办法》对人工智能生成合成内容的标识规定做到了从内容生成到传播的全流程覆盖，能够确保每个环节都有明确的表示要求与责任主体，从而实现人工智能生成合成内容的可标识、可追溯。
（二）《网络安全技术人工智能生成合成内容标识方法》与《办法》的衔接
《网络安全技术人工智能生成合成内容标识方法》作为《办法》的配套国家强制标准，规定了人工智能生成合成内容的标识方法，为人工智能生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动作出了具体的指引。
配套标准对显式标识与隐式标识作出了具体规范，前者具体到文本、图片、音频、视频、虚拟场景内容、交互场景界面等不同的内容形式与应用场景，后者对文件元数据和内容隐式标识应当包含的要素信息也作出了详细的规定。
《办法》及其配套国家标准回应了《中华人民共和国网络安全法》《互联网信息服务深度合成管理规定》对人工智能生成合成内容进行标识的要求，与现有法律法规相衔接，细化了对标识的具体要求。《办法》从立法层面提出管理要求，它侧重于“责任链闭环”的构建，主要通过设定人工智能生成合成内容从生成到传播各环节的主体义务进行管理和规制；配套国家标准从技术上进行设定，聚焦于“技术锚点”建设，以强制性国家标准的形式为各主体提供了具体的操作指南。
三、《人工智能生成合成内容标识办法》及配套国家标准的实务意义
《办法》及其配套国家标准的发布，在人工智能深度发展的大环境下，对于进一步明确和细化对人工智能生成合成内容的规制、保障人工智能产业健康快速发展，具有重大意义，具体表现在以下几个方面：
1.维护网络安全与用户权益，提升公众信任度
《办法》对实质或疑似为人工智能生成合成内容的信息有添加显式标识的强制规定，也规定了任何组织和个人不得恶意删除、篡改、伪造或隐匿标识，能够有效帮助用户对于互联网上的各类信息是否属于人工智能生成合成内容进行快速区分，通过标识提醒用户辨别虚假信息，不仅保障了用户的知情权和选择权，还能够避免人工智能生成合成内容对用户造成误导，有效防范利用人工智能技术进行诈骗、造谣传谣等侵害他人合法权益、扰乱社会公共秩序的情况，从而进一步促进网络生态的良性发展、提升公众对数字化内容的信任程度。
2.规范内容传播与治理，促进内容生态建设
规范人工智能生成合成内容的标识，可以有效区分人工智能生成合成内容与真实信息，避免“幻觉数据”进入公开数据领域，从而提升数据质量，保障人工智能模型输出的准确性。其次，通过显式和隐式标识对人工智能生成合成内容进行标识，可以增强信息传播过程中的透明度，对于违法、违反公序良俗的内容可以及时溯源，降低了网络空间治理的成本，能够更加高效地对网络内容进行监管与规范，在透明、可信、安全的内容生态建设基础上，促进信息的有效流动，从而建设健康有序的网络内容生态空间。
3.完善法规与技术衔接，保障产业良性发展
《办法》与其配套标准于2025年9月1日协同实施，在立法与技术两个层面形成合力，破解了以往治理中管理规范与技术标准衔接不畅的问题，形成了“制度牵引技术落地，技术固化制度要求”的治理闭环，在理论上能够填补人工智能技术快速发展导致的现行法律法规与现实的断档空白，在实践上能够护航人工智能产业进一步优化升级，为人工智能技术创新提供健康的发展空间。
4.提供国际人工智能治理的中国方案
在人工智能发展全球化的今天，如何对人工智能生成合成内容同其他传统内容进行区分并对其规制，是所有国家和地区都要面临的挑战，《办法》及其配套国家标准的出台，体现了我国在人工智能治理领域的积极探索，彰显了中国在推动人工智能健康发展方面的责任与担当，也为全球人工智能治理提供中国方案，有利于促进世界各国在人工智能治理领域取长补短、促进交流与合作，共同推进人工智能技术的更长远发展。
