返回列表
AI新规《人工智能生成合成内容标识办法》六问六答
2025-03-18

2025年3月14日,《人工智能生成合成内容标识办法》(以下简称《标识办法》)及配套的强制性国家标准和指引文件正式发布,标志着人工智能生成合成内容标识和安全溯源管理的“最后一公里”已成功打通。

本文以问答形式,聚焦企业合规落地层面,为企业快速整体理解该办法和开展合规调整提供参考。

 

 

01

《标识办法》的性质

答:该办法属于部门规范性文件,由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布,明确人工智能生成合成内容标识的安全管理的具体要求,发挥着承上启下的重要作用。

上位法规:含4部主要法规,分别是《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》。

下位标准和技术文件:配套该办法实施落地的强制性国家标准和技术文件:

(1)强制性国家标准:《网络安全技术 人工智能生成合成内容标识方法》(GB 45438-2025),与《标识办法》同步实施,具体规定了人工智能生成合成内容的显式标识和隐式标识方法标准、实施方式和操作方法。

(2)技术文件:《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,为人工智能生成合成内容服务提供者和网络信息内容传播服务提供者开展人工智能生成合成内容的文件元数据隐式标识活动提供参考。

 

02

《标识办法》的出台目的

答:回应如何应对人工智能生成合成技术滥用危害和利用人工智能技术制作传播虚假信息风险的关切,规范人工智能合成内容制作、传播的标识管理活动,发挥内容标识提醒提示和监督溯源技术作用,维护网络清朗空间,保护公民、法人等组织合法权益,推动人工智能健康有序发展。

 

03

《标识办法》的适用主体范围

答:根据该办法第二条、第四条、第五条、第六条、第七条、第十条,该办法的适用主体覆盖了人工智能生成内容生成、传播、使用的各流程所涉及的多方主体,具体包括:

(1)人工智能生成合成内容服务提供者;

(2)网络信息内容传播服务提供者;

(3)互联网应用程序分发平台;

(4)用户。

 

04

《标识办法》的核心内容

答:

(一)明确标识类型,分为显式标识和隐式标识

1.显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;

2.隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

(二)明确标识生成-传播全流程的实施要求

整体而言,服务提供者、传播平台和用户共同协作,分别承担各自的责任,以确保隐式标识的有效性、合规性和可追溯性。

1. 源头端的标识义务和规则告知义务——生成合成内容服务提供者责任

该责任主要归属于生成合成内容服务提供者,主要由其确保标识信息的完整和可追溯。

(1)强制在生成或合成的文本、音频、图片、视频和虚拟场景等添加显式标识和文件元数据添加隐式标识。服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识,以及在生成合成内容的文件元数据中添加隐式标识,其中隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

(2)提供生成合成内容下载、复制、导出等功能时,确保文件中含有满足要求的显式标识。

(3)对用户侧的告知义务和未标识诉求响应义务:

①服务协议的内容调整:服务提供者应在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容以及明确用户的标识义务和使用责任等内容,并提示用户仔细阅读并理解相关的标识管理要求。

②用户合规获得未标识内容诉求响应:用户申请提供未添加显式标识的生成合成内容时,服务提供者可通过用户协议明确用户的标识义务和使用责任后提供,并依法留存相关日志信息不少于六个月。

2. 发布、传播链条过程标识核验、补充标识和提示义务和标识安全遵守义务——传播服务提供者责任、应用程序分发平台责任和用户责任

这是《标识办法》新增的要求,要求内容平台、应用平台和用户分别承担相应义务。

(1)网络信息内容传播服务提供者责任:

核验文件元数据中的隐式标识,并在发布内容周边添加显著提示标识。同时提供必要的标识功能,提醒用户主动声明发布内容中是否包含生成合成内容。

(2)应用程序分发平台责任:

在应用程序上架或上线审核时,要求服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

(3)用户责任:

发布生成合成内容时应主动声明并使用标识功能,以及不得恶意删除、篡改、伪造、隐匿生成合成内容标识。

 

05

在《标识办法》施行过渡期如何安排合规义务落地?

答:《标识办法》和配套强制性国家标准距离2025年9月1日正式施行日期有6个月左右的过渡期,建议企业尽快着手整改措施:

步骤一:确认是否落入办法适用范畴。

步骤二:聚焦技术实现方案,谋求符合企业成本和可落地性价比较高的技术方案,包括隐式标识技术、带标识内容下载实现方式、隐式标识核验技术等。

步骤三:制定响应用户提供不添加显式标识的生成合成内容的需求应对和实施方案。

步骤四:企业管理制度、标识操作规范手册、用户协议等文本或资料的梳理。

 

06

违反《标识办法》的后果

答:本办法第十三条并未直接规定罚则,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

因此,根据相应部门规章,《互联网信息服务算法推荐管理规定》第9条和第31条、《互联网信息服务深度合成管理规定》第16条、第17条、第18条和第21条、《生成式人工智能服务管理暂行办法》第12条和第21条等相关规定(具体法规依据见后文),违反该内容标识相关规定的,处罚可能包括警告、通报批评、责令整改、暂停或终止服务,罚款一万以上十万以下,治安管理处罚或追究刑事责任。

 

律师点评

图片

历经生成合成类算法备案程序的企业对内容标识添加应该不陌生。该办法已兼顾企业的落地成本,其仅要求两种强制性的标识,即文本、音频、图片、视频、虚拟场景等生成合成内容的显式标识和文件元数据的隐式标识。针对数字水印这类高成本的内容层面的隐式标识该办法并未做强制要求,鼓励企业可选择添加。

已开展相应生成合成类算法备案的企业大多数都完成了显式标识的合规处理,隐式标识因技术难度和成本问题有部分具备预算的企业也做了相应的技术应用。因此《标识办法》提出的隐式标识的添加和标识核验是该办法的合规整改的重点。

建议企业的合规部门迅速组织相应研发部门、安全部门等相关人员,研读《标识办法》、强制性国家标准和技术文件,参考同行的落地方案和对《标识办法》及强制性国家标准和技术文件的权威解读,在结合企业内容生成合成的服务性质、成本预算等实际因素,选择可落地的合规方案。

落地过程参考的内容除了前述的《网络安全技术 人工智能生成合成内容标识方法》(GB 45438-2025)和《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》外,可查阅中国网信网的“一图读懂|强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》”,其针对不同的生成或合成内容的模态给出了非常直观的标识方法和示例。

 

参考文献:

 

 

1.《人工智能生成合成内容标识办法》答记者问,

https://www.cac.gov.cn/2025-03/14/c_1743654685896173.htm2025年3月14日。

 

2.《一图读懂|强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》,https://www.cac.gov.cn/2025-03/15/c_1743755846973028.htm2025年3月15日。

 

3.关于发布《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》的通知,https://www.tc260.org.cn/front/postDetail.html?id=20250303215504。

 

4.《互联网信息服务算法推荐管理规定》

 

第九条 算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

 

第三十一条 算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定,法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

5.《互联网信息服务深度合成管理规定》

 

第十六条 深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。

 

第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

 

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

 

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

 

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

 

(四)沉浸式拟真场景等生成或者编辑服务;

 

(五)其他具有生成或者显著改变信息内容功能的服务。

 

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

 

第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

 

第二十二条 深度合成服务提供者和技术支持者违反本规定的,依照有关法律、行政法规的规定处罚;造成严重后果的,依法从重处罚。

 

构成违反治安管理行为的,由公安机关依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

6.《生成式人工智能服务管理暂行办法》

 

提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

 

第二十一条 提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。

 

构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

 

作者:许瑞凤

审稿:梁艳芬

(文中观点不代表北源律师事务所的观点或法律意见) 

返回列表
AI新规《人工智能生成合成内容标识办法》六问六答
2025-03-18

2025年3月14日,《人工智能生成合成内容标识办法》(以下简称《标识办法》)及配套的强制性国家标准和指引文件正式发布,标志着人工智能生成合成内容标识和安全溯源管理的“最后一公里”已成功打通。

本文以问答形式,聚焦企业合规落地层面,为企业快速整体理解该办法和开展合规调整提供参考。

 

 

01

《标识办法》的性质

答:该办法属于部门规范性文件,由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布,明确人工智能生成合成内容标识的安全管理的具体要求,发挥着承上启下的重要作用。

上位法规:含4部主要法规,分别是《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》。

下位标准和技术文件:配套该办法实施落地的强制性国家标准和技术文件:

(1)强制性国家标准:《网络安全技术 人工智能生成合成内容标识方法》(GB 45438-2025),与《标识办法》同步实施,具体规定了人工智能生成合成内容的显式标识和隐式标识方法标准、实施方式和操作方法。

(2)技术文件:《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,为人工智能生成合成内容服务提供者和网络信息内容传播服务提供者开展人工智能生成合成内容的文件元数据隐式标识活动提供参考。

 

02

《标识办法》的出台目的

答:回应如何应对人工智能生成合成技术滥用危害和利用人工智能技术制作传播虚假信息风险的关切,规范人工智能合成内容制作、传播的标识管理活动,发挥内容标识提醒提示和监督溯源技术作用,维护网络清朗空间,保护公民、法人等组织合法权益,推动人工智能健康有序发展。

 

03

《标识办法》的适用主体范围

答:根据该办法第二条、第四条、第五条、第六条、第七条、第十条,该办法的适用主体覆盖了人工智能生成内容生成、传播、使用的各流程所涉及的多方主体,具体包括:

(1)人工智能生成合成内容服务提供者;

(2)网络信息内容传播服务提供者;

(3)互联网应用程序分发平台;

(4)用户。

 

04

《标识办法》的核心内容

答:

(一)明确标识类型,分为显式标识和隐式标识

1.显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;

2.隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

(二)明确标识生成-传播全流程的实施要求

整体而言,服务提供者、传播平台和用户共同协作,分别承担各自的责任,以确保隐式标识的有效性、合规性和可追溯性。

1. 源头端的标识义务和规则告知义务——生成合成内容服务提供者责任

该责任主要归属于生成合成内容服务提供者,主要由其确保标识信息的完整和可追溯。

(1)强制在生成或合成的文本、音频、图片、视频和虚拟场景等添加显式标识和文件元数据添加隐式标识。服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识,以及在生成合成内容的文件元数据中添加隐式标识,其中隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

(2)提供生成合成内容下载、复制、导出等功能时,确保文件中含有满足要求的显式标识。

(3)对用户侧的告知义务和未标识诉求响应义务:

①服务协议的内容调整:服务提供者应在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容以及明确用户的标识义务和使用责任等内容,并提示用户仔细阅读并理解相关的标识管理要求。

②用户合规获得未标识内容诉求响应:用户申请提供未添加显式标识的生成合成内容时,服务提供者可通过用户协议明确用户的标识义务和使用责任后提供,并依法留存相关日志信息不少于六个月。

2. 发布、传播链条过程标识核验、补充标识和提示义务和标识安全遵守义务——传播服务提供者责任、应用程序分发平台责任和用户责任

这是《标识办法》新增的要求,要求内容平台、应用平台和用户分别承担相应义务。

(1)网络信息内容传播服务提供者责任:

核验文件元数据中的隐式标识,并在发布内容周边添加显著提示标识。同时提供必要的标识功能,提醒用户主动声明发布内容中是否包含生成合成内容。

(2)应用程序分发平台责任:

在应用程序上架或上线审核时,要求服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

(3)用户责任:

发布生成合成内容时应主动声明并使用标识功能,以及不得恶意删除、篡改、伪造、隐匿生成合成内容标识。

 

05

在《标识办法》施行过渡期如何安排合规义务落地?

答:《标识办法》和配套强制性国家标准距离2025年9月1日正式施行日期有6个月左右的过渡期,建议企业尽快着手整改措施:

步骤一:确认是否落入办法适用范畴。

步骤二:聚焦技术实现方案,谋求符合企业成本和可落地性价比较高的技术方案,包括隐式标识技术、带标识内容下载实现方式、隐式标识核验技术等。

步骤三:制定响应用户提供不添加显式标识的生成合成内容的需求应对和实施方案。

步骤四:企业管理制度、标识操作规范手册、用户协议等文本或资料的梳理。

 

06

违反《标识办法》的后果

答:本办法第十三条并未直接规定罚则,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

因此,根据相应部门规章,《互联网信息服务算法推荐管理规定》第9条和第31条、《互联网信息服务深度合成管理规定》第16条、第17条、第18条和第21条、《生成式人工智能服务管理暂行办法》第12条和第21条等相关规定(具体法规依据见后文),违反该内容标识相关规定的,处罚可能包括警告、通报批评、责令整改、暂停或终止服务,罚款一万以上十万以下,治安管理处罚或追究刑事责任。

 

律师点评

图片

历经生成合成类算法备案程序的企业对内容标识添加应该不陌生。该办法已兼顾企业的落地成本,其仅要求两种强制性的标识,即文本、音频、图片、视频、虚拟场景等生成合成内容的显式标识和文件元数据的隐式标识。针对数字水印这类高成本的内容层面的隐式标识该办法并未做强制要求,鼓励企业可选择添加。

已开展相应生成合成类算法备案的企业大多数都完成了显式标识的合规处理,隐式标识因技术难度和成本问题有部分具备预算的企业也做了相应的技术应用。因此《标识办法》提出的隐式标识的添加和标识核验是该办法的合规整改的重点。

建议企业的合规部门迅速组织相应研发部门、安全部门等相关人员,研读《标识办法》、强制性国家标准和技术文件,参考同行的落地方案和对《标识办法》及强制性国家标准和技术文件的权威解读,在结合企业内容生成合成的服务性质、成本预算等实际因素,选择可落地的合规方案。

落地过程参考的内容除了前述的《网络安全技术 人工智能生成合成内容标识方法》(GB 45438-2025)和《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》外,可查阅中国网信网的“一图读懂|强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》”,其针对不同的生成或合成内容的模态给出了非常直观的标识方法和示例。

 

参考文献:

 

 

1.《人工智能生成合成内容标识办法》答记者问,

https://www.cac.gov.cn/2025-03/14/c_1743654685896173.htm2025年3月14日。

 

2.《一图读懂|强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》,https://www.cac.gov.cn/2025-03/15/c_1743755846973028.htm2025年3月15日。

 

3.关于发布《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》的通知,https://www.tc260.org.cn/front/postDetail.html?id=20250303215504。

 

4.《互联网信息服务算法推荐管理规定》

 

第九条 算法推荐服务提供者应当加强信息安全管理,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

 

第三十一条 算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十四条、第十六条、第十七条、第二十二条、第二十四条、第二十六条规定,法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

5.《互联网信息服务深度合成管理规定》

 

第十六条 深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。

 

第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

 

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

 

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

 

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

 

(四)沉浸式拟真场景等生成或者编辑服务;

 

(五)其他具有生成或者显著改变信息内容功能的服务。

 

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

 

第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

 

第二十二条 深度合成服务提供者和技术支持者违反本规定的,依照有关法律、行政法规的规定处罚;造成严重后果的,依法从重处罚。

 

构成违反治安管理行为的,由公安机关依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

6.《生成式人工智能服务管理暂行办法》

 

提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

 

第二十一条 提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。

 

构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

 

 

作者:许瑞凤

审稿:梁艳芬

(文中观点不代表北源律师事务所的观点或法律意见)