近日，国家互联网信息办公室携手工业和信息化部、公安部以及国家广播电视总局，共同出台了《人工智能生成合成内容标识办法》（以下简称《办法》），旨在推动人工智能产业的健康发展，规范生成合成内容的标识方式，同时保障公民、法人和其他组织的合法权益，维护社会的公共利益。该《办法》将于2025年9月1日正式生效。
随着生成式人工智能和深度合成技术的迅猛进步，这些技术为创造文本、图片、音频、视频等合成内容提供了极大便利，不仅促进了经济发展，丰富了网络内容，还极大地便利了公众生活。然而，这些技术的广泛应用也带来了虚假信息传播、网络生态破坏等一系列问题，引起了社会的广泛关注。为此，加快相关立法、加强技术监管、明确平台责任成为了社会普遍呼吁的焦点。
《办法》的出台正是对社会关切和群众需求的积极响应。该《办法》通过内容标识这一核心手段，细化了前期相关部门规章中关于标识的具体要求，进一步发挥了内容标识在提醒提示和监督溯源方面的技术作用。其目标是构建一个开放、公正、有效的治理机制，为人工智能产业的健康有序发展营造一个公平有序的环境。
根据《办法》的规定，人工智能生成合成内容的标识主要包括显式标识和隐式标识两种形式。显式标识是在生成合成内容或交互场景界面中，通过文字、声音、图形等方式呈现，能够被用户明显感知到的标识；而隐式标识则是通过技术措施在生成合成内容的文件数据中添加，不易被用户明显感知到的标识。
《办法》明确要求，在开展人工智能生成合成内容标识活动时，应遵守《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》以及《生成式人工智能服务管理暂行办法》的相关规定。服务提供者提供的生成合成服务，如果符合《互联网信息服务深度合成管理规定》第十七条第一款的情形，应当按照要求对生成合成内容添加显式标识，并在文件元数据中添加隐式标识。
为了规范生成合成内容的传播活动，《办法》还规定，提供网络信息内容传播服务的服务提供者应当采取一系列措施，包括核验文件元数据中是否含有隐式标识，并根据不同情况在发布内容周边添加显著的提示标识，提醒公众该内容属于生成合成内容或可能为生成合成内容。同时，服务提供者还应提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
值得注意的是，《办法》强调，任何组织和个人都不得恶意删除、篡改、伪造或隐匿生成合成内容的标识，也不得为他人实施上述恶意行为提供工具或服务，更不得通过不正当的标识手段损害他人的合法权益。
在具体实施方面，《办法》要求互联网应用程序分发平台在应用程序上架或上线审核时，应要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并进行相关材料的核验。服务提供者还应在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
对于用户而言，如果申请服务提供者提供未添加显式标识的生成合成内容，服务提供者可以在明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存相关日志不少于六个月。而用户在使用网络信息内容传播服务发布生成合成内容时，应主动声明并使用服务提供者提供的标识功能进行标识。
最后，《办法》还规定，服务提供者在履行算法备案、安全评估等手续时，应按照《办法》提供生成合成内容标识的相关材料，并加强标识信息共享，为防范和打击相关违法犯罪活动提供支持和帮助。对于违反《办法》规定的行为，将由网信、电信、公安和广播电视等有关主管部门依据职责，按照相关法律、行政法规和部门规章的规定进行处理。
