《人工智能生成合成内容标识办法》（简称《标识办法》）将于9月1日正式施行。为助力新规落地实施，“人工智能生成合成内容标识政策法规宣讲活动（广东站）”4月18日在广州举行。《标识办法》及配套国标（简称《标识方法》）的参编专家深入解读政策要点，企业代表分享执行思路及举措。同时，还多方共议生成式人工智能内容安全保障，为AI谣言治理建言献策。
专家指出，《标识办法》和《标识方法》通过标识机制提升内容透明度，帮助用户辨别虚假信息，并明确相关主体的责任义务，规范内容制作、传播环节的标识行为，与现有法规形成联动。通过管理规定与技术标准协同，确保政策可落地、可实施、可考核，形成安全治理与产业发展的良性平衡。未来还将不断完善标识技术体系，探索建立生成式人工智能治理长效机制，提高公众的人工智能素养与标识意识。
打出“管理+技术”组合拳
推动AI内容标识落地落实
近年来，随着人工智能技术持续迭代发展，利用真假难辨的AI生成内容伪造恶搞、编造新闻、钓鱼诈骗等现象已初步显现，生成式AI带来的新型风险挑战不容忽视。防范AI风险，促进产业良性发展迫在眉睫，帮助公众识别AI生成内容，减少虚假信息传播，增强公众对互联网传播内容的信任，厘清虚假内容生产传播责任链，也成为网络信息内容生态治理的重要一环。
与此同时，我国人工智能安全治理体系正在不断完善。此前《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关规定已明确提出“标识”概念，并将既有的标识要求延伸至生成式人工智能的安全治理工作中。专家表示，此次《标识办法》的发布与施行，是对标识工作的“再明确”与“再细化”，推进相关规定的落地和落实。
目前，对AI生成合成内容进行标识已成为国际共识，而我国率先打出内容标识“管理+技术”组合拳，将标识工作推进至实践层面，为全球AI治理贡献中国智慧。专家指出，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
专家对《标识办法》做出深入解读。
而《标识方法》作为《标识办法》的配套技术标准，明确了生成合成内容标识应当遵循的技术方法，为产业落地提供了参考依据。“‘技管结合’中的‘技术’”，首先体现在强制标准上。”宣讲会上，专家介绍，与《标识办法》同步发布的《标识方法》作为首个人工智能领域强制性国家标准，具有一定法律属性，企业提供相关服务时需符合全部条款。通过管理规定与技术标准联动，确保政策可落地、可实施、可考核，形成协同治理合力，并通过持续不断提升技术水平，构建技术能力，实现管理要求与技术手段的有机结合，提升人工智能安全治理能力。
构建“显式+隐式”双层标识体系
强制性国家标准指引产业落地
专家指出，《标识办法》通过构建显式与隐式双层标识体系，形成可识别、可追溯的AI内容标识规范。其中，显式标识的基础要求是能被用户明显感知，根据AI生成与合成内容分模态场景提出具体标识要求。隐式标识则考虑企业实践成本，对技术难点如文本隐式标识、数字水印等不强制要求，提供低成本实施方案，为创新保留空间，平衡安全与管控。
其次，《标识办法》重点关注传播环节，对网络信息内容传播服务提供者衔接显式与隐式标识、用户声明标识与服务、伪造内容识别等方面均作出相关规定。从内容生成到传播建立全链条责任机制，明确各方标识义务，通过元数据验证解决“谁生成的”“从哪里生成的”等关键问题。
《标识办法》还充分考虑用户侧情况，要求服务提供者对用户做出相关提醒，用户也需遵守标识相关规定，同时也给用户申请无显式标识内容的需求留出制度空间。此外，《标识办法》还衔接审核环节要求，对互联网应用分发、深度合成及生成式人工智能备案环节作出提供及核验生成合成内容标识相关材料的相关规定。
区别于《标识办法》对多主体提出相关标识要求，《标识方法》重点聚焦于AI内容制作与内容传播平台，对显式与隐式标识实践给予了具体的标准指引。此外，《标识方法》在给出人工智能生成合成内容标识技术方法的基线要求的同时，也为探索不同应用场景下，兼顾“明显提示用户”和“考虑用户使用体验”预留了空间。例如在驾驶员与车载终端高频语音交互时，如果智能驾驶助手每次语音回复均播报语音标识，不仅影响交互体验，更可能对驾驶安全性造成影响。因此，可通过设置在一轮交互中只提示一次等方式避免频繁提示对人工智能的实际应用造成影响。此外，专家还进一步讲解了《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》，对文件元数据隐式标识中服务提供者的编码结构、赋码规则、组织与个人的编码示例做出了详细介绍。
宣讲会上，专家详细介绍《标识方法》。
不断完善标识技术体系
探索建立生成式AI治理长效机制
在宣讲会上，专家强调，人工智能是“矛”与“盾”同步发展的状态，《标识办法》并非生成式人工智能治理的终点，而是实现路径。未来还将不断完善标识技术体系，在原有技术的基础上不断创新，突破数字水印广泛应用的技术难题，探索高泛化性的生成合成内容检测技术，开发更高效的识别AI生成内容的检测工具和水印检测算法，以及基于数字水印的内容防伪技术。同时还将积极参与IEEE、ISO/IEC等国际标准的制定与推广，以及相关国家标准、技术文件、实践指南的研究制定，推动技术认知形成行业共识。
在社会层面，还要探索建立生成式人工智能治理长效机制，引导组织政府、企业、研究机构和社会组织共同参与，推动标识的广泛应用，并以此为基础进一步完善制度体系。此外，还要通过对公众进行标识的说明与合规引导，培育用户正确使用相关服务的安全意识，防范生成合成内容引发的相关风险。
“今年年初，DeepSeek完成了让人们使用AI的教育，《标识办法》则是要进行让用户安全使用AI的教育。”专家表示，随着《标识办法》施行，不断强化用户的标识意识，给AI生成内容“打标”将会逐渐成为一种习惯。而这可以提升公众对于信息内容真实性、来源可追溯性的批判性评估能力，提高公众人工智能素养，确保人工智能技术成果普惠共享。
据悉，本次宣讲会由中央网信办网络管理技术局、广东省委网信办指导，中国网络空间安全协会、广东省网络数据安全与个人信息保护协会主办，南方都市报、南都大数据研究院承办。
出品：南都大数据研究院
采写：陈袁
