人工智能生成合成内容将强制标识

近日，国家网信办、工信部和公安部、广电总局联合印发了《人工智能生成合成内容标识办法》，对人工智能生成合成内容提出了必须添加显著标记的要求。自从人工智能突飞猛进地发展以来，网络用户开始被不计其数的人工智能生成合成内容淹没。对于那些经验丰富的网络用户来说，也许可以轻易分辨出AI生成的图像和视频，但对于文化水平较低或网络经验较少的用户来说，分辨这些内容就很困难，导致大量AI生成式谣言广泛传播。另外，AI生成式文本极度接近人类创作的文本内容，分辨起来更加困难。

不法分子利用AI生成假新闻，在自媒体中传播，以赚取流量，最终被权力部门处罚的新闻已经屡见不鲜，说明规范人工智能生成合成内容迫在眉睫。网信办等多个部门联合出台的这项部门规章《表示办法》对人工智能生成合成内容做出了如下规定：

第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；

（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；

（三）在图片的适当位置添加显著的提示标识；

（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

这就是说，本规定实施后，利用人工智能生成或合成的内容如果不添加显著的标识来提醒用户，就可能面临处罚。

第十三条 违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

通知及《标识办法》全文可在以下链接查看

https://www.cac.gov.cn/2025-03/14/c_1743654685899683.htm