中国率先行动: AI 生成内容均需添加显性标识

文章来源：创头条

原文链接：https://mp.weixin.qq.com/s/U5a5PlGO5ORgtswQlo-Uxg

图片来源：由无界AI生成

近日，国家互联网信息办公室发布《人工智能生成合成内容标识办法(征求意见稿)》(下称《意见稿》)，还配套发布了国家标准《网络安全技术 人工智能生成合成内容标识方法》。

北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括表示，这是全球范围内，第一部关于人工智能生成合成内容的标识国家标准。

《意见稿》在《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等基础上，进一步细化了AI合成内容的标识办法，包括“显式标识”和“隐式标识”。

早在2022年，中央网信办等就发布了《互联网信息服务深度合成管理规定》（以下简称《规定》），明确指出，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

根据《意见稿》第四条，服务提供者提供的生成合成服务属于《规定》第十七条第一款情形的，应当按照下列要求，对生成合成内容添加显式标识。

显式标识是指，在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户“明显感知到”的标识。

《规定》第十七条第一款提到的具体情形包括：智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等。

这几乎囊括了所有目前AI能够生产的内容。

在《意见稿》第五条中还提到，服务提供者应当按照《规定》第十六条的规定，在生成合成内容的文件元数据中添加“隐式标识”。

隐式标识是指，采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

例如，生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，并鼓励服务提供者在生成合成内容中添加“数字水印”等形式的“隐式标识”。

此前，国内就提出了许多对于AI的管理规范。

例如，《生成式人工智能服务管理暂行办法》、《国家人工智能产业综合标准化体系建设指南（2024版）》、《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》、《全球人工智能治理倡议》、《人工智能全球治理上海宣言》等等。

2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布的《生成式人工智能服务管理暂行办法》。

该办法为促进生成式人工智能的健康发展和规范应用而制定的一系列规定。

其中强调了禁止生成违法违规内容，要求在算法设计、数据选择、模型生成和优化等过程中采取有效措施防止歧视，尊重知识产权和商业道德，保护个人合法权益，并提升服务透明度和内容准确性。

2023年10月，网信办还发布了《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。

这 11项倡议包括：坚持“以人为本”、尊重他国主权、坚持“智能向善”、坚持平等互利、推动建立风险等级测试评估体系、坚持公平性和非歧视性原则、坚持伦理先行、增强发展中国家的代表性和发言权等。

在国际上，AI的治理方向，主要集中在平衡发展与风险、确保安全与公平性，以及推动构建人类命运共同体等。

多个国家也都提出了AI治理法案和措施，例如：

2024年3月，欧盟发布了《人工智能法案》，其被认为是全球首部综合性人工智能治理立法。

该法案对人工智能系统进行了分类，并根据风险等级制定了相应的监管要求，设定了普适、全面的人工智能监管方法，包括数据管理、透明度、可解释性、人类监督等方面。

欧盟2024年新设了人工智能办公室，推动实施《人工智能法案》。此外，欧盟《人工智能责任指令》在2024年也将出现更多的进展。

英国也率先成立英国人工智能安全研究所，旨在促进全球对先进人工智能的了解。

2023年1月，美国商务部国家标准与技术研究院发布《人工智能风险管理框架》，旨在对人工智能系统全生命周期实行有效的风险管理。

2023年10月，美国第一次在政治对话中真正纳入人工智能的议程，并发布总统行政令《安全、可靠和值得信赖的人工智能开发和使用》，明确了美国政府治理人工智能的政策法律框架。

最受瞩目的一点是，该行政令动用《国防生产法》的紧急权力，强制要求人工智能企业进行安全测试并与政府分享测试结果。

2024年5月，美国参议院人工智能工作组发布《推动美国在AI领域的创新：参议院AI政策路线图》，标志着美国通过“全面立法”治理人工智能的战略努力。

2024年5月，在人工智能首尔峰会上，美国、英国、加拿大、日本、韩国等10个国家以及欧盟共同签署《首尔声明》，呼吁加强国际人工智能治理合作以及治理框架之间的互操作性，倡导以风险为基础的政策和治理框架，支持启动首个国际人工智能安全研究所网络，促使国家间形成对人工智能安全的共同理解，并在研究、标准和测试方面进行协调。