《互联网信息服务深度合成管理规定》答记者问

时间:2022-12-12 来源:“网信中国”微信公众号

  一、问:请您简要介绍《规定》出台的背景?

  答:制定《规定》主要基于以下几个方面的考虑。一是深入贯彻落实党中央决策部署。《法治社会建设实施纲要(2020-2025年)》明确提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。出台《规定》,能够进一步加强对新技术新应用新业态的管理,统筹发展与安全,推进深度合成技术依法合理有效利用。二是维护网络空间良好生态。深度合成服务在满足用户需求、改进用户体验的同时,也被一些不法人员用于制作、复制、发布、传播违法信息,诋毁、贬损他人名誉、荣誉,仿冒他人身份实施诈骗等违法行为,影响传播秩序和社会秩序,损害人民群众合法权益,危害国家安全和社会稳定。出台《规定》,能够划定深度合成服务的“底线”和“红线”,维护网络空间良好生态。三是促进深度合成服务规范发展。落实《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》等法律、行政法规,对应用深度合成技术提供互联网信息服务制定系统性、专门性规定,能够明确各类主体的信息安全义务,为促进深度合成服务规范发展提供有力法治保障。
  二、问:《规定》中所称深度合成技术是指什么?
  答:《规定》中所称深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,具体包括篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

  三、问:《规定》中所称的深度合成服务提供者和技术支持者是指什么?

  答:《规定》中所称的深度合成服务提供者,是指提供深度合成服务的组织、个人。深度合成服务技术支持者,是指为深度合成服务提供技术支持的组织、个人。
  四、问:《规定》对深度合成服务提供者落实信息安全主体责任作出了哪些要求?
  答:《规定》对深度合成服务提供者主体责任进行了明确规定。一是不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,或从事法律、行政法规禁止的活动。二是建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度,具有安全可控的技术保障措施。三是制定和公开管理规则、平台公约,完善服务协议,落实真实身份信息认证制度。四是加强深度合成内容管理,采取技术或者人工方式对输入数据和合成结果进行审核,建立健全用于识别违法和不良信息的特征库,记录并留存相关网络日志。五是建立健全辟谣机制,发现利用深度合成服务制作、复制、发布、传播虚假信息的,应当及时采取辟谣措施,保存有关记录,并向网信部门和有关主管部门报告。

  五、问:《规定》明确了深度合成服务提供者和技术支持者的哪些数据和技术管理规范?

  答:一是加强训练数据管理。采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定;提供人脸、人声等生物识别信息显著编辑功能的,应当提示使用者依法告知被编辑的个人,并取得其单独同意。二是加强技术管理。定期审核、评估、验证生成合成类算法机制机理;提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的,应当依法自行或者委托专业机构开展安全评估。

  六、问:《规定》明确了深度合成服务提供者的哪些标识要求?

  答:一是深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依法依规保存日志信息。二是提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示信息内容的合成情况,避免公众混淆或者误认;提供非上述深度合成服务的,应当提供显著标识功能,并提示使用者可以进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

  七、问:《规定》明确了深度合成服务提供者和技术支持者的哪些备案义务?

  答:《规定》明确,具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照服务提供者履行备案和变更、注销备案手续。完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

  八、问:《规定》对深度合成服务提供者履行安全评估和配合监督检查义务提出了哪些要求?

  答:《规定》明确,深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的,应当按照国家有关规定开展安全评估。深度合成服务提供者和技术支持者应当依法配合网信部门和有关主管部门开展的监督检查,并提供必要的技术、数据等支持和协助。发现存在较大信息安全风险的,网信部门和有关主管部门可以按照职责依法要求其采取暂停信息更新、用户账号注册或者其他服务等措施。


来源:“网信中国”微信公众号