免深度合成鉴伪检测的互联网数据中心IP地址和域名认定指南

■制定 □修订

□IDT □MOD □NEQ

□FTP

01

中国信息通信研究院

中国电信集团有限公司,中国联合网络通信集团有限公司,中国移动通信集团有限公司,北京瑞莱智慧科技有限公司,中国科学院信息工程研究所,中国科学院计算技术研究所

随着人工智能技术的不断发展，各类音视频深度合成技术已达到较高水平。目前国内已有阿里、腾讯、百度、科大讯飞等60余家企业已推出了100多项深度合成产品应用，包含人脸替换、表情操纵、假脸生成、文本语音转换等。但是深度合成技术也带来了恶搞政治/公众人物、语音诈骗、色情报仇、侵犯个人隐私等危害国家社会安全的严峻挑战。 由于互联网数据中心成为大量网络音视频数据的互联网接入重要方式，因此针对音视频数据进行深度合成检测势在必行。由于全面进行深度合成检测导致计算负担沉重，因此需要对的互联网数据中心进行可信IP地址和域名认定，免除其数据的深度合成检测的要求。 目前国内尚未有针对互联网数据中心的免除深度合成检测的可信IP地址和域名认定规范，缺乏对其原则、对象、流程及方法的明确要求，因此急需建设互联网数据中心免深度合成检测可信IP地址和域名认定指南。

本标准的主要内容包括： 1、定义互联网数据中心免深度合成检测的可信IP地址和域名的认定原则。 2、明确互联网数据中心免深度合成检测的可信IP地址和域名的认定对象及要素。 3、规定互联网数据中心免深度合成检测的可信IP地址和域名的认定流程，包含企业提出申请、专家评审及向监管部门报备等步骤。 4、明确互联网数据中心免深度合成检测的可信IP地址和域名的认定方法。 5、规定互联网数据中心免深度合成检测的可信IP地址和域名的认定后动态评估原则及实施方法，包含认定对象发生变化，或者主管部门抽查。

1. 目前美欧各国已经充分认识到通过深度合成技术制作虚假数据的危害性，并通过国家立法、加强企业管理、研发检测工具等措施积极予以应对。美国围绕该技术领域相继推出多项重磅法案，包括《2018年恶意伪造禁令法案》以及《深度伪造责任法案》等；欧盟也发布了《人工智能白皮书》和《人工智能法》等提案。国际企业中谷歌在其搜索引擎名单中添加了针对“非自愿合成色情视频”的屏蔽选项；脸书将对“换脸”视频进行标记。 2. 国内在《民法典人格权编（草案）》提出，任何组织或者个人不得以利用信息技术手段伪造的方式侵害他人的肖像权；《中华人民共和国网络安全法》中规定了“网络运营者应当保障网络免受干扰、破坏或者未经授权的访问，防止网络数据泄露或者被窃取、篡改”；《互联网直播营销信息内容服务管理规定（征求意见稿）》提出使用合成虚拟形象应当显著标识；《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》都明确规定不得利用深度合成等从事法律禁止的活动。因此国内针对互联网数据中心的数据进行深度合成检测势在必行，但是由于全面数据检测的计算负担沉重，所以需要对可信的互联网数据中心的域名进行免除深度合成检测的认定。