移动互联网应用程序（APP）自动化决策用户权益保护要求

■制定 □修订

□IDT □MOD □NEQ

□FTP

35.240

北京三快在线科技有限公司

中国信息通信研究院,北京快手科技有限公司

APP自动化决策能力的发展,为互联网企业赢得了竞争力，随着算法技术趋于成熟以及运用更加广泛，滥用APP推荐算法完成自动化决策也成为部分企业实施不正当竞争、侵害用户权益的隐性手段。特别是在互联网平台模式下,数以亿计的用户和海量的应用可能因为不当的自动化决策机制使用带来较大风险。APP自动化决策应用风险加大、问题频出，已对人工智能行业市场监管带来了挑战,也成为了世界各国普遍面临的前沿难题。 为了进一步地推动APP自动化决策用户权益保护工作的开展，对APP自动化决策算法生成及使用进行研究十分必要且急迫。 目前行业中尚未有从用户权益保护出发针对APP自动化决策的要求与测试评估方法，缺乏统一的标准。针对社会反映强烈的侵害用户权益等问题，提出本标准。

本文件计划规定APP开发者在开发自动化决策算法及使用过程中，为保护用户权益应满足的要求。 本标准适用于APP开发群体中负责进行APP自动化决策算法建模及使用者。 主要内容包含算法收集、个人信息使用、用户画像、算法推荐、定推功能、算法歧视、弱势群体权益保护等内容。

国内外标准情况： 目前，国际标准化组织在人工智能安全、伦理、隐私保护等领域的安全相关标准大多仍处于研究阶段。2017 年，人类未来研究所发布的《阿西洛马人工智能原则》,旨在确保AI为人类利益服务。2019年3月，欧盟网络信息安全局（ENISA）发布了题为《建立网络安全政策发展框架——自主代理的安全和隐私考虑》的报告，旨在为欧盟成员国提供一个安全和隐私政策发展提供框架，以应对日益普及的AI应用。 近年来,我国开始重视对算法的规制。2018年7月1日,我国首个人工智能深度学习算法标准《人工智能 深度学习算法评估规范》发布,目的是发现深度学习算法中影响算法可靠性的因素并给出提高算法可靠性的活动建议;8月31日,全国人大常委会通过的《中华人民共和国电子商务法》第十八条、第四十条首次明确了搜索引擎领域算法经营者的基本义务,包括提供不针对个人特征选项的义务、提供搜索算法自然结果的义务。2019年,国家在算法规制领域持续发力。10月8日,文化和旅游部发布的《在线旅游经营服务管理暂行规定(征求意见稿)》禁止在线旅游经营者利用定价算法实施大数据“杀熟”。 本标准在技术框架和内容的设计上，一方面来源于实际应用，另一方面与相关国际国内标准在技术内容上协调一致。 本项目未发现有知识产权问题。