信通院云大所郭雪：构建“12345”责任共担体系，筑牢AI云数据安全防线

　　由全球数字经济大会组委会主办，中国信息通信研究院、中国通信标准化协会承办的全球数字经济大会—云智算安全论坛暨第三届“SecGo论坛”在京召开。

　　中国信息通信研究院云计算与大数据研究所开源和软件安全部主任郭雪表示，“云+AI”成为新一代人工智能发展的重要驱动力，正在重构云服务产业格局，AI云服务成为用户开发和应用人工智能技术的首要选择。

　　与此同时，数据是AI云场景的引擎和燃料，支撑大模型的训练、推理与落地。因此，海量数据在AI云端的全生命周期安全成为当下进一步促进人工智能发展与AI业务平稳运行的重要条件。

　　基于责任共担的“12345”AI云数据保护体系

　　郭雪表示，AI云服务场景多样，参与者众多，不同服务场景责任划分存在差异，做好数据安全的核心是明确责任主体，划分责任边界，确认保护对象。为此，应协同参与各方构建具有1个明确目标、2个沟通机制、3类参与角色、4种服务场景、5个保护对象的AI云数据保护体系。

　　“1个明确目标”即构建基于多角色责任共担的AI云数据保护体系;“2个沟通机制”即AI云服务商与AI云服务用户、AI云服务用户与大模型提供者之间的信息传递机制;“3类参与角色”包括AI云服务商、AI云服务用户、大模型提供者;“4种服务场景”包括智算基础设施资源服务、大模型平台服务、公有云SaaS服务、大模型训推一体机;“5个保护对象”包括个人信息、上传数据、模型数据、生成数据、日志数据。

　　郭雪进一步表示，构建基于责任共担的“12345”AI云数据保护体系需要充分考虑在不同场景下，AI云服务商、大模型提供者、AI云服务用户对AI云计算环境组成部分的可见性与可控性不同，相同角色在不同场景中受到的法律法规约束也存在差异，在进行AI云服务数据保护责任范围划分时应根据AI云服务场景进行分类讨论。

　　因此，AI云服务商、AI云服务用户、大模型提供者三方应携手共建AI云数据安全体系，云服务商多维度强化AI云上数据安全底座，大模型服务商保障模型数据安全，客户侧主要依托数据安全治理方法论持续推进治理工作。

　　技术、标准、生态，共创更安全的AI云环境

　　郭雪介绍，这一背景下，中国信通院发起“云上数据暴露面梳理·三步走赋能计划”，旨在帮助云用户梳理上云后数据安全风险。第一步,全面梳理企业云上资产，形成云上关键风险点清单，按照规则赋予权重;第二步，按资产梳理云上数据安全风险事件，按照规则赋予风险事件权重以及其发生概率权重;第三步，基于上述三点权重推演基于资产的云上数据暴露面。

　　系统性开展云服务用户数据保护评估。中国信通院牵头将我国数据安全相关法律法规与用户实践相结合，制定了YD/T3954-2021《云服务用户数据保护能力参考框架》行业标准，并依据标准面向云服务商与云服务用户展开云服务用户数据保护护航计划，计划旨在从根本上保护用户上云后的云上数据安全。当前共有16家企业(共计29个云平台)通过评估。

　　启动可信AI云服务用户数据保护合约签署计划。中国信通院牵头编制《AI云服务用户数据保护协议》，面向AI云服务商提供的SLA格式进行规范，以SLA为核心，搭建AI云服务商与用户间的信任桥梁，增强用户信心，促进AI云服务行业健康可持续发展。同时中国信通院将携手通过评估的企业共同签署“可信AI云服务用户数据保护计划”向用户承诺其数据安全与主权性将得到妥善保护，与用户形成信任关系。

　　强化一体机数据保护能力，提升AI应用私有化部署行业信心。大模型技术正加速向政企端场景渗透，本地化部署的大模型一体机成为央国企与政务场景智能化的核心载体。然而一体机的数据处理体系同样存在存储介质暴露、运行环境复杂、模型权限失控等安全挑战，用户对大模型一体机端侧数据保护能力存在顾虑。中国信通院联合头部云厂商与安全厂商，共同编制《大模型一体机数据保护能力要求》，帮助大模型一体机服务商规范数据安全能力，打消用户使用顾虑。

　　面向未来，郭雪表示，应从技术、标准、生态三方面共创更加安全的AI云环境。技术方面，零信任+AI将持续激发安全技术创新活力，为企业核心数据安全保驾护航;标准方面，构建国际化的AI云数据安全责任共担标准体系，赋能一带一路沿线国家数据跨国界流通;生态方面，引入网络安全保险，闭环云上数据安全保护。