数智时代的数据安全之道

随着人工智能、云计算、物联网等前沿技术的加速融合，我国数字经济规模持续扩大，数据要素市场化配置改革迈入深水区，数据流通与价值释放呈现指数级增长态势。然而，伴随而来的黑客攻击技术迭代、人工智能应用的数据污染、跨境数据流动的主权争议等安全问题日益凸显，对个人隐私、企业利益乃至国家安全构成严重威胁。

2022年4月，由中共中央宣传部、中央国安办组织编写的《总体国家安全观学习纲要》出版发行，将数据安全和人工智能安全列为新时代国家安全的新疆域。如何在保障安全底线的前提下充分释放数据要素价值，如何在防范传统风险的同时有效应对人工智能时代涌现的新型挑战，已成为当前数据安全治理必须回应的核心命题。

新时代数据及其安全理解

在人工智能浪潮下，数据不仅是基础资源，更跃升为与大模型、算力深度绑定的关键变量，其价值释放模式正经历深刻变革。

在政策引导、技术突破与产业迭代的共振下，新时代数据显现出三大特征。一是数据作为新型生产要素的地位得到制度性确认。国家层面相继出台数据基础制度顶层设计，明确数据在产权归属、流通交易、收益分配及安全治理等方面的制度框架，推动数据从“资源”向“资产”进而向“资本”转化。二是数据成为人工智能基础要素中的关键。大模型及算法的训练优化、算力的精准调度均高度依赖海量多维高质量数据集，在人工智能要素体系中，高质量数据集已成为支撑模型训练和算力效能释放的“关键要素”。三是Token（以下简称“词元”）作为数据基本单元的新维度正在形成。词元作为大模型解析信息的最小单元，兼具计量、定价、交易三重属性，涉及算力、数据、算法、大模型应用等各环节，其调用量成为衡量大模型活跃度和产业价值的关键指标。

新时代数据安全的内涵已超越传统的数据本身及其处理活动安全范畴，呈现出多维交织、系统耦合的立体化特征。

一是总体国家安全观视角下的数据安全。在总体国家安全观指引下，数据安全的内涵呈现出系统性、关联性特征。数据安全与政治安全、经济安全、社会安全、文化安全等领域的关联日益紧密，数据泄露可能导致关键信息基础设施瘫痪，数据滥用可能造成认知安全风险与社会公平失衡，数据跨境流动不当可能威胁国家主权。

二是数据要素流通机制下的数据安全。数据要素市场化配置改革深入推进，数据安全从“静态防护”全面转向“动态治理”。《国家数据基础设施建设指引》明确“数据采集、汇聚、传输、加工、流通、利用、运营等多样化活动，涉及多方主体、多个环节，需要在开放环境下对数据进行整体、动态保护”。可信数据空间建设、公共数据授权运营加速推进，“数据要素×”行动全面实施，均要求安全机制内化于数据流通链条，实现从边界防御向内生安全、从封闭保护向开放可信环境的范式转换。

三是个人信息保护制度下的数据安全。《中华人民共和国个人信息保护法》及相关配套规章的落地，将公民数字权益保护提升至法治化新高度，强调在对个人信息类数据开发利用时，要严格落实知情同意、最小必要、分级分类等原则，尤其对敏感个人信息要加强保护。在用户画像生成、精准营销、自动化决策等高频应用场景中，要平衡商业创新与隐私边界，防范用户画像滥用、信息茧房及删除权落实不到位等风险，确保个人在数字空间中的尊严、自由与财产不受侵害，夯实数字社会治理的民心基础。

数智时代数据安全风险

随着数智化转型的纵深推进，数据全生命周期活动与流通利用场景交织叠加，在释放数据价值的同时，衍生出复杂多变的安全风险。从数据收集、传输、存储、加工、使用、提供、公开与删除等基本处理活动到数据交易与跨域交互，违规滥用、数据投毒、技术对抗等新旧威胁丛生。

一方面，数据处理活动安全值得高度重视。

数据收集活动安全。智能化终端与泛在感知设备的普及使数据收集呈无感化、规模化趋势，超范围收集、隐蔽抓取、欺骗授权等违规行为导致多重风险叠加。比如，在互联网广告领域，互联网平台告知不充分、过度收集个人信息的通报屡见不鲜；在生成式人工智能服务领域，通过爬虫技术采集海量训练数据现象频发；在间谍渗透领域，境外情报机关常通过“买”“聘”“诱”“骗”等方式获取数据，以上情形极易触碰个人信息、知识产权、商业秘密保护红线，或对国家安全构成严重威胁。数据收集环节的合规性不足，不仅侵害数据主体的合法权益，更可能为后续的数据处理活动埋下系统性隐患。

数据传输存储活动安全。在云网融合与物联网广泛普及的背景下，数据在跨域传输与分布式存储中的链路劫持、中间人攻击与访问控制失效威胁放大，风险传导路径更加多样。比如，智能体实时连续数据流的多向传输，扩大了攻击时间窗口和空间范围；在工业领域，敏感级别较低的单个工厂研发设计、生产制造数据汇聚存储后，经关联分析可得到产业链核心技术自主率图谱、原材料产能等高敏感衍生数据，原有存储加密措施无法提供有效保护。数据传输存储环节是业务场景安全中不容失守的核心阵地，其安全性不仅关系数据本身的机密性、完整性和可用性，更可能直接影响业务连续性与用户信任。

数据加工使用活动安全。数据加工使用阶段的风险呈现隐蔽化、派生性与技术对抗性特征，核心挑战从静态的访问控制转向计算过程及其派生结果的可控性，未经合法性审查的算法训练、动态脱敏不彻底、越权组合分析等违规行为，极易导致重标识攻击、隐私推断与数据滥用。比如，在金融数据服务领域，将公开企业信息二次加工组合为涉贷标签并出售，触碰侵犯公民个人信息红线；在具身智能领域，数据投毒和对抗样本攻击可能导致电子电气系统的功能安全和预期功能安全风险，给物理世界的环境及人身安全带来危害，且此类风险难以在测试环节被全面识别。数据加工使用环节安全不仅直接侵害数据主体权益，更可能引发系统性安全事件，是数据全生命周期治理中承上启下的关键防线。

数据提供公开活动安全。数据跨主体提供与对外开放使得风险从静态存储转向动态流转边界外，过度授权、非受控流转及多源数据关联分析极易引发连锁性数据泄露或触碰合规底线。比如，在数据委托或共同处理场景，委托方、受托方、共同处理方交互链条长、数据安全水平参差不齐，越权访问、数据篡改与窃取、跨境合规冲突等隐患极大；在开源社区生态，受污染的开源软件包被植入恶意代码，导致下游用户使用时敏感数据被泄露；OpenClaw类智能体安全设计存在致命缺陷，导致全球数十万个实例暴露在公网。数据提供公开环节的管控不当直接触发源头性数据滥用和弥散性数据泄露，该环节是阻断风险外溢、维护流通秩序的核心枢纽。

数据删除活动安全。数据删除面临“应删未删”与“恶意破坏”的双向风险交织，超期留存易引发合规事件，而权限滥用或智能体失控则造成不可逆的数据毁灭。比如，在教育、卫生健康领域，违反《中华人民共和国个人信息保护法》中关于保存期限的规定，个人信息未及时删除或匿名化，若被黑产用于精准诈骗或身份冒用，将直接威胁未成年人人身和财产安全；在政企信息化服务外包场景，离职人员利用未注销权限批量清除核心档案，导致相关业务瘫痪。数据删除环节不仅关系因数据残留触发监管重罚，也会因毁灭性操作斩断业务连续性，是平衡合规留存与安全销毁、闭环数据生命周期的最终防线。

另一方面，数据流通利用安全同样不容忽视。

数据交易安全风险。数据交易是数据要素市场建设的核心环节，其安全制约着数据交易市场的规模与活跃度、数据要素的价值释放。在公共数据授权运营过程中，定价机制不透明、权责边界模糊、运营主体资质参差不齐，易引发国有资产流失或数据垄断风险；社会数据交易则面临脱敏不足引发信息滥用、确权授权不清引发侵权、估值定价不统一扰乱市场秩序等风险。与此同时，黑灰产与非法数据买卖仍暗流涌动，虚假标注数据与隐蔽的数据穿透式调取行为对正规市场造成严重冲击。

数据交互安全风险。数据交互是数据流通利用的主要方式，其安全贯穿多元场景。在组织内部跨部门交互场景中，权限粗放管理与员工操作失误易引发内部数据滥用与越权访问；在产业协同的数据交互场景中，供应链上下游数据接口标准不一、第三方服务商安全“水位”不一，协同链路脆弱性成为攻击者横向渗透的跳板；在政务数据开放共享场景中，“数据孤岛”与“过度共享”并存，跨部门流转缺乏细粒度管控，易造成敏感政务信息外泄或合规责任推诿。

数智时代数据安全治理挑战

面对日益多元的数据安全风险，现行数据安全治理体系暴露出多方面适配性不足。法规制度前瞻有限、治理路径依赖明显、技术与标准供给滞后、产业供需错配等挑战相互交织、彼此强化，成为当前数据安全治理必须突破的关键瓶颈。

一是新兴领域法律法规有待完善。我国数据安全法律法规体系近年来取得了长足进步，已初步形成以《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》为核心的顶层法律框架。在重点领域层面，工信领域已构建起“1+5”政策制度体系，在金融领域形成了中国人民银行与国家金融监管总局“双线平行监管”的数据安全制度体系。与此同时，以人工智能技术为代表的第四次工业革命加速演进，技术的演化周期已缩短至数月甚至数周，新型应用场景给全栈风险识别与管理、现行法律法规体系的适用性带来了严峻挑战，特别是生成式人工智能、智能体、具身智能等新技术新应用的快速迭代，使法律法规滞后性问题越发凸显。当前，重点行业正加速出台上位文件，比如国家金融监督管理总局6月18日出台了《关于银行业保险业人工智能安全开发应用的指导意见》，率先明确“应将人工智能数据安全纳入企业数据安全管理体系，严格落实数据分类分级保护要求”“规范开发过程和数据访问权限，防范数据投毒，完善数据脱敏规范，避免使用可直接识别出个体的数据”“姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露”“严格管理外包过程中的数据安全”等数据安全新要求，为人工智能安全开发应用与全链条数据合规治理提供了遵循和指引，但国家层面高位阶专门立法缺位、跨域协同监管规则碎片化以及适配技术快速迭代的前瞻性制度供给有待加速完善。

二是数据安全治理思路与路径亟待转变。当前，数据安全治理思路面临显著的路径依赖与范式滞后挑战。具体而言：责任界定面临主体泛化与链条断裂难题，传统“技术部门负责”或“安全部门负责”的单一归责模式难以适配人工智能应用中涉及芯片、算法、平台及终端等多方参与者的复杂情形，导致权责边界模糊、协同治理与事故追责陷入困境；合规实践深陷被动应付的陷阱，企业普遍将数据安全视为应对监管的外部约束而非内生业务需求，安全机制与底层架构脱节，防护体系往往流于形式且滞后于新型技术风险；权限管控遭遇粗放僵化的执行瓶颈，在数据高频流转与多主体协同场景下，传统静态角色访问控制难以支撑精细化治理，权限过度分配、回收滞后与越权访问频发，缺乏基于实时上下文与风险演化的动态自适应能力；分类分级陷入标签固化的管理困境，数据的敏感属性与风险价值在多源融合、算法衍生及跨场景流转中持续跃迁，既定策略难以动态映射真实风险状态，极易引发防护资源错配与隐性数据泄露。

三是安全技术创新推广与标准牵引严重滞后。面对大模型幻觉诱导、深度伪造诈骗、自动化渗透、词元资产窃取、智能体技能越权等新型攻击手段，传统防火墙、加密与审计技术防护效能锐减。在核心技术层面，大模型内生安全机制、具身智能行为边界控制、词元级数据加密与技能级访问隔离等前沿方向仍处于实验室探索阶段，缺乏成熟的工程化解决方案。当前，部分地区在智能体数据安全层面先行先试，创新一体化解决方案。比如，广东省政务服务和数据管理局统筹打造的全国首个省级政务智能中枢“湾擎”，基于全域沙箱隔离设计安全框架，严格落实政务数据不出域，同时配套词元级全链路操作留痕机制，每一次调用、数据读取、内容生成均可溯源审计，为全国省级政务人工智能平台树立数据安全管控标准。但也应客观认识到，隐私计算、联邦学习等新兴技术虽具潜力，在大规模商用中仍面临性能瓶颈、成本高昂与互操作性差的障碍。同时，配套标准规范研制进度缓慢，技术落地缺乏标准牵引，导致出现企业“不敢用、不会用”现象，抑或“有技术无标准、有试点无规模”的尴尬局面，以智能体Skills（以下简称“技能点”）安全为例，人工智能智能体可执行的任务类型日新月异，亟须系统化的技术防护方案和评估标准。

四是产业优质供给与动态需求错配矛盾突出。数据安全市场需求从“合规驱动”转向“实战赋能”，产业供给端呈现结构性失衡。技术层面，底层核心安全引擎自主可控程度有待提升，碎片化安全产品难以适配云原生、边缘计算、多模态人工智能等新型架构，一体化、场景化解决方案稀缺。产品层面，市场同质化严重，缺乏覆盖全生命周期的定制化解决方案与实战化安全运营服务，缺乏轻量化、SaaS化的普惠型产品，中小企业面临安全工具“用不起、用不好”的困境。服务层面，高端咨询、安全演练、应急处置等专业服务供给不足，不少评估机构仅凭“评定”“评价”类能力证书便对外宣传并开展服务，严重冲击了基于国家认证认可制度的正规认证机构队伍，服务质量堪忧。人才层面，兼具数据科学、密码学、法律、风控与业务理解能力的复合型人才严重短缺。供需错配导致大量企业陷入“重建设轻运营、重采购轻实效”的循环，无法真正将安全能力转化为业务韧性，难以应对倍数级增长的安全需求，制约了数智经济整体安全水平的提升。

新时代数据安全治理路径思考

破解数智时代数据安全治理面临的复杂挑战，必须坚持以总体国家安全观为统领，深刻把握统筹发展和安全的内在逻辑。立足我国治理实践，需系统构建以法治为基、技术为擎、责任为要、协同为盾的新时代数据安全治理体系。

维护国家安全与保障数字经济发展是基本出发点。新时代数据安全治理必须深刻把握安全与发展的内在逻辑，统筹三重基本关系。一是统筹数据安全与国家安全。将数据安全深度嵌入总体国家安全体系，强化对关系国计民生、关键信息基础设施的重要数据、核心数据保护，筑牢国家数字主权屏障。二是统筹数据安全与数字中国建设。将安全要求前置融入数据基础设施布局、数据要素市场化改革与行业数智化进程中，确保数据“供得出、流得动、用得好、保安全”，推动能源、医疗、交通、司法等高价值数据在安全可控前提下赋能实体经济，以高水平安全护航高质量发展。三是统筹数据安全与个人权益保护。坚持以人民为中心，在促进数据合规流通的同时，严守个人信息保护底线，构建政府监管、企业履责、公众参与的利益平衡机制。唯有坚持发展与安全并重，方能避免“一管就死、一放就乱”的治理困境，实现国家安全、产业跃升与个人权益保障的同频共振。

完备政策法规与分类监管体系是根本遵循。法治是数据安全治理的基石。需加快制定人工智能、智能网联汽车、低空经济、数据资产化等新兴领域专项法规规章，推动现有法律法规向“场景化、颗粒化、可操作化”修订升级。在监管实践中，可确立两项原则。一是坚持以“底线、红线、极限”原则规制的基础性安全制度。将数据分类分级保护、监测预警、应急处置、数据出境安全、数据安全审查及对等反制等制度的落实，作为数智经济发展的不可逾越底线、监管执法的刚性红线，并针对极端灾害、国家级网络战等极限场景制定数据灾备、断网隔离与快速恢复预案，确保关键系统韧性与业务连续性。二是坚持以“包容、审慎、敏捷”原则监管人工智能时代新技术、新应用、新场景下的数据流通。推广“监管沙盒”与试点容错机制，避免“一刀切”扼杀创新活力；依托《网络数据安全风险评估办法》等专项法律法规，建立常态化风险评估与整改闭环管理机制，推动监管从“事后惩戒”向“事前预防、事中干预”转变。

建强核心技术能力与自主化技术底座是关键支撑。技术防护是抵御AI新型数据风险的关键抓手，需同步配套法治约束、常态化监管与企业主体责任落实，构建技术、制度双重防护体系。一是深化人工智能赋能数据安全。利用大模型技术构建智能威胁情报分析、自动化漏洞挖掘、异常行为自主判定与智能响应编排平台，实现从“人工研判”向“智能驱动”的跃升。二是加快关键技术与重点领域的数据安全标准研制。聚焦行业级数据分类分级、重要数据动态识别、智能体与具身智能数据安全、词元处理活动安全、技能点安全等空白领域，推出系列国家标准与行业规范，以标准牵引技术落地与快速迭代。三是鼓励可信数据空间、联邦学习、安全多方计算、同态加密等技术应用。构建“数据可用不可见、用途可控可计量”的新型流通基础设施，破解数据流通与安全保护之间的矛盾，基于“原生安全”理念推动安全能力从外挂堆砌向“云网边端”一体化内生架构转变。四是全面推进信创体系纵深落地，夯实自主可控的底层技术基座。坚持将数据主权与安全防线构筑于国产化软硬件之上，加速推进国产芯片、操作系统、数据库及中间件在关键信息基础设施中的规模化替代，彻底消除“黑盒”隐患与供应链断供风险。

压实重点领域与重要企业安全责任是重要抓手。治理效能的落地关键在于责任传导，重点在于两方面聚焦。一是聚焦在工业、电信、金融、交通、卫生健康、教育等行业数据密集且敏感度高的重点领域。需结合行业特性制定差异化防护指引，实施全链条闭环监管。精准刻画行业数据风险图谱，落实“一业一策”防护。鼓励各行业主管部门加快探索设立首席数据官（CDO）及数据安全专职机构，将数据安全防护指标纳入负责人任期审计与经营考核体系。二是聚焦产业链“链主”型平台企业、规上企业及关键信息基础设施运营者等重要企业。严格落实党委（党组）网络安全工作责任制，将数据安全纳入企业战略考核与高管问责体系。坚决贯彻“谁管业务，谁管数据，谁管数据安全”的权责对等原则，厘清业务、技术、安全、法务、风控等部门的职责边界，打破部门壁垒，杜绝新兴领域的“责任孤岛”或“管理真空”，形成层层压实、环环相扣的责任链条。

健全协同治理机制是核心保障。数据安全治理是一项系统工程，需构建政、产、学、研、法、用多元共治生态。一是推动有为政府与有效市场协同。政府强化规则供给与执法监管，市场发挥资源配置与技术孵化优势，通过政府采购、税收优惠激励安全服务采购。二是强化科技创新与产业创新联动。依托国家实验室、各级重点实验室与龙头企业组建联合攻关体，打通基础与应用研究到工程化应用推广的成果转化通道。三是深化复合型优质人才培养。推动高校跨学科课程建设，建立校企联合实训基地，培养懂技术、通合规、精业务的复合型人才队伍，完善网络安全与数据安全人才评价与流动机制。四是促进产品、服务与解决方案的有效供给。规范培育第三方安全评估、合规审计与数据保险机构，发展专业化安全运营服务，降低中小企业安全门槛，形成全社会共建、共享、共治的数据安全命运共同体。五是积极参与联合国、二十国集团、亚太经济合作组织等多边框架下的数字治理规则制定。推动《全球数据安全倡议》落地，在尊重数据主权基础上促进跨境数据有序流动，构建开放、公平、非歧视的全球数字营商环境。

构建发展与安全并重的数据安全治理体系，需要牢牢把握维护国家安全与保障数字经济发展的辩证关系，以法治为纲划定行为边界，以自主创新夯实技术底座，以权责明晰激活主体动能，以多元协同凝聚治理合力。唯有如此，方能在保障安全的前提下真正释放数据要素乘数效应，在应对技术风险的同时拥抱人工智能技术创新机遇，以高水平数据安全治理护航中国式现代化行稳致远。

（工业和信息化部电子第五研究所人工智能中心数据安全室主任 魏光辉；本文通信作者为工业和信息化部电子第五研究所人工智能中心主任 孔德智）

编辑：陈希琳