西湖论剑直击大模型风险治理 共议构建数据xAI发展新格局

以“数智无界安全共生”为主题的2025中国数谷·西湖论剑大会5月10日开幕，汇聚政、产、学、研、用各界精英，聚焦数据要素市场化配置改革与人工智能深度融合等核心议题分享前瞻洞见，发布多项成果，启动系列重要合作，共同发起数据要素×人工智能赋能高质量发展倡议，为数字经济高质量发展注入强劲新动能。

“将大模型风险评估检测列为关键任务”

活动期间，不仅举行主论坛、“AI智能体应用与安全治理论坛”“数据安全流通论坛”两场平行论坛，而且举办低空安全、重点行业AI应用与安全防护、运营商可信数据空间暨数据安全、金融行业AI与数据安全、网络空间智能计算及空间表达、人工智能赋能产业、AI重塑企业数字化转型及安全新格局、商用密码等专题研讨会。

在主题报告环节，第十四届全国政协委员、经济委员会委员、中国网络空间安全协会理事长赵泽良等多位重量级嘉宾，围绕数据要素的价值释放、人工智能的创新突破以及数字时代的安全共生等核心议题进行分享。在《数据要素化面临的挑战》主题报告中，中国计算机学会原理事长、CCF计算机博物馆馆长梅宏表示，当前我国数字化转型处于起步阶段，数据资产相关法律还未明确，资产地位没有确立，权属确权没有形成共识，流通交易也缺少规则，利益分配相应机制不够充分，还要面对安全隐私带来的系列问题。数字化转型就是需要构建以数据为中心的组织体系和运行模式。

“我们既要看到人工智能带来前所未有发展机遇，也要看到它带来前所未遇风险挑战，必须将大模型风险评估检测列为关键任务，让大模型在安全可控的前提下，才能实现敢用、可用、好用”，安恒信息董事长范渊认为AI智能体发展有条件自主、高度自主和完全自主三重境界，他们通过智能体赋能安全运营、安全监管，重构威胁情报共享和协同防御体系，在实战中实现从传统的被动响应转向主动防御，通过智能体生态共创，结合各自专业领域的业务知识，共创出兼具创新与实用的智能体，在技术、业务、成果上实现共赢。

构建数据要素×人工智能发展新格局

在全球数字化浪潮奔涌、数据要素战略价值日益凸显、人工智能技术加速迭代升级的时代背景下，“数据要素×人工智能”的深度融合已成为驱动全球科技革命与产业变革的核心力量。

在大会上，浙江省委省政府、杭州市委市政府以及国家数据局数字科技和基础设施建设司，中国网络空间安全协会，中国电子信息产业发展研究院相关单位共同发起“数据要素×人工智能赋能高质量发展倡议”。南都大数据研究院注意到，此倡议在“深化制度创新、加快技术创新、推动组织创新、支持场景创新、重视生态创新”五个方面着力构建开放、融合、协同、安全的“数据要素×人工智能”发展新格局。

此次大会还发布海洋经济行业可信数据空间、“三数一链”国家数据基础设施杭州试点任务阶段性成果，以及《安全智能体魔方：成熟度模型评价研究报告》。多项战略合作成功启动，包括CCF计算机博物馆与安恒信息基金会签约、工信部电子第五研究所与安恒信息签订战略协议等，携手共筑数字经济发展新优势。

据介绍，海洋经济行业可信数据空间通过关键技术构建支持可信管控、资源交互、价值共创的数据流通利用技术体系，已汇聚包括海洋实测、遥感、预报、产业及综合管理等核心领域的277类高质量、权威海洋数据资源，构建“空天地海”一体化数据资源体系。而且，成功开发超40个创新应用场景，并搭建海洋时空数据处理基座，搭建海洋经济可信数据空间标准规则体系，有力支撑跨主体数据的安全有序共享与高效利用。

在“人工智能新纪元”圆桌对话中，浙江大学求是特聘教授、国际联合学院副院长吴健，上海人工智能研究院首席科学家闫维新，安恒信息CTO刘博等嘉宾，围绕高质量数据对AI发展关键作用、数据基础设施演进方向、AI应用责任伦理界定等前沿课题，碰撞思维，为行业把握技术变革机遇提供战略参考。

智能体推动安全运营立体化可持续

当前，全国一体化算力网络、数据交易平台、数据要素市场等数据基础设施建设正加速推进。与此同时，诸如数据流动安全规则、数据流通安全技术、数据滥用风险等问题仍广泛存在，提升数据安全治理能力是促进数据要素合规高效安全流通的关键前提。

“没有安全，流通就无从谈起；没有流通，数据就难以赋能千行百业”。在数据安全流通论坛上，杭州市政府副秘书长、杭州市数据资源管理局局长徐青山提到，当“数据要素×”效应开始显现时，需要重构安全体系，推动安全能力、数据流通、治理机制等方面的进化、转型和跃迁。

“数据要素化时代，数据流通规模与速率激增，静态安全防护已无法满足需求，构建贯穿数据全生命周期的动态数据安全体系迫在眉睫”，在安恒信息董事长范渊看来，从静态到动态数据安全体系升级，对安全技术提出更高要求，而AI正是破题关键。AI能深度解读数据、精准理解业务、洞察行为意图，基于内容匹配企业业务，依业务判断数据资产重要性，结合日志与历史行为分析运维人员意图，从海量操作中精准揪出异常。在更广泛安全运营场景中，智能体赋能安全运营的“点-线-面-体”，正推动安全运营从“点状应急”向“立体化可持续”模式转型，为政府与企业提供高质量的安全服务。

在AI智能体应用与安全治理论坛上，中国网络空间安全协会秘书长郝晓伟提到，技术的狂飙猛进也带来前所未有的治理挑战，大模型的黑箱效应侵蚀着决策的可信度，具身智能的行为失控威胁物理安全，数据滥用与算法偏见更可能引发系统性的风险。不管是政策法规还是行业自律的文件，密集落地的规章制度形成了我国构建人工智能治理的中国范式，标志着我国正以敏捷治理的理念，走出一条技术创新与安全可控并重的发展之路。