银铺子金融APP下载 AI 智能体“全能开挂”，2025数商大会普陀分会场热议筑牢数据安全防火墙

上能帮企业自动化处理流程、解锁数据价值，下能适配多元场景降低数字化门槛，如今的AI智能体堪称数字时代的“全能选手”。但超能力也需配上“安全铠甲”，智能体在跨域调用数据、联动各类系统的同时，也让数据泄露、模型攻击等风险暗藏其中——安永和上海赛博网络安全产业创新研究院联合推出的《2025全球可信AI治理与数据安全报告》显示，74%的受访企业对AI应用满心期待，却仍被合规风险揪着心。

一边是“万物皆可智能体”的效率狂欢，一边是数据“不愿共享、不敢共享、不能共享”的现实困境，这要如何破局？在2025全球数商大会普陀分会场上，与会嘉宾提出了构建“智能体赋能+全链路防护”的治理框架。

从积极的角度来看，安全防护体系的升级与AI智能体的发展正呈现双向赋能态势。这种顾虑催生了“AI For Security”与“Security For AI”的双向奔赴模式：一方面，AI技术赋能安全防护，通过威胁预测、智能合规、自动化响应等功能提升风险管控效率；另一方面，针对AI特有风险建立防护体系，包括提示词攻击防御、模型投毒检测、智能体行为监控等。

在实际业务中，迈富时合伙人、CMO尹思源把智能体比喻为数字员工。它们（Agents）能够自主解析复杂的业务指令，并将其分解为可执行的任务流，实现从策略生成到落地推进的自动化闭环。尹思源以迈富时服务的企业实际案例举例，在营销与销售环节，AI Agent能够深度理解用户意图，并据此生成高度个性化的沟通策略与创意内容，实现与用户的精准互动和高效转化。在客户服务领域，具备强大语义理解能力的服务Agent可以自主处理复杂的咨询，提供体贴入微的产品建议与解决方案。在企业经营层面，数据分析Agent则能深度融合业务知识，为管理者提供实时、前瞻的决策支持，将数据洞察转化为清晰的行动路径。

但是“卖家秀”不等于“买家秀”，企业需要在技术上大量投入，比如编排算法，构建知识库，实现不同的模型调用。在企业场景中，资源（模型或数据程度）的配置会根据不同的部门需求进行分配，还需考虑给予多少token以及如何管理。除了活跃度、消耗量等企业的关注重点，还要确保数据安全不被非法使用。

“风险管理是背后的重要一环，管不好就像在高速公路上很难踩刹车。”尹思源在接受第一财经记者采访时表示，企业级应用不光要完成Agent开发，还要加上企业级应用能力，包括企业级安全、权限、运维、版本等多个维度。迈富时在智能体开发平台的基础上也融入了这些企业级应用能力。

目前，企业仍需遵循原有的管理流程，智能体可以帮助完成部分节点，自动识别和录入信息，优化流程。将来，智能体可能可以自动生成新的流程，但目前来看，现有流程仍会存在，只是逐渐转变为智能化编排模式。

“AI智能体通过与现有SaaS产品的结合，提供更多的功能并以更低的成本帮助企业适应时代浪潮，提高效率。对于大部分企业来说，目前可能还未完全准备好完全使用，但智能体中台的出现降低了门槛。”尹思源认为，未来三年，AI原生应用将是大势所趋，人们只需要提出约束条件，而不再需要规定具体的流程。

这意味着对数据安全的更高要求，以及还需破解实践中的多重困境。网络安全公司也在提出以AI智能体为核心的解决方案，通过对接企业静态数据库与动态流量，自动化完成数据资产识别、分类分级与风险监测，再联动防火墙等现有安全组件实现闭环处置。

深信服上海区数据安全产品总监王喆认为，AI智能体的出现让信任构建更具效率，数据安全大模型能实现90%以上的API和字段标签分类分级准确率，相比之下，人工每日仅能处理500个字段，而AI借助两张4090D显卡单日可处理两万字段，效率实现质的飞跃。

与此同时，政府层面的制度设计正在为行业发展提供了底层支撑。上海市数据局总工程师刘迎风表示，上海正构建“发展与安全并重”的治理体系，城市级可信数据空间已吸引近300家企业入驻，《上海市公共数据资源授权运营管理办法》建立了全链条安全责任体系。这些制度创新与企业技术探索形成合力，推动数字信任与安全防护从单点突破走向体系化发展。

从企业级实践的落地到制度环境的完善，一条“技术创新+实践验证+制度保障”的发展路径已然清晰。当信任成为数据流通的前提，才能真正激活数据要素的乘数效应，为数字经济高质量发展注入持久动力。

举报第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者