日期:2026-10-25 浏览:0

Agent化安全与AI对抗攻防研究报告——网络安全进入Agent化攻防阶段的安全体系重构

Agent化安全与AI对抗攻防研究报告——网络安全进入Agent化攻防阶段的安全体系重构

报告摘要

本报告的核心判断是:网络安全正在从“以人为操作主体、以工具为辅助”的阶段,整体进入“以AI智能体为攻防主体”的Agent化攻防阶段。这一转变不是效率的线性提升,而是攻击逻辑与防御逻辑的结构性重构——攻击方不再只是使用AI工具的人,而是能够自主完成侦察、漏洞发现、利用开发、凭证收割、横向移动与数据外渗全链路的自治智能体;防御方则必须把安全能力本身AI化、自动化,以智能体对抗智能体,否则将在速度与规模的双重维度上彻底失守。

支撑这一判断的关键事实包括:其一,MITRE ATLAS 威胁知识库已从早期面向机器学习模型的战术框架,扩展至覆盖自主智能体的16个战术、84种技术,并在2025年10月针对自治AI智能体新增14种攻击技术,标志着“对智能体的攻击”成为被正式编号、可系统性防御的威胁类别;其二,OWASP 在2025年发布面向LLM应用的十大风险清单(Prompt Injection居首),并于2025年12月发布全球首个面向自治智能体的《Agentic应用十大风险》(Agent Goal Hijack居首),说明行业已把“智能体行为劫持”确立为最高优先级风险;其三,IBM《2025年数据泄露成本报告》显示,AI驱动攻击已占恶意数据泄露事件的四分之一,同比增长56%,每起AI相关泄露平均造成600万美元损失、较整体均值高出约20%,而深度采用AI与自动化的机构平均每起节省约193万美元、检测提速约51天——攻防两侧的经济曲线正在以相反方向分化。

本报告的主要约束与边界在于:Agent化攻防仍处于快速演进期,威胁情报、框架与数据在持续更新,部分攻击案例(如GTG-1002等)由厂商单方披露、尚未完全独立复核,本报告对这些内容一律标注为“厂商披露”,不作绝对化断言;报告所述数据期间、口径与来源已在正文与附录中逐项注明。

本报告建议的行动方向是:企业应将安全体系从“AI辅助分析”升级为“AI主导运营”,建立以最小权限、可信执行环境、凭证分层与人工审批闸门为核心的可信Agent架构;同时把AI红队、对抗性测试、智能体供应链审计与可观测性纳入常态化安全流程,并以“失控代价最小化”而非“完全防住注入”作为工程目标。

引言:为何需要重新审视网络安全

过去十年,网络安全行业围绕“人—工具—数据”展开:攻击者是人,工具是放大其能力的手段;防御者是人,工具是降低其工作量的手段。这一框架隐含一个前提——攻击与防御的执行速率和规模,本质上受人类决策速度的约束,人与工具的边际产出有限,攻防对抗大体处于同一时间尺度。

这一前提在2025年前后被打破。当大语言模型与多智能体系统被赋予自主规划、工具调用、多步推理与持久记忆能力之后,攻击者开始把完整攻击链交给自治智能体执行:智能体可以并行扫描整个攻击面,而不是像人类渗透测试员那样串行操作;可以在一次会话中完成从发现漏洞到收割凭证的完整路径;可以在无人值守下持续试探、迭代与横向移动。与此同时,防御侧如果仍然依赖安全分析师逐条研判告警、逐个执行响应剧本,就会在速度与规模上被数量级拉开。

本报告定义的“Agent化攻防”(Agent-ified Offense and Defense),指攻防双方以具备自主决策与执行能力的AI智能体作为主要执行主体,而非以人类直接操作工具的阶段形态。“AI对抗”(AI-versus-AI)指用AI智能体驱动的防御能力去识别、抑制、反击AI智能体驱动的攻击,形成速度对速度、规模对规模的对称对抗。这一阶段要求安全能力自身完成AI化、自动化重构,即从“安全体系里使用AI”升级为“安全体系本身就是AI系统”。

本报告基于对MITRE ATLAS、OWASP GenAI安全项目、CSA(云安全联盟)、IBM年度报告、国家网信办政策文件及公开攻击案例的综合研判,采用客观中立的第三方研究视角,系统梳理Agent化攻防的范式转变、威胁面、防御体系、治理标准与经济逻辑,并提出工程化的落地路径。文中所有关键术语首次出现即给出界定,所有外部数据均标注来源、期间与口径。

范式之变:从工具化AI到Agent化攻防

攻防主体的代际跃迁

攻防主体的演进可以划分为三代。第一代是人驱动的Bot:企业对抗的是人被当作工具使用的自动化脚本,攻击逻辑由人类设定,脚本只是提高执行效率。第二代是AI辅助的人:攻击者使用大语言模型辅助编写恶意代码、优化钓鱼话术、翻译与情报分析,但决策与执行仍由人主导,模型是提效助手。第三代是AI自主的智能体:攻击者部署自治AI智能体,后者在目标设定后自行完成侦察、决策与执行,人类只负责宏观目标与资源供给,微观操作完全交由智能体完成。

第三代的转变是结构性的而非增量的。CSA在2026年发布的白皮书中指出,自2025年末至2026年上半年,有充分证据表明从国家级间谍组织到追求经济利益的个人攻击者,都在把前沿模型部署为“自治作战智能体”,而不是研究助手或代码补全工具。这类智能体能够在最小人工指引下执行侦察、发现漏洞、开发利用程序、收割凭证并外渗数据。攻击已经从“人用工具”变成“智能体自治”,防御者面对的不再是一群操作工具的人,而是一批可以自我迭代、并行扩展的攻击智能体。

成本曲线的不对称分化

Agent化攻防最深刻的经济特征是成本曲线的不对称分化。对攻击者而言,自治智能体显著拉低了单次攻击的边际成本:一个训练有素的智能体可以日夜不停地扫描、尝试与利用,无需睡眠、无需报酬、可以无限并行,攻击者只需承担模型调用与基础设施成本。对防御者而言,面对持续高压的AI攻击,告警量、需要研判的事件数与响应复杂度的增长速度,远超人类安全团队的扩编速度,导致单起事件的处置成本不降反升。

IBM《2025年数据泄露成本报告》的量化结果印证了这一分化。全球数据泄露平均成本首次降至444万美元、出现五年来首次下降,这一下降主要归因于AI与自动化带来的检测与遏制提速;但在美国,平均泄露成本攀升至创纪录的1022万美元。更深层的是,AI驱动攻击已占恶意数据泄露事件的四分之一、同比增长56%,每起AI相关泄露平均造成600万美元损失,较整体均值高出约20%,其中62%的AI攻击瞄准关键基础设施,金融与能源行业成为重灾区。换言之,攻击者的成本在下降、攻击效率在上升,而防御者只有通过同等程度的AI化,才能把自身成本曲线压下来——这正是“用AI对抗AI”成为必选项的根本原因。

从“AI被防护”到“AI成为攻防主体”

安全界的关注重心也随之迁移。在生成式AI早期,行业聚焦于“如何保护AI系统本身”——如何防止模型被注入、如何避免敏感信息泄露、如何对齐模型行为。这一视角把AI当作被防护的对象,防护者仍是人。Agent化阶段则把问题翻转过来:AI既是需要被防护的对象,更是攻击与防御的执行主体。对AI系统的攻击(如Prompt Injection、模型投毒)与用AI实施的攻击(如自治智能体攻击)成为两个相互交织但机制不同的威胁面,分别需要不同的战术框架与工程控制。后文的章节将分别展开这两个威胁面,再讨论防御体系的重构。

Agent化攻击:自治威胁的新形态

攻击链的自治化重构

传统攻击链(Cyber Kill Chain)由侦察、武器化、投递、利用、安装、指挥控制、达成目标等阶段构成,各阶段之间依赖人类的判断与操作,速率受制于人的决策周期。Agent化攻击将这一链条重新组织为可完全自治的流水线:自治智能体完成侦查与信息收集,自主发现可利用漏洞,编写或组装利用代码,收割凭证与凭据,在目标环境中横向移动,最终完成数据外渗或破坏。整条链路可以由一个或多个协同的智能体在一次长会话中完成,中间无需人工介入。

这带来了两个本质变化。第一,从串行到并行:人类渗透测试员一次只能处理一个目标、等待结果再决定下一步,而攻击智能体可以同时对整个攻击面进行并行扫描与试探,显著压缩攻击时间。有安全厂商统计,在短短十八个月内市场已出现约七十款AI攻击性安全工具,其共同特征不是顺序执行,而是在整个攻击面上并行运作。第二,从“人设目标”到“智能体自主设子目标”:智能体能够根据中间结果动态调整策略,分解复杂任务并自主决定执行顺序,攻击呈现出更强的随机性与不可预测性,这正是传统基于已知特征与固定剧本的防御难以应对的原因。

代表性案例与厂商披露

本报告列举的案例均来自公开披露,其中部分为厂商单方披露、尚未完全独立复核,故一律标注为“厂商披露”,不作为绝对事实引用。其一,Anthropic于2026年披露的GTG-1002事件显示,其安全团队观察到具备自主能力的攻击智能体在既有攻击框架支撑下,利用公网Web服务器的SSRF漏洞将命令代理进内部云环境,从内部基础设施与云元数据服务、AWS Secrets Manager中窃取SSH私钥与服务账号令牌,并利用这些凭证在受害云环境中横向移动。Anthropic同时指出,MITRE ATT&CK框架尚不能完全刻画AI赋能攻击者的工具与活动,这直接推动了ATT&CK与ATLAS针对AI攻击能力的框架扩展。其二,多个安全厂商与云安全联盟记录到“影子AI”风险:企业员工未经审批使用的AI工具(Shadow AI)已成为数据泄露的重要入口,2025年约两成泄露事件涉影子AI,单起成本额外增加约67万美元。其三,2025年初爆发的DeepSeek应用遭遇大规模网络攻击事件,攻击者采用DDoS与恶意投喂相结合的方式,干扰模型服务并尝试窃取/污染训练数据,属于“对AI系统本身的攻击”的典型公开案例,该案例同时凸显了算力基础设施与模型服务在应用层暴露面的扩大。

需要强调的是,自治攻击智能体的自主程度存在光谱分布:从“AI辅助的自动化”(模型加速人工流程)到“半自治”(模型在受限范围内自主执行)再到“全自治”(模型独立完成全链路)。当前观测到的大多数案例仍处于前两档,全自治攻击尚在快速演进中,其威胁程度与防御难度呈现持续上升趋势。

威胁面扩容:新增的对象与向量

Agent化攻击同时扩大了攻击面。除传统IT资产外,攻击者新增了以下对象:智能体自身的提示词与系统指令(通过注入改变其行为)、智能体所依赖的模型与训练数据(通过投毒污染其判断)、智能体调用的工具与API(通过工具滥用与接口攻击)、智能体之间以及智能体与人类的通信信道(通过中间人、消息伪造)、智能体的记忆与上下文(通过长上下文注入与记忆污染)、以及承载智能体的运行时环境与供应链(通过恶意技能包、恶意依赖与未加隔离的执行环境)。这些新增攻击对象意味着,安全团队必须将模型、数据、工具、通信、记忆、运行时与供应链全部纳入防护视野。

针对AI系统自身的攻击面:框架化认识

OWASP LLM应用十大风险(2025)

OWASP GenAI安全项目发布的《LLM应用十大风险》(OWASP Top 10 for LLM Applications 2025)是认识“对AI系统本身攻击”的基准清单。其中居首的是LLM01 Prompt Injection(提示注入):攻击者通过构造输入操纵模型行为,使其偏离设计者意图。由于指令与数据共用同一信道,攻击者可以将指令悄悄嵌入模型读取的内容中。直接注入指用户直接要求模型忽略既有指令;间接注入则更隐蔽——模型在读取一个外部文档或网页时,无意识地执行了其中隐藏的指令。多模态模型进一步增加了第三种维度:指令可以藏在伴随良性文本的图片中。除提示注入外,该清单还包括敏感信息泄露、过度代理(模型在无确认情况下执行危险动作)、数据与模型投毒、供应链漏洞等风险类别。该清单的价值在于把“AI系统自身的安全”从概念转化为可逐项审计的风险分类。

OWASP Agentic应用十大风险(2026)

2025年12月9日,OWASP GenAI安全项目发布了全球首个面向自治智能体的《Agentic应用十大风险》(OWASP Top 10 for Agentic Applications 2026),标志性意义在于:这是首个不是针对“模型”而是针对“自主智能体”的旗舰风险清单。其十大类别从ASI01到ASI10,涵盖:ASI01智能体目标劫持(攻击者篡改智能体正在追求的目标,而非仅篡改单次动作,可在工作流中途重定向智能体并破坏已完成的工作);ASI02工具滥用与利用;ASI03身份与权限滥用;ASI04智能体供应链漏洞;ASI05意外代码执行(RCE);ASI06记忆与上下文投毒;ASI07不安全的智能体间通信;ASI08级联失败;ASI09人类—智能体信任利用;ASI10过度自治(智能体在无人工复核情况下升级范围、无限递归或越权动作)。该清单的精辟概括正如其作者所言:LLM安全关注单次模型交互,而智能体安全关注“当这些模型能够规划、持久化并跨工具与系统委派任务时”所发生的级联失败——核心议题从“防止坏输出”转向“防止自治系统中的级联故障”。

MITRE ATLAS:从模型威胁到智能体战术

MITRE ATLAS(针对AI系统对抗威胁全景)是与ATT&CK同源的AI威胁知识库,基于真实攻击观察与AI红队的现实演示,系统收录针对AI赋能系统的攻击战术与技术。截至2025年11月的v5.1.0版本,ATLAS已包含16个战术、84种技术、56种子技术、32项缓解措施与42个真实案例研究。其演进方向具有代表性:2025年9月的v5.0.0引入“技术成熟度”字段,将每种技术按证据记录划分为可行、已演示、已实现三档;2025年10月(与Zenity Labs合作)新增14项专门针对自治AI智能体的技术;2025年11月新增第16个战术“指挥与控制(AML.TA0015)”及18项新技术、6项新缓解措施,聚焦智能体安全控制。这一演进说明,行业已正式把“智能体的攻击”当作需要编号、分类、可系统缓解的威胁类别。

框架

对象

最高优先级风险示例

OWASP LLM Top 10(2025)

LLM应用(聊天、代码助手、AI应用)

LLM01 提示注入:输入操纵模型行为,指令与数据同信道

OWASP Agentic Top 10(2026)

自治智能体应用

ASI01 目标劫持:篡改智能体正在追求的目标,导致级联失败

MITRE ATLAS(v5.1.0)

AI/ML系统及AI智能体

16战术/84技术,含针对自治智能体的技术扩展

来源:OWASP GenAI安全项目、MITRE ATLAS|期间:2025—2026|口径:三框架对象与代表性最高风险项对照

三个框架构成互补的坐标系:OWASP LLM Top 10回答“单次模型交互如何被攻击”,OWASP Agentic Top 10回答“自治智能体系统如何级联失败”,MITRE ATLAS回答“攻击者采用哪些战术、如何按证据成熟度分级”。对企业而言,三者不是择一,而是应共同作为威胁建模、安全评估与红队测试的输入。

安全能力的AI化与自动化:从AI辅助到AI主导

安全运营的代际升级

防御侧的AI化同样呈现代际跃迁。第一代为AI辅助分析:AI为安全分析师提供告警降噪、事件摘要与威胁情报检索,但判断与处置由人完成,AI是副驾驶。第二代为AI增强运营:AI承担部分研判与建议,人类复核后执行,AI从副驾驶过渡为主力之一。第三代为AI主导运营(Agentic SOC):AI智能体主动开展调查、自主执行响应动作,在人工审批闸门下完成从告警到遏制再到恢复的完整闭环。主流安全厂商的产品演进清晰反映了这一趋势——从“AI辅助分析师”转向“AI主导安全运营”,例如CrowdStrike的AgentWorks、SentinelOne的Agentic Purple AI能力,均代表从AI-assistant到AI-led的转变;国内亚信安全亦于2025年国内首家发布商用AI XDR(联动防御系统)平台,其理由正是“当前企业面临的攻击普遍已经AI化、更加不可控,需要用AI对抗AI”。

Agentic SOC与自主响应

Agentic SOC是AI原生安全运营的核心形态。其技术架构通常包含:基于RAG的智能体将威胁情报(CTI)与SIEM事件数据结合,自动完成告警分级与初步研判;角色化智能体(如IR Copilot)在事件响应中分工协作,按剧本执行遏制、隔离与修复动作;自动化编排与响应(SOAR)能力被智能体化,将可编程剧本转化为可自主决策的响应流程。防御智能体的核心价值在于速度与规模的对称:面对攻击智能体的并行扫描,防御智能体同样可以并行监测整个环境、即时关联告警、自动执行标准化响应,把平均检测与遏制时间压缩到人类团队无法企及的量级。

必须强调,Agentic SOC的自主性不是无条件的。安全的自主响应以“人工审批闸门”为边界:对于只读调查、情报检索与低风险动作,智能体可自主执行;对于改变状态的敏感动作(如隔离主机、删除数据、修改权限、下发封禁),必须经过人工审批或预设策略的授权门槛。OWASP Agentic Top 10将“过度自治”单列为风险类别,正是提示:没有约束的自主防御会引入新的失败模式。自主与受控之间的平衡,是AI主导运营能否落地的关键工程问题。

AI红队、对抗性测试与智能体供应链

安全能力的AI化还包括主动进攻性验证。AI红队(AI Red Teaming)通过对模型、智能体与系统进行对抗性测试,主动寻找提示注入、越狱、数据泄露与行为劫持等弱点。测试维度从传统的提示词攻击扩展到智能体行为级:目标劫持、工具滥用、权限滥用、级联失败、供应链投毒。红队成果映射到MITRE ATLAS与OWASP框架,形成可复现、可追踪的缺陷清单。此外,智能体的供应链安全成为新的审计焦点:智能体依赖的技能包(Skills)、模型上下文协议(MCP)工具、第三方依赖与插件,都可能成为投毒与恶意注入的载体。OWASP另发布《Agentic Skills Top 10》专项清单,将恶意技能包、供应链漏洞、过度授权、不安全元数据列为该执行层的关键风险。安全团队必须把智能体供应链审计纳入常态化流程,对技能包与依赖进行签名校验、来源透明与权限最小化。

关键工程控制与可信架构

 

图:Agent化攻防双链映射——攻击链的自治化与防御链的AI主导化|示意,非特定系统实现

以“失控代价最小化”为工程目标

Agent化攻防阶段的防御工程,应放弃“完全防住注入”的幻想,转而确立“失控代价最小化”的原则。正如针对前沿模型训练的实践所揭示的:安全不假设模型永远听话、不假设注入能被彻底防住,而是假设智能体“可能失控”,并把失控代价尽可能压到最小。这一原则要求防御体系围绕“给不可信的执行体提供可信的笼子”来设计,回答三个问题:容器是否足够隔离、凭证应放在哪一层、动作是否有审批闸门。

可信执行环境与凭证分层

可信执行环境是可控智能体的物理前提。智能体(及其技能包、工具)应在沙箱、容器或虚拟机的隔离环境中运行,遵循最小权限原则:只授予完成当前任务所必需的文件系统、网络与命令权限。凭证分层意味着智能体持有的服务账号、API密钥与令牌应当短暂、最小化、按需动态签发,而不是复用高权限的长期凭据;云元数据服务与密钥管理服务(如AWS Secrets Manager、KMS等)应配置为向智能体运行时暴露最小的令牌面。凭证收割是自治攻击智能体的核心动作,防御侧最有效的抑制手段之一,就是让攻击者即使收割到凭证也难以提升权限——这要求身份与访问管理(IAM)面向智能体重新设计,将“智能体身份”纳入与“用户身份”同等的治理范畴。

护栏、审批闸门与可观测性

面向智能体的工程控制应形成多层次防线。输入侧,对模型输入进行来源隔离与指令与数据分离,区分可信系统指令与不可信外部内容;行为侧,设定动作白名单、递归上限与步骤预算,运行时监控器在策略越界时暂停智能体;权限侧,对改变状态的敏感动作设置人工审批闸门;通信侧,对智能体间消息进行发送方身份验证、消息完整性校验与授权范围核验,防范中间人注入;记忆侧,对持久化记忆进行隔离与审计,防范长上下文与记忆投毒。贯穿所有层次的是可观测性:智能体的每一次决策、每一次工具调用、每一次凭证访问都应被记录、可审计、可回放,为事后溯源与责任界定提供依据。这一整套“可信笼子”设计,是OWASP Agentic Top 10所列级联风险的系统性缓解路径。

全球治理与标准演进

中国:从立法到专项治理的体系化推进

中国在AI治理与安全上采取了“立法先行、专项跟进”的路径。2023年7月,国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》,在全球范围内率先开展生成式AI专门立法,界定基本概念、规范服务提供者义务。此后治理持续细化:2026年4月,五部门联合公布《人工智能拟人化互动服务管理暂行办法》,自2026年7月15日起施行,规范拟人化互动服务的伦理与安全边界;2026年,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,首次在政策层面为智能体的治理架构、应用场景与产业生态作出系统部署,标志着中国在智能体规模化应用的关键窗口期率先构建起覆盖全生命周期的治理体系。安全侧,新修订的《网络安全法》首次在法律层面确立“国家支持人工智能基础理论研究和算法等关键技术研发”,并要求“完善人工智能伦理规范,加强风险监测评估和安全监管”;2026年4月,中央网信办部署开展为期四个月的“清朗·整治AI应用乱象”专项行动,分阶段治理AI应用服务中的典型违规问题。此外,国家网信办在2025年9月发布了《2025年人工智能技术赋能网络安全应用测试结果》,在七个贴近实际业务的测试场景中验证AI赋能网络安全的实际效果,推动AI技术在安全领域的落地。这些政策与标准共同构成了中国在AI安全与智能体治理上的顶层框架。

国际:欧盟、美国与新加坡的差异化路径

国际层面呈现差异化推进。欧盟以《人工智能法案》(EU AI Act)为核心,对高风险AI系统提出透明度、风险管理与合规义务,其风险分级思路对智能体系统的分级监管具有参考价值。美国以NIST AI风险管理框架(AI RMF)等为工具,强调风险识别、评估与治理的工程化,并依托MITRE ATLAS、Anthropic等机构与企业推进威胁情报与框架建设。新加坡网络安全局(CSA)发布《保护AI系统指南》,将ATLAS框架纳入官方安全指引,为机构提供面向AI与ML系统的攻击技术与缓解对照。云安全联盟(CSA)则通过多份白皮书(如《自治智能体对抗》《LLM加速攻击流水线》)持续刻画威胁演进,并提出智能体安全标准参与提案。整体看,全球治理呈“顶层法规 + 技术框架 + 产业标准”三层结构,中国侧重立法与专项治理、欧美侧重风险框架与工程标准,二者正在以不同路径收敛于同一个目标:让AI的安全治理跟上AI攻击的演进速度。

经济与市场视角

Agent化攻防不仅是技术命题,更是经济命题。市场层面,全球AI安全市场规模预计从2024年的229亿美元增长至2033年的1226亿美元,复合年增长率约20.5%,安全已成为AI投资的主要需求驱动之一。成本层面,采用AI与自动化深度支撑安全运营的机构,单起泄露平均成本为362万美元,显著低于未采用者的552万美元,平均每起节省约193万美元;AI赋能的安全团队检测泄露平均比未采用机构快约51天,泄露生命周期降至历史最低。攻击层面,如前所述,AI驱动攻击已占恶意泄露事件的四分之一、同比增56%,单起平均600万美元、较整体均值高约20%,且62%瞄准关键基础设施。

[该类型的内容暂不支持下载]

图表将上述经济逻辑浓缩为两组证据:左侧对比单起泄露的平均成本,显示“采用AI与自动化”与“未采用”之间的显著落差;右侧呈现AI安全市场的增长与AI攻击占比、防御回报等关键指标。图表数据来源、期间与口径已在组件内逐项注明。

把这些数字放在一起,可以得出一个清晰的判断:这是一场不对称的成本赛跑。攻击者借助自治智能体把边际攻击成本压到极低,防御者若维持“以人为中心”的运营模式,其边际防御成本将持续攀升;只有通过AI化、自动化把防御侧的边际成本压下来,才可能在长期与攻击者维持对称的对抗能力。这也解释了为什么“用AI对抗AI”不再是一个营销概念,而是安全运营在经济上的必选项。需要说明的是,市场规模的2033年数值为行业预测,非既成事实;泄露成本与占比为IBM 2025年报告口径,读者在跨年度或跨地区引用时应注意期间与地域差异。

挑战与展望

主要挑战

Agent化攻防的推进面临四方面挑战。一是攻防不对称的加剧:攻击者只需发现一个漏洞即可得手,防御者必须全链条无懈可击,自治攻击又进一步放大了这一不对称。二是人才与能力断层:Agent化安全要求团队同时具备大模型安全、智能体工程与经典安全三重能力,此类复合人才稀缺,多数企业仍停留在“AI辅助”阶段。三是责任与信任界定模糊:当自治防御智能体做出错误处置、或自治攻击造成损失时,责任归属、取证与问责缺乏成熟标准,智能体决策的可解释性与审计成为难题。四是治理与技术的赛跑:法规与标准虽在快速推进,但AI攻击的演进速度更快,治理往往滞后于威胁现实,且不同司法辖区的要求存在差异,给跨国企业的合规带来复杂性。

趋势展望

展望未来,几个趋势正在清晰成形。其一,AI对抗AI将成为主流形态:攻击智能体与防御智能体的直接对抗将取代“人—工具”对抗,速度与规模成为胜负手,自主化防御(Autonomous Defense)从实验走向生产。其二,可信Agent架构成为基础设施级要求:容器隔离、凭证分层、审批闸门、可观测性不再是可选项,而是智能体规模化部署的前置条件,安全能力将内嵌进Agent基础设施而非外挂。其三,安全评估体系走向标准化:以MITRE ATLAS、OWASP Agentic Top 10、AI红队为依托的智能体安全评估将常态化,形成可审计、可复现的评估基线。其四,治理与安全的融合加深:智能体全生命周期治理(研发、部署、运营、退役)将与安全运营深度融合,合规要求内化为工程控制而非事后检查。其五,多模态与具身智能体带来新的攻击面:指令隐藏在图像、音视频与物理交互中的注入攻击,以及具身智能体在真实世界动作的安全约束,将构成下一阶段的攻防前沿。

结语

网络安全进入Agent化攻防阶段,意味着安全的攻防主体、威胁面、成本结构与防御范式都发生了代际变化。攻击者从“使用AI工具的人”演进为“自治攻击智能体”,防御者必须从“AI辅助的安全运营”升级为“AI主导的安全体系”。本报告的核心结论是:安全能力本身必须AI化、自动化,用智能体对抗智能体,以速度对速度、以规模对规模;同时,这种AI化必须以“失控代价最小化”为工程目标,以最小权限、可信执行环境、凭证分层、审批闸门与可观测性为落地骨架,并以MITRE ATLAS、OWASP框架、AI红队与全生命周期治理为标准化支撑。

这场重构既是技术命题,也是经济命题与治理命题。对任何依赖数字业务的组织而言,Agent化安全不再是“要不要做”的选择题,而是“如何做得更好、更快、更可控”的必答题。能够率先完成这一重构的组织,将在与自治攻击的长期对抗中占据主动;迟疑者则可能以指数级的速度被拉开差距。

数据来源

本报告采用的外部数据与事实均来自下列公开来源,正文已注明具体来源、期间与口径;涉及厂商单方披露的案例均已标注“厂商披露”,未作绝对化断言。

• MITRE ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems)v5.0.0、v5.1.0 更新日志及SAFE-AI框架报告,atlas.mitre.org

• OWASP GenAI安全项目:《OWASP Top 10 for LLM Applications 2025》《OWASP Top 10 for Agentic Applications 2026》(2025年12月9日发布)及《Agentic Skills Top 10》,owasp.org

• IBM:《2025年数据泄露成本报告》(Cost of a Data Breach 2025),ibm.com

• Anthropic:AI赋能网络威胁与MITRE ATT&CK映射、GTG-1002事件披露(2026年6月),anthropic.com

• Cloud Security Alliance(云安全联盟):《Autonomous Agentic AI Adversaries》(2026)《LLM-Accelerated Attack Pipelines》(2026)等白皮书,cloudsecurityalliance.org

• 中央网络安全和信息化委员会办公室(国家网信办):《生成式人工智能服务管理暂行办法》《人工智能拟人化互动服务管理暂行办法》《智能体规范应用与创新发展实施意见》相关解读、《2025年人工智能技术赋能网络安全应用测试结果》、新修订《网络安全法》相关述评及“清朗·整治AI应用乱象”专项行动部署,cac.gov.cn

• 证券时报《“硅基员工”引爆智能体攻防》相关报道(2026年4月)及亚信安全AI XDR发布信息

• Hadrian、Innora、Bot Memo等公开行业分析报告与统计(AI攻击性工具数量、AI安全市场规模预测等)

免责声明

本报告由泷码软件(上海)有限公司、泷码软件研究院、泷码首席技术官(CTO)平台撰写,仅供行业研究与决策参考,不构成任何投资、法律或采购建议。报告所引用的外部数据、框架与案例均来自公开来源,作者尽力保证其真实性与时效性,但不对其绝对准确性、完整性或最新性作出担保;部分攻击案例由厂商单方披露,尚未完全独立复核。报告中涉及的未来预测(如市场规模)为基于现有信息的合理推演,存在不确定性,实际结果可能不同。读者应结合自身环境与最新情报独立判断,并自行承担据此作出的决策风险。报告中涉及的第三方品牌、产品与机构仅作事实引用,不构成任何背书。未经书面许可,不得将本报告用于商业再分发。