2025年是人工智能安全攻防的关键转折点，对抗已从“人脑vs人脑”升级为“AI vs AI”。攻击方利用AI实现自动化、智能化突破，防御方则借助AI构建自主、前瞻的防护体系。这场静默的智能对抗，正重塑网络安全的底层逻辑与未来格局。
智能速览
新型攻击技术如“Bad Likert Judge”和“代码包幻觉”被曝光，攻击效率显著提升。
美国通过DARPA等项目和行政命令，大力投入人工智能网络安全领域。
谷歌、OpenAI等科技巨头推出AI安全体，实现从漏洞发现到修复的自动化。
研究证实AI已能自主规划和执行复杂网络攻击，自动化威胁成为现实。
精华内容
攻防双方正以前所未有的速度将人工智能武装到牙齿。从漏洞发现到修复，从攻击策划到执行，AI不再仅仅是辅助工具，而成为这场无硝烟战争的核心主角。
攻击者的智能化武器库
2025年，攻击者手中的武器正变得愈发智能和隐蔽。Palo Alto Networks公司发现的“Bad Likert Judge”策略，通过诱导LLM自我评判和生成有害示例，攻击成功率比普通提示注入高出60%以上。
与此同时，德克萨斯大学等机构揭示的“代码包幻觉”漏洞，更是让代码安全面临新挑战。测试显示，开源LLM生成的代码中，引用不存在的“幻觉包”比例平均不低于21.7%，为供应链投毒攻击打开了方便之门。
更令人警觉的是，AI已能驱动完整的攻击链。纽约大学的学术项目PromptLock，作为首款AI驱动的勒索软件原型，展示了其动态生成多态代码、自主侦察并绕过所有主流杀毒软件检测的能力。黑客组织也开始利用合法的红队工具如HexStrike-AI，将漏洞利用时间从数天压缩至数分钟，极大压缩了防御窗口。
防御方的AI守护者
面对智能化攻击浪潮，防御方也正积极部署AI守护者。谷歌公司率先取得突破，其AI体Big Sleep成功发现并隔离了一个黑客即将利用的SQLite零日漏洞，这是首次由AI直接阻止零日漏洞利用。
随后，谷歌DeepMind推出的CodeMender，在6个月内为开源项目贡献了72份经过验证的补丁，其中最大代码库超四百万行。微软的Project Ire系统则专注于恶意软件分析，能通过逆向工程自动判断软件恶意性，在公开数据集测试中正确识别率达90%，误报率仅4%。
OpenAI也推出了基于GPT-5的Aardvark安全体，它能像人类安全专家一样阅读和理解代码，在测试代码库中识别出92%的已知和人为引入漏洞，并已将10个新发现的漏洞列入CVE清单。
国家级的战略对抗
AI安全已上升为国家级战略重点。美国国防高级研究计划局（DARPA）在2025年动作频频，先是启动“确保人工智能战场有效稳健性”（SABER）项目，旨在评估军事AI系统的网络脆弱性，随后又授予Leidos公司价值880万美元的“安全工具智能生成”（INGOTS）项目合同，用于加速移动系统的漏洞修复。
由DARPA与卫生高级研究计划局（ARPA-H）联合举办的“人工智能网络挑战赛”（AIxCC）落幕，参赛系统累计分析5400万行代码，发现54个故意植入的漏洞并修复43个，还识别出18个未知真实漏洞，平均每个补丁生成时间仅45分钟。
政策层面，美国特朗普政府发布新版网络安全行政命令，将AI安全工作重点转向漏洞识别与管理。国会也提出《禁止对手人工智能法》草案，意图限制所谓“外国对手”的AI系统。年底，美国国务院更是签约采购Darktrace公司的AI网络防御系统，用于保护全球170多个国家的外交网络。
AI自主攻防成现实
2025年的关键事件共同指向一个核心趋势：AI正在网络攻防中获得前所未有的自主性。卡内基梅隆大学与Anthropic的联合研究已证明，LLM能够在无人干预下，自主规划并成功复现复杂的Equifax数据泄露事件。
这不仅意味着攻击自动化，也预示着防御自动化的可能。研究团队正探索在类似架构中实现自主AI防御。
此外，Anthropic公司披露，其成功挫败了一起利用Claude工具进行的大规模网络间谍活动，攻击中80%到90%的操作由AI自动完成。微软发现的“Whisper Leak”侧信道攻击，则揭示了即便加密通信，AI也可能通过分析数据模式泄露用户讨论的敏感主题。这表明，一个由AI智能体主导的网络安全时代已经到来。
2025年的AI安全事件，预示着一个由智能体主导的网络安全新时代。攻击与防御的自动化程度空前提升，对传统安全体系构成根本性挑战。未来，如何构建能够理解、预测并自主应对威胁的AI防御体系，将成为决定数字世界安全的关键。
