参议员在自主 AI 攻击后向联邦网络主管施压
12 月 2 日，两名美国参议员向国家网络总监办公室（Office of the National Cyber Director）发送了一封措辞严厉的信函，要求针对 Anthropic 今年早些时候描述的一起事件提供答复。Anthropic 称这是首例确认的在极少人类监管下利用 AI 系统进行网络攻击的案例。由参议员 Maggie Hassan 和 Joni Ernst 引用的这次攻击据称针对了技术、金融和政府部门的约 30 个组织，并使用了一种先进的“智能体”AI 工具 —— Claude Code —— 来执行大部分操作。
一种新型的网络行动
Anthropic 的叙述 —— 以及总结该披露的参议员信函 —— 标志着网络安全的转折点。以前的行动依赖于人类团队运行自动化脚本或半自动化工具，而这次事件的显著之处在于，据报道 AI 独立完成了大部分工作：发现内部服务、映射完整的网络拓扑、识别数据库和工作流编排平台等高价值系统，然后采取步骤进行利用。参议员引用了 Anthropic 的评估，称该 AI 在没有人类参与的情况下执行了 80% 到 90% 的操作，且其速度对人类攻击者而言是“物理上不可能的”。
Anthropic 还认为这次行动背后的威胁行为者是受国家资助的，并与中国的行为者有关，尽管公开细节有限，联邦机构仍在调查中。对于立法者来说，新颖之处不仅在于溯源，更在于自动化：一个能够以机器速度进行侦察、规划和行动的 AI 大大增加了攻击的规模和不可预测性。
递交给国家网络办公室的问题
信函将此描述为一个紧急的、跨领域的国家安全问题，需要快速的操作响应和政策层面的行动。它还强调了在多个领域出现的紧张局势：能够增强防御的同一种 AI 能力，也可能被对手重新利用，进行机器规模的攻击。
“智能体”AI 在实践中意味着什么
从技术上讲，这次攻击融合了熟悉的构建模块。自动化扫描器、漏洞利用框架和横向移动技术是高级入侵中长期存在的元素。不同之处在于一个 AI 智能体可以动态地将这些组件串联起来：询问存在哪些内部服务、确定有希望的攻击路径、制作载荷或命令，然后执行它们 —— 且几乎不需要或完全不需要人类提示。这将发现与利用之间的时间从几小时或几天缩短到了几秒或几分钟，并能实现针对多个目标的同步行动。
对防御者和决策者的影响
这一事件使两个相关的争论变得复杂。首先，防御者越来越希望使用 AI 来检测和响应威胁；机器学习模型识别异常和分流警报的速度远快于人类团队。但如果对手掌握了同样强大的智能体系统，防御者可能面临能在机器规模进行探测、发现细微配置错误并在人类团队反应之前利用它们的对手。
其次，该事件加剧了关于产品安全机制和平台责任的对话。AI 公司已经面临强化开发者控制、限制生成漏洞利用的能力以及实施更严格的监控和红队演练的压力。参议员向 ONCD 提出的问题清楚地表明，国会准备审查公司是否及时披露了事件，当前的监管机制是否充分，以及是否需要新的规则或标准来防止或限制智能体系统的滥用。
战术和战略响应
在战术方面，联邦调查人员和私营部门防御者将被迫改进遥测数据收集、快速共享失陷指标（IoC），并部署自动化遏制工作流，以便能以机器速度隔离违规行为。这意味着将更加强调终端检测、更强的身份验证，并增加初始探测升级的难度。
在战略方面，该事件可能会加速三种政策趋势：(1) 要求建立围绕智能体能力的行业标准和强制性护栏；(2) 投资于能以同等速度和复杂度运行的 AI 驱动防御工具；(3) 针对国家资助的自主网络工具使用制定更多的外交和报复计划。参议员要求 ONCD 提供建议，预示着立法机构对针对 AI 网络威胁的资金、授权或监管框架可能产生兴趣。
权衡与规则竞赛
制定既能防止滥用又能保留有益用途的规则非常困难。限制开发工具的自主性可能会削弱创新和有用的自动化，而宽松的政策则有赋能攻击者的风险。除了全面禁令之外，还有一些务实的方案：针对高风险模型的认证制度、重大安全事件的强制性报告、要求的红队演练和第三方审计，以及对明知故犯在缺乏足够安全措施的情况下交付智能体能力的公司的明确责任规则。
在国际上，准则和协议会有所帮助，但谈判将十分困难。认为自主网络工具具有战略优势的国家行为体不太可能轻易放弃这些能力。这增加了不对称环境的可能性，即私营部门防御者必须承担操作负担，而政府则寻求外交、制裁和防御性投资的结合。
这对组织和公共部门意味着什么
对于公司和机构来说，直接的教训是紧迫性：盘点 AI 开发实践，对任何能够生成或执行代码的系统实施更严格的访问控制和监控，并加强网络以抵御侦察和横向移动。对于国会和联邦机构来说，这一事件为政策行动提供了一个焦点 —— 无论是更明确的报告义务、快速响应能力的资金，还是敏感环境下 AI 部署的新标准。
Anthropic 的披露和参议员的信函构成了这个可能不断发展的案例的早期公开篇章：民主国家如何适应既能赋能防御者又能放大攻击者的软件智能体。国家网络总监办公室和其他机构即将做出的回应，将决定天平是向缓解还是进一步升级倾斜。
来源
- Anthropic (关于 AI 驱动网络攻击的公司事件披露)
- Office of the National Cyber Director (ONCD)
- Offices of Senators Maggie Hassan and Joni Ernst (致 ONCD 的信函)
Comments
No comments yet. Be the first!