AISI：前沿AI模型以不足150英镑的成本发现关键云端漏洞

英国AI安全研究所（AISI）发布了一份详细案例研究，其工程团队使用前沿AI模型对自有研究平台进行安全审计。结果极具说明意义：这些模型发现了此前被标准工具遗漏的关键云端漏洞，而最严重的攻击链发现成本不足150英镑的模型token费用。

三种方法，深度与噪音各异

团队测试了三种方法，每种方法在自主程度与人工监督之间的比例各有不同。

源代码静态分析对人工参与要求最低：编码智能体以安全审查员角色获得私有代码库访问权限并自主分析代码。此方法生成的「高危」或「严重」告警数量最多，但噪音也最大。许多报告的问题被证明不那么严重或无法利用，筛选结果需要大量工程投入。

自动化智能体探测基于在Inspect评估框架内构建的自主智能体。该智能体以研究员级别的访问权限出发，尝试自主识别可利用的路径。此方法比静态分析产生了更具体、更可操作的结果。

人机协同红队测试将安全研究员的专业知识与编码智能体的能力相结合：研究员以交互方式引导智能体，手动批准每个步骤。这种方法产生了最清晰、最直接可操作的发现。

此前未被发现的五步攻击链

项目的关键发现是一条由五个独立步骤构成的此前未知攻击链。该链路允许普通用户无需与受害者交互即可访问平台上其他研究员的数据。工程师将该攻击路径描述为「合理但反直觉」——正是这类漏洞在例行检查中会被遗漏，因为每个单独步骤看起来都不严重。

除五步链路外，还发现了访问控制漏洞、权限提升路径以及软件供应链安全薄弱环节。

所有被测试的前沿模型均发现了至少一个可利用的漏洞。 能力最强的模型成功将多个已发现的弱点串联起来，实现了横向移动和对未授权数据的访问。

为何检测缺口是关键结论？

该项目尤其令人担忧的一个方面涉及对智能体活动本身的检测。当自主智能体进行探测时，标准商业告警系统完全遗漏了这一活动 — 没有针对异常行为生成任何告警。

结合了无智能体云端扫描和主机层传感器的高级监控正确识别出了激进行为：凭证获取尝试和意外网络流量。两种检测方法之间的差距表明，仅依赖标准商业告警的组织，将无法察觉AI智能体何时正在其基础设施内进行侦察。

AI安全审计的经济学

该项目的成本维度值得特别关注。主要攻击链花费了不足150英镑的模型token费用。整个项目的总费用——包括所有三种方法和所有被测试的模型——不足1,000英镑。

与聘请专业安全研究员进行同等审计的成本相比，AI辅助红队测试代表了一种经济实惠的工具，即便是安全预算有限的组织也能承担。

AISI强调，所有方法各有优缺点，方法组合能提供最完整的安全视图。静态分析适合全面覆盖，而智能体和人机协同方法则能产生较少但可靠性更高、可立即采取行动的发现集合。

这份案例研究发布于行业正积极讨论前沿AI模型在网络安全中双重属性的时刻：同样的模型既可发现漏洞，也可利用漏洞——这使理解其能力对防御团队而言至关重要。