🟡 🛡️ 安全 发布于: · 2 分钟阅读 ·

NIST:数学证明支持向 AI 系统持续安全监控模式过渡

编辑插图:盾牌与连续数据流图,代表 AI 安全监控框架

NIST 研究人员发布了数学证明,支持用持续监控与更新模型取代 AI 系统的一次性静态安全认证——这一范式转变适用于所有在生产环境中定期更新的 AI 系统。

🤖

本文由人工智能基于一手来源生成。

NIST(美国国家标准与技术研究院)于2026年6月22日发布了题为《NIST 数学证明支持向 AI 系统持续监控与更新安全模型过渡》的研究报告——以数学方式论证为何应放弃静态安全框架,转而采用实时监控和更新 AI 系统安全状态的模型。

持续监控模型是什么,为何是一个里程碑?

持续监控(continuous monitoring)意味着 AI 系统的安全性不是在认证时一次性评估,而是在系统的整个生命周期内持续测量、评估和更新。NIST 的数学证明将这一直觉形式化:它表明,静态认证无法为在生产环境中持续变化的模型提供安全保证,而监控与更新模型则能够提供这种保证。

静态安全认证范式的终结

现行做法依赖一次性评估:系统在投入使用前获得认证,并被视为安全,直到启动新的审查周期。这一方法继承自传统软件工程,彼时代码变更相对罕见。然而,AI 模型几乎持续处于微调、重训练或组件更换的过程中——与传统软件的动态差异使静态认证在结构上不再适用。

适用范围与行业背景

NIST 的研究并无狭窄的适用范围:它涵盖所有在生产环境中更新 AI 组件的系统——医疗诊断、自动驾驶车辆、金融平台、网络安全工具。此次发布恰逢 OpenAI(Daybreak 网络安全套件)和 IBM(与 OpenAI 合作应对机器速度威胁)同期提出问题:组织如何跟上变化速度超过传统审计覆盖能力的 AI 系统的步伐。NIST 的数学框架提供了恰恰是这一机构层面的答案:形式化了未来标准必须满足的要求。

该报告可通过 NIST 人工智能门户网站 nist.gov/artificial-intelligence 获取。

常见问题

NIST 针对 AI 系统的持续监控模型是什么?
与一次性静态认证不同,AI 系统将得到持续监控和更新——数学证明表明,对于在生产环境中持续变化的系统,这一方法能够保证更高水平的安全可靠性。
新范式适用于哪些 AI 系统?
适用于所有在生产环境中定期更新 AI 组件的领域——从医疗诊断工具到自动驾驶车辆和关键基础设施。