OpenAI：长时程（long-horizon）AI模型安全的经验教训与新防护措施

什么是长时程AI模型？

长时程模型是一种设计用于在较长时间跨度内自主执行任务的AI系统，这与只回应单个提示便结束交互的传统模型不同。OpenAI发布了此类模型在实际应用中获得的经验教训概述。

新的安全风险与已观察到的缺陷

OpenAI指出，智能体自主时间的延长会带来短期任务中不会出现的安全风险——任务持续时间越长，偏离预期行为的空间就越大。该公司提到了此类模型在实际运行中观察到的具体缺陷（failures），但现有摘要中未给出详细数据。

尽管信息来源未提供缺陷发生频率的数据，但逻辑是清晰的：持续运行时间更长的模型，比起一次性给出回答就停止的模型，会累积更多出错的机会。

防护措施随任务时长而增强

作为应对，OpenAI提出了强化后的防护措施（safeguards）——用于在模型长时间自主运行期间防止有害行为的监控与限制机制。与短期任务的对比显示出一个规律：风险随自主时程的延长而增加，因此防护措施也必须相应增强。

备注：OpenAI该篇发布的全文目前无法获取，因此本文仅呈现官方摘要中已确认的内容。