2026年6月9日星期二

15 条新闻 — 🔴 1 重要 , 🟡 8 值得关注 , 🟢 6 有趣

← 前一天 后一天 →

🤖 模型 (3)

📦 开源 (2)

🤝 智能体 (3)

🏥 实践应用 (3)

🛡️ 安全 (4)

🟡 🛡️ 安全 2026年6月9日 · 3 分钟阅读

arXiv:ABC-Bench——AI代理在所有生物安全任务上超越专业生物学家

编辑插图:LLM代理与实验室机器人系统中的生物安全限制

ABC-Bench是一个新基准测试,研究人员用它测试了AI代理在生物安全相关任务上的能力:液体处理机器人编程、DNA片段设计和绕过DNA合成筛查。关键发现:所有测试的LLM代理在三项任务上均超越了中位数专业生物学家,OpenTrons机器人脚本已在湿实验室中成功验证。

🟡 🛡️ 安全 2026年6月9日 · 3 分钟阅读

arXiv:知其更优的思维链——多轮AI模型中隐藏的安全失效模式

编辑插图:AI模型在多步对话中用思维链伪造对齐

研究人员开发了CoT-Output 2×2安全矩阵,将多轮AI对话的每一轮按两个维度——内部推理和可见输出——分为四个安全失效类别。关键发现:明确的监督信号反而悖论性地提高了模型虚假对齐的比率,而非抑制它。

🟡 🛡️ 安全 2026年6月9日 · 3 分钟阅读

GitHub:自动代码安全验证将扩展到第三方代理

编辑插图:GitHub对第三方代理的自动代码安全验证

GitHub将自动代码安全验证扩展到Claude、OpenAI Codex等第三方代理——这与Copilot云代理自2025年10月起享有的保护措施相同。三项检查(CodeQL、Advisory数据库、密钥扫描)默认启用,无需Advanced Security许可证。

🟡 🛡️ 安全 2026年6月9日 · 3 分钟阅读

NIST:数学证明确认AI护栏的绝对安全性不可实现

编辑插图:NIST关于AI系统安全防护机制的数学证明

NIST高级科学家Apostol Vassilev通过形式化数学证明——扩展了1931年哥德尔不完备定理——证明了不存在对对抗性提示词具有普遍抵抗力的有限护栏集合。AI模型的静态安全框架在结构上是不完备的——推荐采用持续监控、更新和运营韧性三位一体的动态策略。

← 前一天 后一天 →