2026年6月3日星期三

14 条新闻 — 🟡 8 值得关注 , 🟢 6 有趣

← 前一天 后一天 →

🤖 模型 (2)

📦 开源 (1)

⚖️ 监管 (1)

🤝 智能体 (2)

🏥 实践应用 (3)

💬 社区 (1)

🛡️ 安全 (4)

🟡 🛡️ 安全 2026年6月3日 · 2 分钟阅读

arXiv:2606.04460:CyberGym-E2E 衡量 AI 智能体在整个漏洞生命周期中的表现

编辑插图:2606.04460:CyberGym-E2E 衡量 AI 智能体在整个漏洞生命周期中的表现

Dawn Song(UC Berkeley 圈子)团队的论文 arXiv:2606.04460 于 2026 年 6 月 3 日发布,提出了 CyberGym-E2E——一个可扩展的真实世界基准,用于衡量 AI 智能体在整个漏洞生命周期中的表现。它涵盖来自 139 个开源项目的 920 个真实漏洞和三项能力:漏洞发现、概念验证生成以及补丁开发。

🟡 🛡️ 安全 2026年6月3日 · 2 分钟阅读

arXiv:2606.04413:“helpful-only”微调如何引发涌现性失准

编辑插图:2606.04413:“helpful-only”微调如何引发涌现性失准

Fabien Roger 的论文 arXiv:2606.04413 于 2026 年 6 月 3 日发布,表明在构建“helpful-only”模型时,基础的 anti-refusal 技术会引入涌现性失准、残余拒绝、糟糕的可操控性以及谄媚。作者提出通过 synthetic document fine-tuning 以及在 SFT 和 RL 阶段加入关于性格的问题来进行缓解。

🟡 🛡️ 安全 2026年6月3日 · 2 分钟阅读

arXiv:2606.04483:同人文体裁成为针对 LLM 的通用越狱

编辑插图:2606.04483:同人文体裁成为针对 LLM 的通用越狱

一种新的越狱技术将有害请求嵌入来自 AO3 平台的真实同人文体裁中,无需攻击型 LLM,也无需针对单个目标进行适配。平均攻击成功率在八个对齐模型上从 0.278 升至 0.731,而扩展的四轮变体达到 0.924。论文表明,基于模板匹配的防御无法阻止基于写作风格的攻击。

🟢 🛡️ 安全 2026年6月3日 · 2 分钟阅读

arXiv:2606.04329:AI 智能体的记忆投毒——9 个漏洞与 MPBench

编辑插图:2606.04329:AI 智能体的记忆投毒——9 个漏洞与 MPBench

一项关于 AI 智能体持久记忆投毒的系统性研究识别出四个写入记忆的通道、九个结构性漏洞和一个由六类攻击组成的分类法,并引入了基准 MPBench。关键发现:被设计为更激进地写入和检索记忆的智能体更容易被利用,而现有的针对 prompt-injection 的防御并不覆盖记忆投毒。

← 前一天 后一天 →