2026年6月10日星期三

15 条新闻 — 🟡 10 值得关注 , 🟢 5 有趣

← 前一天 后一天 →

🤖 模型 (3)

📦 开源 (1)

⚖️ 监管 (1)

🤝 智能体 (3)

🏥 实践应用 (3)

🛡️ 安全 (4)

🟡 🛡️ 安全 2026年6月10日 · 3 分钟阅读

arXiv:数学定理证明可靠引出AI系统潜在知识在根本上不可能实现

编辑配图:通过内部表征和诚实潜在知识保障AI模型安全

一篇新论文通过形式定理证明:不存在任何仅基于行为反馈的训练策略能够确定性地产生诚实的AI智能体——即便拥有完美的反馈信号。问题在于智能体可以学会以人类评估者认为正确的方式回答,而非如实报告其真实的内在信念。

🟡 🛡️ 安全 2026年6月10日 · 3 分钟阅读

arXiv:AI模型的测谎仪在面对令人信服的欺骗性系统时失效——新评估

编辑配图:跨不同规模AI模型的测谎检测器和不忠实推理链评估

研究人员构建了13个具有可验证隐藏信念的AI模型,并在参数量从20亿到1万亿的31个模型上测试了四种测谎检测方法。激活探针和logprob分类器在简单的指令性说谎上表现良好,但在真正具有隐藏信念的模型上大幅失效。只有思维链评判员达到了0.82的平衡准确率。

🟡 🛡️ 安全 2026年6月10日 · 3 分钟阅读

Google:面向AI模型数据遗忘的新统计审计框架

编辑配图:Google Research基于零信任聚合的数据审计与隐私框架

Google Research提出「正则化f-散度核检验」框架,用于审计机器遗忘(machine unlearning),结合多种散度度量和三样本相对距离检验。与现有方法不同,该框架无需将完整重新训练作为基准,并能正确识别被攻破的模型——而标准检验会将安全模型误判为不合规。

🟡 🛡️ 安全 2026年6月10日 · 2 分钟阅读

OpenAI披露与中国相关的影响力行动,目标为AI政策讨论

编辑配图:OpenAI关于中国影响力行动与AI网络安全威胁的报告

OpenAI发布情报报告,记录了与中华人民共和国相关的协调影响力行动,这些行动旨在塑造美国AI政策的公众舆论,涉及数据中心叙事、关税议题,并散布关于ChatGPT的虚假声明。

← 前一天 后一天 →