2026年5月27日星期三

15 条新闻 — 🟡 10 值得关注 , 🟢 5 有趣

← 前一天 后一天 →

🤖 模型 (3)

📦 开源 (2)

🤝 智能体 (2)

🔧 硬件 (2)

🏥 实践应用 (2)

🛡️ 安全 (4)

🟡 🛡️ 安全 2026年5月27日 · 2 分钟阅读

arXiv:2605.28588:分析3,984个AI智能体技能,发现76个恶意样本——13.4%含严重安全漏洞

Urednička ilustracija: Analiza 3.984 agent skillova otkriva 76 malicioznih — 13,4% sadrži kritičnu sigurnosnu ranjivos

对来自主要市场的3,984个AI智能体技能的安全分析发现76个已确认的恶意载荷,包括凭据窃取、后门安装和数据泄露。13.4%的分析技能至少含一个严重安全漏洞,且在论文发布时,至少8个经手动验证的恶意技能仍在主平台上公开可用。

🟡 🛡️ 安全 2026年5月27日 · 2 分钟阅读

arXiv:2605.28914:AIRGuard通过运行时权限控制将提示注入攻击成功率从36.3%降至5.5%

Urednička ilustracija: AIRGuard smanjuje uspješnost prompt injection napada s 36,3% na 5,5% runtime kontrolom ovlasti

AIRGuard是为工具增强型语言智能体设计的运行时安全层,解决权限混淆问题——即未授权的上下文输入可利用智能体的合法动作(文件访问、API调用)发动攻击的漏洞。在AgentTrap基准上,AIRGuard将针对Claude Sonnet 4.6的攻击成功率从36.3%降至5.5%,同时在DTAP-150基准上保留了76%的有效功能。

🟡 🛡️ 安全 2026年5月27日 · 2 分钟阅读

arXiv:2605.29068:COLAGUARD将安全推理迁移到潜在空间——F1提升8.24分,令牌减少22.4倍

Urednička ilustracija: COLAGUARD prenosi sigurnosno rasuđivanje u latentni prostor — +8,24 F1, 22,4× manje tokena

COLAGUARD是大型语言模型的新型安全护栏系统,通过课程式训练将安全推理从显式文本思维链迁移到连续潜在空间。在八个安全数据集上,该系统相比Llama Guard 3提升8.24个宏F1分,生成令牌减少22.4倍,推理速度比GuardReasoner基线快12.9倍。

🟢 🛡️ 安全 2026年5月27日 · 2 分钟阅读

Google Research:通过零信任聚合和可信执行环境实现无需访问用户数据的AI模型私有分析

Urednička ilustracija: Privatna analitika AI modela bez pristupa korisničkim podacima kroz Zero-Trust agregaciju i TEE

Google Research提出了一种AI模型私有分析系统,结合基于格密码学的协议和可信执行环境(TEE),在无需访问任何用户个人数据的情况下收集设备端模型性能的聚合统计数据。该系统已应用于Android 9+上的Android System SafetyCore服务,支持单消息发送而无需设备在多轮通信中保持在线。

← 前一天 后一天 →