arXiv:2605.29157:Parallax局部线性注意力在解码阶段比FlashAttention快12.9倍
Parallax是大型语言模型的新型注意力机制,用局部线性估计替代标准softmax注意力,与FlashAttention相比实现了12.9倍的解码内核加速。西北大学及合作机构的研究人员证明了在0.6B和1.7B参数预训练模型上困惑度指标的一致改善,并声称这是注意力机制架构与优化器协同设计的首次实证演示。
15 条新闻 — 🟡 10 值得关注 , 🟢 5 有趣
Parallax是大型语言模型的新型注意力机制,用局部线性估计替代标准softmax注意力,与FlashAttention相比实现了12.9倍的解码内核加速。西北大学及合作机构的研究人员证明了在0.6B和1.7B参数预训练模型上困惑度指标的一致改善,并声称这是注意力机制架构与优化器协同设计的首次实证演示。
Google于2026年5月28日宣布Gemini API生态系统中两款原生视觉模型正式发布(GA):用于高效图像生成的gemini-3.1-flash-image和高性能的gemini-3-pro-image。新功能是flash变体的视频转图像能力,可从视频文件或YouTube URL生成缩略图、电影海报和信息图表。两款模型的预览版将于2026年6月25日停用。
Mistral AI于2026年5月27日宣布推出Physics AI——一类专门用于预测物理系统行为的新型AI模型。目标是通过提供能够理解物理定律而非仅靠文本统计模式的AI工具,加速硬件开发和复杂技术流程的工程研发。
PyTorch编译器torch.compile通过消除向全局内存的冗余写入,利用内核融合技术在GPU上实现最高10倍加速。Inductor编译器不再为每个操作启动独立的GPU内核,而是自动将依赖操作合并为一个将中间值保留在快速处理器寄存器中的内核。
xAI发布了Python SDK v1.14.0,为web_search功能带来图像搜索支持。新的enable_image_search字段和SERVER_SIDE_TOOL_IMAGE_SEARCH枚举常量使构建基于Grok应用的开发团队能够在服务端启用视觉内容搜索,作为标准网页文本搜索的补充。
Amazon Bedrock AgentCore——构建和运行AI智能体的托管平台——通过日本HR服务商Works Human Intelligence的生产案例研究得到展示。该公司将两个业务智能体从LangGraph和Amazon ECS基础设施迁移到AgentCore,通过提示缓存、行为优化和将模型从Claude Sonnet 4.5换为Haiku 4.5,实现了Browser Operation智能体97%的成本降低。
OpenAI发布了与Thrive和Crete合作在Codex上构建税务AI智能体的案例研究。该项目展示了自我改进智能体在高风险监管领域——税法——中的应用,在这一领域,精确性和知识时效性对用户具有直接的财务和法律影响。
AMD ROCm博客介绍了针对搭载CDNA 4架构的Instinct MI355X加速器的FP8 GEMM(混合精度矩阵乘法)内核的全新4波交错方法。该优化将布局从8波乒乓方案改为每波拥有完整512个VGPR寄存器的4波设计,通过基于XOR的swizzle消除LDS内存冲突,并通过精确交错MFMA指令与数据加载来隐藏内存延迟。
LightSeek Foundation的开源LLM推理引擎TokenSpeed(MIT许可证)使用八块NVIDIA Blackwell B200 GPU在TP8配置下,以Qwen3.5-397B-A17B模型实现了每秒580个令牌的速度。该记录在带前缀缓存和CPU-GPU执行重叠的智能体工作负载下实现,在100万令牌上下文下性能下降不足16%。
Anthropic Messages API现在在每个使用扩展思考的响应的usage对象中包含output_tokens_details.thinking_tokens字段。测量推理成本的开发者需要注意,计费基于实际生成的全部思考令牌,而非响应中显示的摘要——差异可达20倍甚至更多。
Claude Code v2.1.152为开发团队引入三项关键升级:/code-review --fix命令可自动将审查结果应用到工作目录,/simplify调用相同命令专注于代码整理,技能前置声明现支持disallowed-tools字段可在技能激活时移除指定工具。此外还带来新钩子、改进的Vim模式及稳定性修复。
对来自主要市场的3,984个AI智能体技能的安全分析发现76个已确认的恶意载荷,包括凭据窃取、后门安装和数据泄露。13.4%的分析技能至少含一个严重安全漏洞,且在论文发布时,至少8个经手动验证的恶意技能仍在主平台上公开可用。
AIRGuard是为工具增强型语言智能体设计的运行时安全层,解决权限混淆问题——即未授权的上下文输入可利用智能体的合法动作(文件访问、API调用)发动攻击的漏洞。在AgentTrap基准上,AIRGuard将针对Claude Sonnet 4.6的攻击成功率从36.3%降至5.5%,同时在DTAP-150基准上保留了76%的有效功能。
COLAGUARD是大型语言模型的新型安全护栏系统,通过课程式训练将安全推理从显式文本思维链迁移到连续潜在空间。在八个安全数据集上,该系统相比Llama Guard 3提升8.24个宏F1分,生成令牌减少22.4倍,推理速度比GuardReasoner基线快12.9倍。
Google Research提出了一种AI模型私有分析系统,结合基于格密码学的协议和可信执行环境(TEE),在无需访问任何用户个人数据的情况下收集设备端模型性能的聚合统计数据。该系统已应用于Android 9+上的Android System SafetyCore服务,支持单消息发送而无需设备在多轮通信中保持在线。