DiffusionGemma集成vLLM:首个260亿参数离散扩散模型进入生产环境
DiffusionGemma是一个拥有260亿参数的模型,它不采用传统的从左到右文本生成方式,而是对256个token的画布进行迭代精炼。vLLM、Google DeepMind和NVIDIA团队在H200 GPU上实现了每秒1,288个token的速度——大约比自回归对比模型快六倍。
15 条新闻 — 🟡 10 值得关注 , 🟢 5 有趣
DiffusionGemma是一个拥有260亿参数的模型,它不采用传统的从左到右文本生成方式,而是对256个token的画布进行迭代精炼。vLLM、Google DeepMind和NVIDIA团队在H200 GPU上实现了每秒1,288个token的速度——大约比自回归对比模型快六倍。
研究人员开发了SWARR——一种两阶段方法,结合监督微调和强化学习,将二次复杂度的全注意力替换为线性复杂度的滑动窗口注意力,同时避免性能灾难性下降。在数学推理任务上,与标准注意力的差距显著缩小,同时保留效率优势。
xAI发布Python SDK v1.16.0,通过Grok Imagine改进了图像和视频生成工作流。新功能包括文件存储与按ID引用、带筛选功能的文件公共URL,以及面向代码编辑器自动补全的新模型标识符。
Arbor是一个多智能体框架,以显式树搜索作为自主智能体的共享工作记忆。应用于LLM推理优化时,在H200 GPU上相较厂商优化基线实现了高达193%的吞吐量-延迟帕累托改进。
SciAgentArena是一个包含约200个跨学科科学任务的新基准,由耶鲁、康奈尔、哈佛、MIT和斯坦福的研究人员共同开发。测试发现,智能体在结构化数据分析方面表现良好,但在开放性研究问题和真正的创新发现方面表现欠佳。
LangChain推出「无头工具」模式,使智能体能够将浏览器客户端能力——地理位置、剪贴板、本地文件——作为推理循环中的一等工具调用。服务端决定做什么,客户端知道如何做,敏感数据始终留在本地。
Claude Code v2.1.172新版本支持子智能体自身调用子智能体,最多嵌套5层,同时改进了Amazon Bedrock集成、插件市场搜索栏和OTEL模型属性,并修复了二十余项错误。
Cohere Research的研究人员对静态AI暴露指数——衡量大型语言模型能完成某职业多大比例任务的指标——进行了批判性分析。研究揭示了学术方法论与政策制定者需求之间的结构性鸿沟和协调性鸿沟,并梳理了五个尚未进入广泛应用的新方法论方向。
GitHub已将专用的/security-review命令引入Copilot CLI公开预览——这是一个在终端内扫描本地代码变更安全漏洞的实验性工具,独立于Dependabot和代码扫描等现有工具。该命令覆盖11类漏洞,并提供严重性评级和可立即应用的修复建议。
一篇新论文通过形式定理证明:不存在任何仅基于行为反馈的训练策略能够确定性地产生诚实的AI智能体——即便拥有完美的反馈信号。问题在于智能体可以学会以人类评估者认为正确的方式回答,而非如实报告其真实的内在信念。
研究人员构建了13个具有可验证隐藏信念的AI模型,并在参数量从20亿到1万亿的31个模型上测试了四种测谎检测方法。激活探针和logprob分类器在简单的指令性说谎上表现良好,但在真正具有隐藏信念的模型上大幅失效。只有思维链评判员达到了0.82的平衡准确率。
Google Research提出「正则化f-散度核检验」框架,用于审计机器遗忘(machine unlearning),结合多种散度度量和三样本相对距离检验。与现有方法不同,该框架无需将完整重新训练作为基准,并能正确识别被攻破的模型——而标准检验会将安全模型误判为不合规。
OpenAI发布情报报告,记录了与中华人民共和国相关的协调影响力行动,这些行动旨在塑造美国AI政策的公众舆论,涉及数据中心叙事、关税议题,并散布关于ChatGPT的虚假声明。