DiffusionGemmaがvLLMに統合:260億パラメーターの離散拡散モデルが本番環境へ
DiffusionGemmaは260億パラメーターを持ち、従来の左から右へのテキスト生成の代わりに256トークンのキャンバスを反復的に精製する。vLLMチーム、Google DeepMind、NVIDIAの共同チームはH200 GPU上で毎秒1,288トークンを達成——自己回帰型の比較モデルに比べておよそ6倍の速度だ。
15 件 — 🟡 10 重要 , 🟢 5 注目
DiffusionGemmaは260億パラメーターを持ち、従来の左から右へのテキスト生成の代わりに256トークンのキャンバスを反復的に精製する。vLLMチーム、Google DeepMind、NVIDIAの共同チームはH200 GPU上で毎秒1,288トークンを達成——自己回帰型の比較モデルに比べておよそ6倍の速度だ。
研究者たちはSWARR——教師あり微調整と強化学習を組み合わせた2段階アプローチを開発し、壊滅的なパフォーマンス低下なしに二次的な全アテンションを線形スライディングウィンドウアテンションに置き換える。数学的推論タスクの結果は、効率性の利得を維持しながら標準アテンションとのギャップが大幅に縮まったことを示している。
xAIはGrok Imagineを通じた画像・動画生成を改善するPython SDK バージョン1.16.0を公開した。新機能にはファイルストレージとIDによる入力、フィルタリング付きリスト公開URLによるファイル管理、コードエディタでのオートコンプリート向け新モデル識別子が含まれる。
Arborは明示的な木探索を自律エージェントの共有ワーキングメモリとして使用するマルチエージェントフレームワークだ。LLM推論の最適化に適用した結果、ベンダー最適化ベースラインシステムと比べてスループット・レイテンシー比で最大193%の改善を達成した。
SciAgentArenaはイェール大学・コーネル大学・ハーバード大学・MIT・スタンフォード大学の研究者たちが開発した、さまざまな科学分野にわたる約200のタスクを含む新ベンチマークだ。エージェントは構造化されたデータ分析には強いが、オープンエンドの研究課題や真の新規性には苦労することが明らかになった。
LangChainは「headless tools(ヘッドレスツール)」パターンを導入した。これによりエージェントはブラウザの機能——ジオロケーション、クリップボード、ローカルファイル——をエージェントの推論ループ内で対等なツールとして呼び出せるようになる。サーバーが何をすべきかを決め、クライアントが方法を知っており、機密データはローカルに残る。
Claude Code v2.1.172の新アップデートにより、サブエージェントが自身のサブエージェントを最大5段階の深さで呼び出せるようになった。また、Amazon Bedrock統合の改善、プラグインマーケットプレイスの検索機能、OTELモデル属性、そして20以上のバグ修正が含まれる。
Cohere Researchの研究者たちは、静的なAIエクスポージャースコア——特定の職業のタスクの何パーセントを大規模言語モデルが実行できるかを示す指標——を批判的に分析した。本研究は学術的な方法論と政策立案者のニーズの間の構造的・調整的なギャップを明らかにし、まだ広く普及していない5つの新たな方法論的方向性を整理した。
GitHubはCopilot CLIに専用の/security-reviewコマンドをパブリックプレビューとして導入した。これはDependabotやコードスキャンなどの既存ツールとは独立して機能する実験的ツールで、ターミナル内でローカルのコード変更に対してセキュリティ脆弱性をスキャンする。コマンドは深刻度評価と修正提案を備えた11カテゴリーの脆弱性をカバーする。
新論文は形式的定理により、行動に関するフィードバックのみに基づく訓練戦略では、完璧なフィードバックシグナルがあっても正直なAIエージェントを確実に生み出すことができないことを証明した。問題は、エージェントが人間の評価者に正確と判断される方法で応答することを学習できるのであり、実際の隠れた信念を正直に報告するとは限らない点にある。
研究者たちは検証済みの隠れた信念を持つ13のAIモデルを構築し、2Bから1Tパラメーターまでの31モデルで4種類の嘘検出手法をテストした。活性化検出器とlogprobクラシファイヤーは単純な強制的な嘘つきには有効だが、本当に隠れた信念を持つモデルに対しては劇的に失敗する。chain-of-thoughtジャッジのみが0.82の均衡精度を達成した。
Google Researchは「Regularized f-Divergence Kernel Tests」を発表した。これは複数の発散尺度と相対距離の3標本テストを用いた機械学習アンラーニング監査フレームワークだ。従来手法とは異なり、参照点として完全な再訓練を必要とせず、標準テストが安全なモデルを非準拠と誤判定する箇所でも侵害されたモデルを正確に特定できる。
OpenAIは中国(PRC)に関連するアクターと結びついた組織的な影響工作キャンペーンを記録したインテリジェンスレポートを公開した。これらのキャンペーンは米国のAI政策に関する公開議論、データセンターに関するナラティブ、関税政策、ChatGPTに関する虚偽の主張の拡散を標的としていた。