arXiv:2607.08733: 「スーパーウェイト」が選択的ファインチューニングの失敗を説明——COLM 2026採択論文
「Super Weights in LLMs」はCOLM 2026に採択された論文で、言語モデルの挙動を不釣り合いに変化させる少数のパラメータ群「スーパーウェイト」を特定します。論文は、一部の層のみを更新する選択的ファインチューニングがしばしば失敗する原因をまさにこれらのウェイトで説明しており、PEFTやLoRAアプローチに直接的な影響を持ちます。
12 件 — 🟡 7 重要 , 🟢 5 注目
OpenWiki BrainsはLangChainのオープンソースフレームワークで、AIエージェントにプロアクティブなメモリを付与します: 外部ソースからコンテキストを自動収集し、ディスク上のMarkdownファイルとして保存します。最初のバージョンはGmail・Notion・Git・Twitter/X・Hacker News・Web検索の6コネクターをサポートし、クラウドに依存せずスケジュールされたジョブでローカルに動作します。
本論文は、大規模言語モデルの幻覚を減らすためにゲーム理論を活用したマルチエージェント枠組みを提案します。モデル間の相互作用を戦略的プレイヤーによるゲームとして定式化し、均衡(equilibrium)が一貫した非幻覚的な回答に対応するよう設計することで、標準的なRLHFやRAGとは異なるアプローチを提供します。
Amazon SageMaker AIは、インフラ管理なしでNVIDIA Nemotron 3モデルのサーバーレスカスタマイズを導入しました。SFT(教師ありファインチューニング)、RLVR(検証可能な報酬による強化学習)、RLAIF(AIフィードバックによる強化学習)の3つの手法が利用可能になり、ML基盤の知識がないエンタープライズチームでも高度なRL手法を利用できるようになります。
GitHubは、Copilot code reviewをより良く管理されたツールに移行した際に最初は結果が悪化したと明かしました。原因はツールではなくエージェントへの古い指示でした。プロンプトをdiff-firstアプローチ(ファイル読み取り前のバッチ検索、PRのdiffを起点とした解析)に書き直すことで、同等の品質を保ちながらレビューの平均コストを約20%削減しました。
Deutsche TelekomとOpenAIは通信事業者をAI-native telcoへ転換するパートナーシップを締結しました。適用範囲は顧客サポート・従業員向けツール・ネットワーク運用・音声AIに及びます。Deutsche Telekomはグローバルで約2億4,500万ユーザーを抱える欧州最大級の通信事業者であり、通信業界最大級のAIディールの一つとなります。
Claude Code v2.1.206はAnthropicのCLIツールの新リリースで、パス候補を提案する/cdコマンド、CLAUDE.mdファイルの短縮を提案する/doctor確認、/commit-push-prで設定済みリモートへのgit pushの自動承認を導入しました。バックグラウンドエージェントはアップグレード直後に更新されるようになり、次回接続時の遅いアップグレードがなくなりました。
Henry Schein OneはAmazon SageMaker上にリアルタイムで歯科X線撮影の品質を確認するAIシステム「Image Verify」を開発しました。1万カ所以上の施設に導入され、週1,100万枚以上のX線を平均1.4秒のレイテンシで処理しており、画像品質不良による保険請求拒否の削減を目的としています。
OvertinkingはICML 2026に採択された論文で、大規模言語モデルにおける推論の重みを増強することでモデルが通常は公開しない隠れた学習済み情報を引き出せることを示します。この発見はo1、DeepSeek R1、拡張思考機能付きClaudeなどreasoningモデルを標的とした新たなクラスの抽出攻撃の扉を開きます。
CodeQL 2.26.0はGitHubの静的セキュリティ解析ツールの新バージョンで、AI prompt injection攻撃の検出を新たな解析タイプとして導入し、Kotlin 2.4.0のサポートも追加しました。AI固有の攻撃ベクターをメインストリームのSASTツールに初めて統合することで、prompt injectionはXSSやSQLインジェクションと同じセキュリティフローに組み込まれます。