🟡 ⚖️ 規制
英国AISI：AIエージェント評価はテスト時計算リソースを考慮すべき
英国AI安全研究所（AISI）は、固定トークン予算によるAIエージェント評価がフロンティアモデルの能力を系統的に過小評価することを示した。予算を100万から1000万トークンに増やすと、ソフトウェアエンジニアリングタスクで最大25%、数学テストで約22%の性能向上が見られる。AISIは規制当局に対し、ベンチマークスコアから計算予算を変数とした能力曲線への移行を求めている。
2026年7月2日木曜日
11 件 — 🟡 7 重要 , 🟢 4 注目
⚖️ 規制 (1)
🤝 エージェント (4)
🟡 🤝 エージェント
ICML 2026研究：SFTとRLエージェントは制御されたベンチマーク外で劇的に性能が低下
ICML 2026で採択された論文は、ツール使用LLMエージェントを4つのレベル——知覚・インタラクション・推論・内在化——にわたる環境のシフト下で体系的にテストする。発見：SFTとRLの両トレーニングは分布シフトが軽微でも大幅な性能劣化を示し、制御されたベンチマークの精度は実際のロバスト性を予測しない。PAFT（Perturbation-Augmented Fine-Tuning）が軽減策として提案される。
🟡 🤝 エージェント
SEA：リアルタイムの形式的安全保証を持つ自己修正エージェント
SEA（Self-Evolving Agents with Anytime-Valid Certificates）アーキテクチャは、形式的な学習理論的保証を維持しながらエージェントが自身のパラメータを更新できるようにする。5つの検証メカニズムと監査可能な証明書が各自己修正をリアルタイムで承認または却下し、SWE-bench Verified評価では強力なベースモデル上で+4〜+5のインスタンス解決を達成した。
🟡 🤝 エージェント
GitHub Copilotエージェントがパブリックプレビューでセッションストリーミングを取得
GitHubはCopilotエージェントのセッションストリーミングのパブリックプレビューを開始した。これによりエンタープライズ組織は、すべてのCopilotクライアントでエージェントが実行するプロンプト、レスポンス、ツール呼び出しへの直接アクセスが得られる。
🟢 🤝 エージェント
AutoMem：人手なしに記憶管理を学習する認知スキルとしてのメモリ
スタンフォードの研究者たちはAutoMem——何を記憶するか、いつ忘れるかを自動的に学習する2つの最適化ループを持つシステム——を開発した。人手によるアノテーションなしで、ベースラインに対して2〜4倍の改善を達成した。
🏥 実践 (3)
🟡 🏥 実践
AWS SageMakerガイド：マルチターンRLでは報酬と評価がアルゴリズムより重要
AWS SageMaker AIのマルチターン強化学習ガイドは、アルゴリズムの選択よりも報酬関数の質と評価の独立性を優先させる。密な報酬は分散崩壊を防ぎ、エージェントが実際のタスクを解決せずにメトリクスを最適化するときに報酬ハッキングが発生する。SOP-Benchベンチマークでの適切に設定されたトレーニングはタスク成功率を13%改善し、フィールド精度を約16%向上させた。
🟢 🏥 実践
GitHub CopilotのCI/CD：個人トークン不要、チーム別コスト制御
GitHubは同日、Copilot向けに2つのエンタープライズアップデートを発表した。GitHub ActionsのCLIに個人アクセストークンが不要になり、コストセンターがAIクレジットプールと自動上限をサポートし、チーム間の相互影響を防ぐようになった。
🟢 🏥 実践
コーディングエージェントのコスト爆発を抑える：LangSmithによる4段階アプローチ
LangChainは、コーディングエージェントがツールの断片化とトークンマキシングのメンタリティにより制御不能なコストを生み出していると説明し、解決策としてLangSmithプラットフォームを通じた可視化・正規化・最適化・管理の4段階アプローチを提案している。
🛡️ セキュリティ (2)
🟡 🛡️ セキュリティ
HARC：有害性と拒否の方向を結合したジェイルブレーク耐性ファインチューニング手法
研究者たちはジェイルブレークがモデルの内部表現レベルでなぜ成功するかを発見し、「有害性方向と拒否方向」を明示的に結合するHARCファインチューニング手法を開発した。これは6つのテスト手法の中でロバスト性・能力・使用性の最強バランスを達成している。
🟡 🛡️ セキュリティ
Amazon Bedrockがコンテンツ行動分析でAI生成フィッシングを検出
Amazon Bedrockの基盤モデルは、表面的なスパムシグナルではなくメールコンテンツの行動パターンを分析することでAI生成フィッシングを検出する。5段階のパイプラインは認証チェック、AI分析、0から100スケールの多因子リスクスコアリングを組み合わせる。5段階のフィードバックループによる継続的学習システムが、経験とともに検出精度を向上させる。
