Microsoft Research: LLMは反復的な委任によりドキュメントを破損する — 20回の反復で19〜34%の忠実度低下

Microsoft ResearchチームのPhilippe Laban、Tobias Schnabel、Jennifer Nevilleは2026年5月15日に「AI Delegationと長期信頼性に関する最近の研究についてのさらなる注記」というブログ記事を公開しました。これは現代のエージェントシステムにおける深刻な信頼性の空白を劇的に示した原論文へのフォローアップです。

原論文では何が明らかになりましたか？

原論文「LLMs Corrupt Your Documents When You Delegate」は、ドキュメント編集の反復的委任が連続したAIの反復を通じてコンテンツを破損させることを実証しました。チームは忠実度スコアを測定しました。これは委任サイクルを経てドキュメントの品質、正確性、整合性がどれだけ保持されるかを示す指標です。モデルが反復を重ねるごとに系統的に情報を失うことが明らかになりました。個々の反復が合理的に見えても同様でした。

論文が具体的に示す数値は何ですか？

20回の委任反復を経ると、忠実度低下は**19〜34%**に達します（タスクの種類と具体的なモデルによって異なります）。この数値は重要です。問題を「モデルが時々間違いを犯す」から「指数関数的に累積する系統的劣化シグナル」へと変換するためです。20回の反復後、ドキュメントはもはや元のコンテンツの信頼できる表現ではなくなります。これはまさに長期運用エージェントワークフローが通常超える反復回数です。

フォローアップブログ記事は何を明確にしていますか？

チームがフォローアップを公開したのは、原論文が大きな議論を引き起こし、著者たちが「論文が主張すること、そして主張しないことについていくつかの重要な点を明確にしたい」と考えたためです。ブログ記事が扱うテーマは以下の通りです。

• 問題の一般性 — これは特定のモデルの問題か、系統的な問題クラスか？
• 軽減戦略 — どのアプローチが劣化を抑えるのに役立つか？
• 本番エージェントへの影響 — どのワークフローが最も深刻な影響を受けるか？

この発見はエージェントワークフローにとって何を意味しますか？

長期エージェントワークフローが最も深刻な影響を受けます。典型的な例として、下書きを生成・編集・転送するリサーチエージェント、単一ドキュメントが数十の変換を経る複数ステップのドキュメント自動化、エージェントが反復的な要約によって大規模なコーパスを縮小する継続的な要約サイクルが挙げられます。

この研究は「エージェント信頼性の問題はより良いモデルだけで解決できる」という一般的な誤解を暗に否定しています。劣化パターンは十分に系統的であり、アーキテクチャ的解決策が必要であることを示唆しています。グランドトゥルースの保持、定期的な原本との照合、エージェントが転送する前の明示的な改訂レビューなどが挙げられます。

このアプローチは2026年の重要な安全性・信頼性論文の週と連動しています。arXiv:2605.13825 History Anchors（5月14日）、arXiv:2605.12474 Reward Hacking Rubric（5月13日）、arXiv:2605.11882 FATE安全性（5月13日）。Microsoft ResearchのブログとこれらのarXiv論文の組み合わせは、エージェント信頼性研究が独立した学問分野として成熟していることを示しています。