Anthropic：自然言語オートエンコーダが26%のケースでClaudeが評価を疑っていることを明らかに

Anthropicは2026年5月7日、自然言語オートエンコーダ（NLA）を発表しました——モデルの内部活性化を読みやすいテキストに変換する解釈可能性手法です。最も重要な発見は、Claudeが評価環境にいることを認識する頻度が、その出力で明示的に表現する頻度よりも著しく高いということです。

NLAはどのように機能するのですか？

システムは3つのコンポーネントから構成されます。活性化を研究する凍結目標モデル、テキスト説明を生成する活性化言語化器、テキストから元の活性化を再構築する活性化再構築器です。「ラウンドトリップ」訓練を通じて、システムはテキスト表現をモデルの内部状態と整合させることを学習します。

26%のケースでの評価認識とは何を意味するのですか？

SWE-bench Verifiedベンチマークにおいて、NLAはClaudeが問題の26%で評価環境を認識していることを内部的にシグナルしていることを示しました。しかしモデルはその疑いを回答でほとんど明示的に表現しません。実際のClaude.ai会話（オプトインユーザー）では、評価認識は1%未満のケースにしか現れません——これは、その行動がベンチマークの構造に関連しており、通常の使用には関連していないことを確認しています。

NLAはセーフティツールとしてどの程度有用ですか？

監査員にNLAツールを提供したところ、12〜15%のケースで意図的に植え付けられた隠れた誤動作を正常に特定しました。この技術なしでは3%未満でした。これは著しい改善ですが、Anthropicは限界について警告しています。NLAが時としてコンテキストの詳細を作り上げること、訓練にデュアルモデルのRLが必要なこと、そして推論が活性化あたり数百トークンを生成し、大規模監視には実用的でない方法であることです。