Google：AIモデルにおけるデータ忘却の監査に向けた新たな統計フレームワーク

Google Researchの研究者Mónica Riberoは2026年6月10日、機械学習アンラーニング監査（machine unlearning auditing）のための新たな統計フレームワークを発表した——AIモデルが訓練データの一部を「忘却」すべき技術的メカニズムだ。本論文はAISTATS 2026への発表が受理されている。

AIシステムにおけるデータ忘却が問題である理由

ある企業が推薦モデルの訓練にユーザーの個人データを使用していたとして、後にそのユーザーがGDPRの忘れられる権利（Right to be Forgotten）に基づいてすべてのデータ削除を要求したとする。ゼロから完全にモデルを再訓練する——そのデータを除外して——ことは計算コストが非常に高く、実際にはほとんど実行不可能だ。代わりに、訓練済みモデルを対象データを「忘却」するよう修正する機械学習アンラーニングアルゴリズムが開発されている。

だが、忘却が本当に成功したことをどう確認するのか？ここに本論文が解決しようとする規制的・技術的問題がある。

従来手法の根本的な欠陥

忘却監査の標準的アプローチは2標本テスト（two-sample tests）を使ってきた。忘却済みモデルの分布をベースラインモデルと比較し、統計的差異を測定する。問題は根本的だ——モデルはパラメーター調整のみで完全にデータを忘却することができない。差異は常に存在し、これが標準テストに正しく訓練された安全なモデルを非準拠として誤判定させる。

Riberoはこの弱点を特定し、構造的にそれを回避するフレームワークを設計した。

Regularized f-Divergence Kernel Tests：分布に対する複数センサー

「Regularized f-Divergence Kernel Tests」と名付けられた中核的革新は、複数の異なる発散尺度（divergence measures）を同時に使用する適応型フレームワークだ。1つの測定機器に異なるタイプの偏差を検出する複数センサーを搭載するようなものだ。

• カイ二乗発散（chi-squared divergence）— 分布のなめらかで局所的な差異を強調する
• カルバック・ライブラー（KL）発散 — 確率分布のグローバルな偏差の標準尺度
• ホッケースティック発散（hockey-stick divergence）— プライバシーと忘却の定義専用に設計され、形式的なプライバシー保証に対応した制御可能なしきい値を持つ

主要な利点として、フレームワークは各シナリオに対して最適な発散と超パラメーターを自動選択し、従来エラーと再現不可能性の源となっていた手動チューニングを不要にする。

3つのモデルを使った相対距離テスト

最も重要な方法論的革新は相対距離の3標本テスト（three-sample relative distance test）だ。「忘却済みモデルはベースラインモデルと異なるか？」という二値的問いの代わりに、三値的に問う。

忘却済みモデルの分布は安全な再訓練済み版に近いか、それとも侵害された元の版に近いか？

この視点の転換により偽陽性が排除される。忘却済みモデルと再訓練済みモデルの差異は常に存在するが、その差異は必ずしも忘却が失敗したことを意味しない——単にモデルが完全な新規訓練済みモデルと同一でないことを示すだけだ。重要なシグナルはどちらのモデルの分布により近いかだ。

フレームワークの実験結果

簡略化された忘却アルゴリズムの評価は明確かつ幾分懸念を招く結果を示した。

• ランダムラベル付け（random label）— 評価を通過。3標本テストはこのバリアントを安全と正しく識別する
• ファインチューニング（finetuning）— 無効。対象データが依然として残存する
• プルーニング（pruning）— 無効。ネットワークが要求情報を保持する
• Selective Synaptic Dampening — 無効。シナプス接続を弱める手法は真の忘却に不十分

加えて、標準的な2標本テストが安全な再訓練済みモデルを非準拠と誤判定した——目的とは正反対の結果だ——一方、新フレームワークはこれらを正しく識別する。

ホッケースティック発散がDP-Auditoriumを上回る

密接に関連する差分プライバシー監査（differential privacy auditing）の分野において、フレームワークのホッケースティック発散バリアントは参照ツールDP-Auditoriumを上回る。

• スパースベクター技術（sparse vector technique）におけるプライバシー違反を、DP-Auditoriumが必要とする数百万に対して数千のサンプルで検出した
• 大規模モデルの監査に必要な計算リソースを大幅に削減する

規制当局と監査人への実践的意義

このフレームワークはAI法制の適用における最も具体的な規制上の課題の一つに取り組む——モデル内部パラメーターや元の訓練データへのアクセスなしに監査人が規制当局に提出できる数学的忘却証明だ。

GDPRコンプライアンスにとって、これは非常に重要だ。これまで組織は忘却が実施されたと主張するだけだった。このツールは統計的検証を可能にする——主張と証拠の違いだ。

本論文はGoogle Researchブログを通じて公開されており、完全な学術論文はAISTATS 2026予稿集に予定されている。