Anthropicが先端AIシステムの開発管理に向けた規制フレームワークを発表

既存の規制がAIに対して不十分な理由

ClaudeアシスタントをてがけるAnthropicは、フロンティアAIシステムの規制に向けた包括的な政策提案を発表した。同文書は「政策はより遅い世界のために設計されている」という前提から出発している——数十年かけて発展してきた規制機関や立法プロセスが、これまでのいかなる産業革命とも比較にならない速度で進化するテクノロジーに直面しているのだ。

文書の核心的なメッセージは、AIの発展フロンティアはもはや技術的問題ではなく、迅速かつ一貫した政府の行動を必要とする社会的・規制的問題であるということだ。

新フレームワークの適用対象は誰か？

Anthropicは適用範囲を明確に定める2つのしきい値を提案している。

• 計算能力： **10²⁵浮動小数点演算（FLOP）**超で訓練されたモデル——最先端システムの訓練に必要な実際の計算能力を反映する指標
• 企業規模： AI収益5億ドル超またはAI研究開発年間支出10億ドル超の企業

これらのしきい値は意図的に高く設定されており、スタートアップや学術機関ではなく、最も強力で潜在的に最も危険なシステムを開発するアクターだけを対象とするよう設計されている。

フレームワークの中核をなす4つの壊滅的リスク

Anthropicは壊滅的と表現し、特別な規制上の扱いを正当化する4つのリスクカテゴリーを特定している。

1. 生物リスク — 適切な安全対策なしに病原体や生物兵器の開発を支援できるAIシステム
2. サイバーリスク — 重大なソフトウェアおよびインフラの脆弱性を大規模に特定できるフロンティアモデル
3. 制御喪失 — 開発者が設定したパラメーターを逸脱し、予測不能な自律行動を招くシステム
4. AI研究の自動化 — AI自身の開発を自動化し、人間の監視の及ばない範囲で指数関数的な進歩を加速させるAI

フレームワークが開発者に求めること

透明性と報告

フロンティアモデルを開発する企業は、安全性評価の要約、壊滅的リスクの評価フレームワーク、モデル能力に関する定期報告を公開しなければならない。AIシステムの能力に関する情報が企業内に留まらないようにすることが目的だ。

独立評価

開発者は、安全性評価をレビューする資格ある独立評価者（サードパーティ評価者）を起用しなければならない。これは従来の自己評価の実践からの大きな逸脱であり——業界が自らのリスクを自ら判断すべきではないという立場を示している。

モデルおよびインフラの保護

文書は特にモデルの重み（model weights）と訓練インフラの保護、ならびにセキュリティプログラムの構造と定期的な防御テスト結果の公開を求めている。

フレームワークが政府に付与する権限

重要な勧告の一つは、政府が重大な壊滅的リスクをもたらすモデルの展開をブロックまたは延期する法的権限を持たなければならないという点だ。加えて、繰り返す違反に対してエスカレートする形で企業のグローバル年間収益に連動した罰金の導入が提案されている——これは大企業に対しても財政的に実効性を持つよう設計されたメカニズムだ。

連邦主義：連邦法と州法の関係

文書は米国における規制管轄権という繊細な問題にも踏み込んでいる。Anthropicは、連邦規制が提案されたフレームワークと同等以上に厳格でない限り、議会は個別州法をプリエンプションすべきではないと明記している。各州は児童保護と消費者保護に関する管轄権を保持すべきであり——これは連邦立法者に対し、低い基準での統一化によって保護水準を下げてはならないという直接的なメッセージだ。

より広い文脈

この文書は、EUと米国の双方でAIシステムの規制をめぐる議論が盛んな時期に発表された。市場で最も強力なAIシステムの一部を開発するAnthropicは、異例の立場をとっている——自社にも適用される規制を支持しているのだ。具体的なしきい値とメカニズムを伴うこの自発的アプローチは、業界が規制圧力に対してしばしば示す抽象的な倫理宣言とは一線を画している。

この提案が実際の立法イニシアチブにつながるかは未知数だが、主要AI開発者の一社から発せられた参照文書として、フロンティアAIシステムの規制の未来をめぐる専門的議論を確実に形作るだろう。