OpenAI: ChatGPT が会話全体を通じてリスクを認識——メッセージごとの制御に代わるコンテキスト安全分析

OpenAI は 2026 年 5 月 14 日に安全アップデートをリリースし、ChatGPT のモデレーションメカニズムを個別メッセージレベルから会話全体のレベルへと移行させました。この変更は、大規模モデレーションモデルにおける最もよく知られた弱点の 1 つに対処するものです。それは、単独では無害に見える一連のメッセージによる段階的なエスカレーションを検出できないという問題です。

会話単位の安全分析で何が変わりますか？

従来のモデレーションシステムは各メッセージを独立して評価します。単一メッセージのテキストが中立であれば、審査を通過します。しかし有害な応答を引き出そうとするユーザーはグラデーション的なエスカレーションを行えます。無害な質問の連続が、システムを本来はブロックするコンテンツへと段階的に誘導するのです。会話単位の分析は完全なコンテキストを追跡します。質問パターン、ユーザー状態のコンテキストシグナル、会話の累積リスクプロフィールなどです。

OpenAI は目標を「時間の経過とともにリスクを検出し、より安全に対応すること」と明確に述べています。このアプローチはメッセージのテキストだけに依存するのではなく、会話全体の意味的な軌跡、ユーザー状態のシグナル、次のメッセージにおける潜在的なリスクも考慮します。

システムが対処する具体的な状況はどのようなものですか？

OpenAI は RSS の説明で具体的なカテゴリを挙げていませんが、このようなアプローチは一般的に次のシナリオ向けに設計されています。メンタルヘルスシナリオ（会話を通じた自殺念慮のエスカレーション）、操作・グルーミングの検出、デュアルユースコンテンツ（化学、安全、武器分野では個別の事実は無害でも組み合わさると危険）、そして複数ターンにわたるロールプレイや仮定的なフレーミングを使用したジェイルブレイクの試みなどです。

適応的な応答はどのように機能しますか？

システムが会話がデリケートな領域に入りつつあると検出した場合、ChatGPT はトーンを変えます。より落ち着いた言葉遣いを使い、安全リソース（メンタルヘルス危機ホットラインなど）を提示し、詳細な説明を控えます。適応的な応答は二項対立的なブロックではなく、検出されたリスクレベルに応じてモデレーションの厳しさが段階的に調整されます。

2026 年の OpenAI 安全アプローチにおける位置づけ

このアップデートは OpenAI の激動の 1 週間に合わせて展開されました。Codex Windows サンドボックス（5 月 13 日）、Codex from Anywhere（5 月 14 日）、Sea Limited Codex エンタープライズ（5 月 14 日）、そして今回の ChatGPT 安全アップデート（5 月 14 日）です。OpenAI は明らかに拡張と安全を明確に同時推進しています。新しいプラットフォームと新しい保護機能を並行して提供しています。会話単位の安全性は arXiv:2605.13825 History Anchors の研究にも通じます。この研究では、以前のエージェントの行動が安全でない結果につながる可能性があることが示されました（5 月 13 日発表）。このアプローチは、エージェント的なデプロイメントではなく、消費者向け ChatGPT 側で同様の攻撃クラスに対処するものです。

詳細は RSS の説明から取得しました。openai.com/index/* の全文記事は WebFetch で HTTP 403 を返すため、主要ソースは openai.com/news/rss.xml フィードでした。