安全
ディープフェイク（Deepfake）
合成メディア——深層学習で生成された人物の偽動画・音声・画像で、2025-2026 年の偽情報・詐欺・安全性における中心的な懸念です。
**ディープフェイク（deepfake）**とは合成メディアの一種で、人工知能を用いて人物の容姿や声を偽って生成・改変した動画・音声・画像を指し、本物との区別が難しいほどの写実性を持ちます。名称は「deep learning」と「fake」を組み合わせたもので、2017 年末に登場しました。
技術的には、ディープフェイクは深層学習に依存します。初期はオートエンコーダや敵対的生成ネットワーク（GAN）を用いていましたが、現代のシステムは顔合成・顔交換（face swap）・音声クローンに拡散モデルを採用することが増えています。生成器が偽コンテンツを作り出し、合成技術が検出器を上回るにつれて品質が向上し続けています。
2025-2026 年にかけて、ディープフェイクはAIセーフティの最重要懸念の一つです——政治的偽情報、金融詐欺、偽の著名人広告、同意のないコンテンツなど。規制当局は表示義務で対応しており、EU AI法第50条は人工的に生成・改変されたコンテンツを明確に開示することを求めています。