安全
深度伪造 (Deepfake)
合成媒体——用深度学习生成的虚假人物视频、音频或图像；2025-2026 年虚假信息、诈骗与安全领域的核心隐患。
深度伪造（deepfake） 是一种合成媒体——利用人工智能虚假生成或篡改某人面貌或声音的视频、音频或图像，其逼真程度使人难以与真实内容区分。该词由”deep learning”和”fake”组合而成，于 2017 年末出现。
技术上，深度伪造依赖深度学习：早期版本使用自编码器和生成对抗网络（GAN），而现代系统越来越多地采用扩散模型进行人脸合成、换脸和语音克隆。生成器负责制造虚假内容，随着合成技术超越检测手段，其质量不断提升。
在 2025-2026 年，深度伪造已成为AI 安全的首要隐患之一——政治虚假信息、金融诈骗、伪造名人代言和未经同意的内容。监管机构以标注要求作出回应：欧盟 AI 法案第 50 条要求对人工生成或篡改的内容予以明确披露。