Resemble AI 发布 2026 年 8 月 Deepfake 监控周报：Meta 广告违规与欧盟强制水印新规
Resemble AI 于 2026 年 8 月 7 日发布了最新的《Deepfake Watchlist》，该周报旨在监控全球范围内由合成媒体引发的新闻周期事件、持续案例及争议内容。本周报告揭示了 AI 生成内容（AIGC）在商业推广与金融安全领域的严峻挑战，以及全球监管框架的重大转变。
核心事件：Meta 广告库中的 AI 生成 CSAM 违规
本周最受关注的负面事件涉及 Meta 平台。据 Wired 报道，Tech Transparency Project 研究人员在 Meta 的广告库中发现了超过 50 则包含 AI 生成儿童性虐待材料（CSAM）的付费广告，这些广告曾横跨 Facebook、Instagram、Messenger 和 Threads 运行。
- 违规细节：广告将 AI 生成的未成年人图像与性暗示文本结合，并链接至“nudify”等脱衣应用。这些广告并非隐藏在角落，而是被 Meta 自身的透明度工具（Ad Library）索引，部分广告在欧洲运行长达数月，甚至触达 2,563 个账户。
- 攻击向量：攻击者利用 Meta 的标准审查流程提交广告，且 Meta 内部此前未采取任何执法行动，直到 Wired 介入后才被下架。
- 行业影响：这一事件表明，付费广告管道已成为 AI 生成剥削材料的新型分发渠道，将问题从用户生成内容（UGC）转移到了平台批准的商业投放中。这引发了对 Meta 现有审查系统有效性的基本质疑。
安全警示：AI 语音诈骗（Vishing）渗透顶级金融机构
在金融安全领域，AI 语音钓鱼（Vishing）攻击已升级。Investing.com 披露，2026 年 8 月初，Wall Street 多家顶级资产管理公司遭到了协调的 AI 语音诈骗攻击。
- 目标对象：攻击者针对 Two Sigma（资产规模 750 亿美元）、Citadel、Point72 和 Millennium Management 等机构。
- 攻击手法：利用高精度语音克隆技术，模仿高管及同事的声音、语调及措辞，诱导员工泄露凭证或授予系统访问权限。
- 安全趋势：Two Sigma 确认已挫败攻击且无数据泄露，但 Citadel 和 Point72 未予评论。此次事件表明，AI 生成的语音克隆已达到足以针对高净值金融机构的信用水平，所有仍依赖电话认证的机构均需警惕。
监管里程碑：欧盟 AI Act 透明度规则正式生效
在合规领域，重大进展在于欧盟 AI Act 第 50 条于 2026 年 8 月 2 日正式生效。该条款强制要求 AI 系统提供商和部署者对可能以真实形式呈现的合成内容进行标记。
- 强制要求：新系统必须立即合规，现有系统拥有四个月过渡期。提供商需嵌入机器可读的水印，部署者需确保深度伪造和 AI 聊天机器人交互可见标记。
- 行业影响：约 190 家公司（包括 Resemble AI）已签署自愿行为准则，但法规本身具有强制性。尽管计算机与通信工业协会（CCIA）对“深度伪造”定义的扩大表示担忧，但欧盟成为全球首个大规模强制实施溯源基础设施（水印和标签）的主要司法管辖区。
其他动态：xAI 挑战州级禁令
此外，美国联邦法官 Donovan Frank 驳回了 Elon Musk 旗下 xAI 公司要求暂停明尼苏达州“去拟态化”（nudification）禁令的紧急动议，允许该州法律生效。这进一步表明，针对 AI 生成内容的法律监管正在全球范围内迅速收紧。
“Deepfake Watchlist 是我们每周对合成媒体事件、持续案例和争议内容的监控。随着欧盟强制标签规则的生效和攻击向金融核心渗透，保护用户和企业免受威胁的责任比以往任何时候都更加紧迫。” —— Resemble AI 联合创始人兼 CEO Zohaib Ahmed
