USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

ADK 玻尔官方 / ADK编译 2026-08-07 5 分钟 64 次浏览
速览导读 / Summary

USENIX Security 2026 将于 2026 年 8 月在巴尔的摩举行,Bohrium 团队梳理了 12 篇核心论文与四大研究趋势。重点聚焦 AI 代理(Agentic AI)的攻击面扩展,包括通过遥测数据投毒(AIOpsDoom)和超声波语音注入(Sirens' Whisper)等新型攻击。文章还分析了 2026 年研究议程向应用密码学和新兴技术倾斜的结构性变化,为开发者提供关键的安全防御指引。

会议时间 2026-08-12 USENIX Security 2026 正式召开
核心攻击成功率 94% Sirens' Whisper 在测试模型上的非拒绝率
议程变化 +6.4% 应用密码学研究份额增长

Key Insights / 核心看点

  • 1 AIOpsDoom 揭示了 LLM 代理通过篡改遥测数据(Telemetry Manipulation)触发有害修复操作的风险,并提出了 AIOpsShield 防御方案。
  • 2 Sirens' Whisper 展示了近超声波音频攻击可绕过人类听觉,以 94% 的成功率劫持语音驱动的 LLM 模型。
  • 3 USENIX Security 2026 议程显示研究重心从单一 AI 模型转向应用密码学、Web/移动技术及硬件安全。
  • 4 本地加密代理仍存在元数据泄露风险,攻击者可通过 IP 地址和时序模式推断系统行为。

USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

2026 年 8 月 12 日至 14 日,第 35 届 USENIX Security Symposium 将在美国马里兰州巴尔的摩 Marriott Waterfront 举行。随着会议临近,Bohrium 团队已提前梳理了当前公开的 12 篇核心论文,并提炼出四大关键研究趋势,旨在帮助开发者与研究人员提前布局安全防御策略。

研究议程结构性转变:从 AI 集中到应用密码学崛起

对比 2025 与 2026 年的技术议程,USENIX Security 2026 显示出明显的研究重心转移。虽然 AI/ML 安全仍占据 18.9% 的份额,但其主导地位有所减弱,取而代之的是更均衡的分布。

  • 应用密码学(Applied Cryptography):份额增长最大,增加 6.4 个百分点,成为新的研究热点。
  • Web、移动及新兴技术:份额超过翻倍,硬件安全也随之增长。
  • AI/ML 安全:虽然仍是核心议题,但研究场景正从单一模型转向更复杂的系统级应用。

这种变化表明,未来的安全挑战不再局限于模型本身的鲁棒性,而是深入到了 AI 与物理世界、传统软件系统的交互边界。

核心突破:AI 代理的攻击面正在物理化

本次发布的论文揭示了 AI 系统(特别是 Agentic AI)面临的全新攻击向量,攻击者正试图绕过传统的数字边界,利用物理信号和系统内部数据。

1. AIOpsDoom:将遥测数据变为攻击跳板

在传统的 AIOps(AI 运维)系统中,日志、指标和追踪数据被视为可信的系统描述。然而,AIOpsDoom 论文挑战了这一假设。

  • 攻击原理:攻击者通过侦察和模糊测试(fuzzing),将对抗性内容注入到遥测数据中。当 LLM 驱动的代理(Agent)处理这些数据时,会将其误判为需要采取有害的修复措施。
  • 防御方案:论文提出了 AIOpsShield,一种在数据到达代理前对结构化遥测数据进行清洗的机制。测试表明,该方案能有效阻断攻击且不影响正常代理性能。
  • 启示:一旦 LLM 能将遥测数据转化为行动,可观测性数据本身就成了攻击面的一部分。

2. Sirens' Whisper:超声波语音注入

这项研究将提示注入(Prompt Injection)从数字域扩展到了物理声学域。

  • 攻击原理:攻击者将目标指令编码在近超声波(near-ultrasonic)音频中,并通过补偿传输和麦克风非线性,使普通设备在录音后能还原出指令。
  • 实验结果:在测试的商业模型上,攻击成功率高达 0.94(非拒绝率)和 0.925(具体说服力)。在受控听音研究中,参与者无法区分注入音频与背景播放。
  • 风险:这意味着即使是语音驱动的 LLM 接口,也可能在人类听觉无法察觉的情况下被劫持。

3. 本地代理的元数据泄露

另一项研究指出,即使本地运行加密的研究代理,被动观察者仍可通过分析 Web 和 Research Agent 产生的目标 IP 地址和时序模式,推断出系统行为。这提醒开发者,在零信任架构下,元数据(Metadata)的防护同样关键。

对开发者的实际价值

USENIX Security 2026 的议程变化为 AI 安全领域指明了方向:

  1. 强化输入验证:对于 AIOps 系统,必须建立严格的遥测数据清洗机制,防止对抗性样本通过日志干扰决策。
  2. 物理层防御:部署语音交互的 AI 应用时,需考虑声学通道的安全性,避免超声波等不可见攻击。
  3. 关注新兴技术:随着 Web 和移动技术的份额翻倍,跨平台的安全协议和硬件安全模块(HSM)将成为刚需。

USENIX Security 2026 不仅是一场学术盛会,更是检验当前 AI 系统安全边界的试金石。建议开发者密切关注 Cycle 2 论文的发布,以应对即将到来的安全挑战。


注:完整论文列表及 Cycle 2 文件将在会议首日(8 月 12 日)发布。

Once an LLM can turn telemetry into action, observability data becomes part of the attack surface.

AIOpsDoom 论文作者

同主题深度资讯

查看更多 →
产品动态 2026-09-15

Topview 发布 Codex 插件工作流:在 ChatGPT 生态内实现 AI 视频生成

Topview 正式宣布其插件工作流集成至 OpenAI 的 Codex 代理系统,支持在本地桌面端或 CLI 中直接调用生成式模型创建 AI 视频。文章详细区分了 ChatGPT 网页版插件目录与 Codex 本地代理的架构差异,明确了安装路径、OAuth 认证流程及 Canvas 画布工作流。该更新旨在解决开发者在 ChatGPT 生态内调用视频生成模型(如 Seedance, Wan 3.0 等)的碎片化问题,强调 Pro 及以上订阅计划对自动化工作流的必要性。

Topview官方 / ADK编译 5 分钟
模型发布 2026-09-08

Ajelix 自研 GPU 基础设施并推出企业级 Agentic 平台,解决数据主权与生产落地难题

Agentic AI 平台 Ajelix 宣布投资自建 GPU 计算基础设施,并正式发布面向企业的 Ajelix Enterprise Platform。此举旨在解决企业级 AI 落地中数据不可控、审计困难及中断风险等痛点。新平台提供从智能体编排、RAG 知识库到严格治理的全栈能力,支持私有化部署,助力企业将 AI 从实验阶段平稳过渡到生产运营。

Ajelix官方 / ADK编译 4 分钟
AI 工具 2026-09-08

Pixmax 详解 SD2.5 视频生成成本:分辨率与参考视频对定价的影响

Pixmax 平台针对 SD2.5 (Seedance 2.5) 模型发布了详细的计费指南,揭示了影响视频生成成本的关键变量。文章通过具体充值活动案例,计算出在优惠条件下每积分约 0.0267 元的实际成本。核心发现包括:分辨率直接影响单价(480P 低至 0.51 元/秒),且使用参考视频时计费时长为“参考 + 生成”之和。该指南为批量创作者提供了精确的预算规划依据。

Pixmax官方 / ADK编译 3 分钟
技术解读 2026-09-08

Accio Work 发布 F1 电视转播技术深度解析:8K 流媒体与超低延迟架构揭秘

Accio Work 深度编译 F1 TV 如何永久改变体育转播的历程,聚焦于日本市场策略、8K 流媒体技术革新及超低延迟架构。文章揭示了现代体育直播对带宽、编码及 CDN 的极致要求,包括 45% 的带宽消耗增长和亚 200ms 延迟标准。同时探讨了数字观众如何驱动 23 亿美元的周边销售,为开发者与架构师提供了从传统广播向数字化、智能化转型的宝贵案例与技术指标参考。

Accio Work官方 / ADK编译 3 分钟
search · 免费+付费
★ 5.0 · 120评测

玻尔

新一代科研知识库与AI学术搜索平台

玻尔(Bohrium)是深势科技联合北京科学智能研究院(AISI)推出的全球首个覆盖“读文献-做计算-做实验-多学科协同”的AI科研平台。平台以“科学导航(Science Navigator)”为核心,提供强大的AI学术搜索、多模态搜索能力、个性化推荐、知识库管理等功能,帮助科研人员高效筛选文献、整理数据、发现关键问题。玻尔能重构科研流程,释放科研创造力,让人工智能成为科学发现的真正参与者。

查看 玻尔 使用教程与功能