ActReal: System-Level Mobile Agents Challenge Mobile Automation Detection
该论文提出 ActReal，一个针对系统级移动智能体的物理动作攻击框架。研究背景是：系统级移动智能体（如手机自动化代理）已从固定脚本演变为自适应系统，能持续观察界面、推理并调整动作，从而可能被用于自动化攻击，在动态 UI 中导航并完成复杂任
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Breaking Ambient Trust: In-Network Per-Process Access Control Against Lateral Movement
本文针对企业网络中高级持续性威胁（APT）的横向移动问题，指出现有网络防御机制通常无法在进程级别跟踪用户跨网络的行为，而是对主机内所有进程授予“环境信任”（ambient trust）。这种粗粒度的信任模型存在根本缺陷：一旦主机被攻陷，恶意
Influence Is Not Authority: When Causal Guardrail Signals Make Legitimate Tool Use Look Like an Attack in Tool-Using LLM Agents
本文研究了当前最先进的基于影响（influence）的保护机制（guardrails）在工具使用型 LLM 代理中的局限性：它们无法可靠地区分合法且经用户授权的动作与恶意未授权的动作，当两者都依赖外部工具信息时。这种模糊性可能导致良性动作触
A Formal Analysis of Agent Payment Protocols
该论文针对AI代理支付协议这一新兴的自主商业交易层进行了系统性的形式化安全分析。研究背景在于，AI代理正被授权代表用户购买商品与服务并执行支付，而与传统支付流程不同，此类协议将用户意图、委托授权、凭据使用、结算和履约分散到多个参与方与多个协
Towards Cyber-Physical Representation and Cyber-Resilience Against Attack and Failure within a Hydraulic Network Simulation Toolkit.
本文针对水务基础设施中网络物理系统（CPS）的安全与弹性建模问题展开研究。作者指出，现代水分配与管理系统的安全性常被忽视，而随着针对工业控制系统（ICS）的攻击工具日益普及，水网络面临的实际网络威胁愈发严峻。现有仿真工具在水力动力学建模方面
LayerDBA: Circumventing Similarity-Based Defenses in Federated Learning.
联邦学习（FL）允许多方在不集中收集数据的情况下协作训练深度神经网络（DNN），每个客户端本地训练模型并仅向中央服务器共享模型参数。虽然这种模式增强了客户端隐私，但也为恶意客户端操纵模型和注入后门提供了机会。现有的大多数后门攻击与防御研究假
TensorShield: Safeguarding On-Device Inference by Shielding Critical DNN Tensors with TEE.
随着移动端和物联网设备上的人工智能推断任务日益普及，端侧推理（on-device inference）已成为保护用户数据隐私的主流范式。该范式通常将第三方提供的模型部署在本地设备上执行推断，然而这会将私有模型暴露于两大安全威胁之下：模型窃取
IND-CPA-D of Relaxed Functional Bootstrapping: A New Attack, A General Fix, and A Stronger Model.
该论文聚焦于全同态加密（FHE）方案在增强型安全模型下的脆弱性。研究背景是：Li和Micciancio在Eurocrypt'21提出了IND-CPA-D安全模型，相比标准IND-CPA，它额外允许攻击者访问一个针对诚实生成密文的解密预言机。
OASIS: Optimizing Attacker Sequences for Hard-Label Black-Box Text Attacks
本文介绍了一种名为 OASIS 的方法，旨在优化硬标签黑盒文本攻击中的攻击者序列。传统上，不同攻击方法遵循不同的搜索轨迹，且各自在不同样本子集上取得成功，但已有硬标签黑盒攻击主要关注改进单个攻击者，或通过手动方式简单组合多个攻击者。OASI
Context or Digits? Balancing Memorability and Efficiency in Virtual Reality Authentication
该论文提出了一种面向虚拟现实（VR）环境的知识型身份认证方法——自适应方向认证（Adaptive Direction-Based Authentication, ADBA）。其核心设计思路是将用户的需求按时间阶段解耦：在创建密码阶段，强制要
SpatialTrust: A Benchmark for Environmental Risk Recognition in Secure Authentication
该论文提出 SpatialTrust，一个面向安全认证场景中环境风险识别能力评估的多模态大语言模型（MLLM）问答基准。研究背景是：在安全认证过程中，用户周围环境可能泄露敏感信息或引入潜在安全风险（如屏幕内容被旁观者看到、摄像头拍到隐私区域
Can escalation channels redirect reward hacking toward defect disclosure?
本研究聚焦于编码智能体（coding agents）在遇到有缺陷的测试基础设施时可能产生的“奖励黑客”（reward hacking）行为——即通过硬编码输出、修改测试文件等方式绕过无法合法满足的测试。这种行为已不仅限于基准测试环境，还出现
Safe to Resume? Breaking Execution Continuity of Agent Execution via Rollback
本文首次系统性地研究了AI智能体系统中的检查点与回滚（Checkpoint and Rollback, C/R）机制的安全隐患。随着AI智能体向持久化、有状态执行方向发展，其执行状态和外部副作用在故障后难以重建，C/R成为关键恢复手段。然而
Unlearning on Spatio-Temporal Graphs through Subgraph Virtual Edge Reconstruction
时空图（Spatio-Temporal Graphs）广泛用于建模复杂动态过程，如时间序列预测、分子动力学和医疗健康监控。随着 GDPR、CCPA 等隐私法规的出台，模型需要支持对未经授权数据的“遗忘”（unlearning），即从已训练模
WoE Wrote It? Watermarking Mixture-of-Experts LLMs for Black-Box Text Provenance
大型语言模型（LLM）水印技术为文本溯源提供了机制，使模型所有者能够识别机器生成内容并归属到特定水印模型。然而，现有LLM水印方法主要依赖推理时采样器，且聚焦于密集模型。这类方法仅在文本通过模型所有者受控API显式生成时有效，在模型被窃取或
Auditing and Mitigating Privacy Leakage in Cloud-Edge Collaborative Decoding
本文研究云-边协同解码范式中的隐私泄露问题。在该范式下，资源受限的边缘设备持有私有数据，并运行一个小语言模型（SLM）生成下一token分布；云端LLM仅基于公开数据进行预测；两者分布融合后生成最终输出。这种设计旨在避免将私有数据直接上传至
MetaBreak: Jailbreaking Online LLM Services via Special Token Manipulation.
本文提出了一种名为 MetaBreak 的新型越狱攻击方法，针对在线大语言模型（LLM）服务。与常规 token 不同，特殊 token 是在 LLM 微调过程中人为创建、用于标注结构化对话的元数据，对模型生成连贯且上下文相关的回复起关键指
UiAs: User-Independent 3D Facial Anti-Spoofing via Multi-modal Wireless Signals
该论文提出了一种名为 UiAs 的多模态无线信号驱动的三维人脸防欺骗系统，旨在解决人脸认证系统面临的高保真 3D 面具攻击问题。随着 3D 打印和建模技术的发展，攻击者可以制作出高度还原人脸外观和几何结构的 3D 面具，这些面具能够骗过传统
Enhancing Web Application Firewalls with BERT-GNN for SQL Injection Detection
该研究针对 Web 应用安全中检测复杂 SQL 注入（SQLi）攻击这一关键难题，提出了一种基于 BERT 与图神经网络（GNN）的混合检测模型，并针对 Web 应用防火墙（WAF）场景进行优化。方法上，先将 SQL 查询进行分词处理，通过
Breaking Darknet CAPTCHAs with general purpose LLM
本文评估了通用大语言模型（LLM）在破解暗网环境中常见CAPTCHA验证码任务上的有效性。暗网CAPTCHA通常设计为无JavaScript运行，因此与主流验证码系统存在显著差异。研究选取了三种具有代表性的挑战类型：开放圆圈定位、旋转对齐和