ActReal: System-Level Mobile Agents Challenge Mobile Automation Detection
该论文提出 ActReal，一个针对系统级移动智能体的物理动作攻击框架。研究背景是：系统级移动智能体（如手机自动化代理）已从固定脚本演变为自适应系统，能持续观察界面、推理并调整动作，从而可能被用于自动化攻击，在动态 UI 中导航并完成复杂任
#LLM
共收录 2152 条相关情报。
← 返回所有主题Breaking Ambient Trust: In-Network Per-Process Access Control Against Lateral Movement
本文针对企业网络中高级持续性威胁（APT）的横向移动问题，指出现有网络防御机制通常无法在进程级别跟踪用户跨网络的行为，而是对主机内所有进程授予“环境信任”（ambient trust）。这种粗粒度的信任模型存在根本缺陷：一旦主机被攻陷，恶意
Influence Is Not Authority: When Causal Guardrail Signals Make Legitimate Tool Use Look Like an Attack in Tool-Using LLM Agents
本文研究了当前最先进的基于影响（influence）的保护机制（guardrails）在工具使用型 LLM 代理中的局限性：它们无法可靠地区分合法且经用户授权的动作与恶意未授权的动作，当两者都依赖外部工具信息时。这种模糊性可能导致良性动作触
POLYFLOW: A Neuro-Symbolic Framework for Static Cross-Language Information Flow Analysis
现代软件系统通常由多种编程语言混合构建（如 Python 与 C、Java 与 C 的交互），这种跨语言架构会因语言间的语义差异和隐式交互引入难以察觉的漏洞。传统静态分析器受限于不同语言语义的异构性，往往无法有效建模跨语言的数据流；动态分析
A Formal Analysis of Agent Payment Protocols
该论文针对AI代理支付协议这一新兴的自主商业交易层进行了系统性的形式化安全分析。研究背景在于，AI代理正被授权代表用户购买商品与服务并执行支付，而与传统支付流程不同，此类协议将用户意图、委托授权、凭据使用、结算和履约分散到多个参与方与多个协
HSMLog: Small Language Model-Assisted Hardware Security Module Log Anomaly Detection with Behavioral Analysis
该论文提出了一种面向硬件安全模块（HSM）日志的异常检测框架 HSMLog，旨在解决传统方法仅关注孤立事件而忽略跨事件序列、密钥状态、会话及时间模式之间关联性的问题。HSM 是负责密钥管理和加密操作的硬件设备，其日志包含安全关键行为，但异常
JITterFlip: Uncovering Fault Attack Surfaces in JIT-Compiled LLM Serving
本文提出 JITterFlip，一种针对基于 GPU 的 LLM 推理服务中 host-side JIT 编译控制平面的比特翻转攻击（BFA）。现代云上 LLM 推理服务普遍使用 JIT 编译来降低框架与 GPU 启动开销，因此引入了宿主机
AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes
本文针对商用LLM API中模型身份被悄悄替换（如用较小模型替代、量化或包装）导致的不透明现象，提出了一种新的审计方法。现有审计大多基于文本输出通道来判断模型身份，但在代理型（agentic）API场景中，由于模型调用工具时服务堆栈（如Op
Towards Cyber-Physical Representation and Cyber-Resilience Against Attack and Failure within a Hydraulic Network Simulation Toolkit.
本文针对水务基础设施中网络物理系统（CPS）的安全与弹性建模问题展开研究。作者指出，现代水分配与管理系统的安全性常被忽视，而随着针对工业控制系统（ICS）的攻击工具日益普及，水网络面临的实际网络威胁愈发严峻。现有仿真工具在水力动力学建模方面
LayerDBA: Circumventing Similarity-Based Defenses in Federated Learning.
联邦学习（FL）允许多方在不集中收集数据的情况下协作训练深度神经网络（DNN），每个客户端本地训练模型并仅向中央服务器共享模型参数。虽然这种模式增强了客户端隐私，但也为恶意客户端操纵模型和注入后门提供了机会。现有的大多数后门攻击与防御研究假
TensorShield: Safeguarding On-Device Inference by Shielding Critical DNN Tensors with TEE.
随着移动端和物联网设备上的人工智能推断任务日益普及，端侧推理（on-device inference）已成为保护用户数据隐私的主流范式。该范式通常将第三方提供的模型部署在本地设备上执行推断，然而这会将私有模型暴露于两大安全威胁之下：模型窃取
IND-CPA-D of Relaxed Functional Bootstrapping: A New Attack, A General Fix, and A Stronger Model.
该论文聚焦于全同态加密（FHE）方案在增强型安全模型下的脆弱性。研究背景是：Li和Micciancio在Eurocrypt'21提出了IND-CPA-D安全模型，相比标准IND-CPA，它额外允许攻击者访问一个针对诚实生成密文的解密预言机。
OASIS: Optimizing Attacker Sequences for Hard-Label Black-Box Text Attacks
本文介绍了一种名为 OASIS 的方法，旨在优化硬标签黑盒文本攻击中的攻击者序列。传统上，不同攻击方法遵循不同的搜索轨迹，且各自在不同样本子集上取得成功，但已有硬标签黑盒攻击主要关注改进单个攻击者，或通过手动方式简单组合多个攻击者。OASI
Context or Digits? Balancing Memorability and Efficiency in Virtual Reality Authentication
该论文提出了一种面向虚拟现实（VR）环境的知识型身份认证方法——自适应方向认证（Adaptive Direction-Based Authentication, ADBA）。其核心设计思路是将用户的需求按时间阶段解耦：在创建密码阶段，强制要
SpatialTrust: A Benchmark for Environmental Risk Recognition in Secure Authentication
该论文提出 SpatialTrust，一个面向安全认证场景中环境风险识别能力评估的多模态大语言模型（MLLM）问答基准。研究背景是：在安全认证过程中，用户周围环境可能泄露敏感信息或引入潜在安全风险（如屏幕内容被旁观者看到、摄像头拍到隐私区域
Benchmark Contamination: A Taxonomy Organized by Defeated Mitigation
该论文提出了一种以'被击败的缓解措施'为组织维度的基准污染（benchmark contamination）分类法，旨在解决当前排行榜分数中模型能力与数据泄漏在观测上难以区分的问题。作者指出现有污染分类法主要用于自动化检测，但未能回答发布者
Can escalation channels redirect reward hacking toward defect disclosure?
本研究聚焦于编码智能体（coding agents）在遇到有缺陷的测试基础设施时可能产生的“奖励黑客”（reward hacking）行为——即通过硬编码输出、修改测试文件等方式绕过无法合法满足的测试。这种行为已不仅限于基准测试环境，还出现
Safe to Resume? Breaking Execution Continuity of Agent Execution via Rollback
本文首次系统性地研究了AI智能体系统中的检查点与回滚（Checkpoint and Rollback, C/R）机制的安全隐患。随着AI智能体向持久化、有状态执行方向发展，其执行状态和外部副作用在故障后难以重建，C/R成为关键恢复手段。然而
Unlearning on Spatio-Temporal Graphs through Subgraph Virtual Edge Reconstruction
时空图（Spatio-Temporal Graphs）广泛用于建模复杂动态过程，如时间序列预测、分子动力学和医疗健康监控。随着 GDPR、CCPA 等隐私法规的出台，模型需要支持对未经授权数据的“遗忘”（unlearning），即从已训练模
WoE Wrote It? Watermarking Mixture-of-Experts LLMs for Black-Box Text Provenance
大型语言模型（LLM）水印技术为文本溯源提供了机制，使模型所有者能够识别机器生成内容并归属到特定水印模型。然而，现有LLM水印方法主要依赖推理时采样器，且聚焦于密集模型。这类方法仅在文本通过模型所有者受控API显式生成时有效，在模型被窃取或