TrafficPulse: A Road-Sensor Assisted Traffic Tweet Misinformation Detection System.
该论文旨在解决社交媒体（特别是X平台）上交通推文中的误信息问题。传统交通事件检测依赖传感器和司机报告，而社交媒体虽能提供实时信息，但面临文本模糊、位置定位困难、以及误导性帖子的挑战。作者提出一个名为TrafficPulse的实时推文验证流水
#agent-security
共收录 1542 条相关情报。
← 返回所有主题Revelio: Cost-Efficient Agentic Memory Safety Vulnerability Detection For Repository-Scale Codebases
本文提出 Revelio，一个面向仓库级代码库的内存安全漏洞检测智能体框架。内存安全漏洞（如缓冲区溢出、释放后使用等）即使在经过大量模糊测试和人工审计的项目中仍然存在。现有基于大型语言模型（LLM）的方法虽有潜力，但存在幻觉、不可靠且难以扩
Deciphering Textual Authenticity: A Generalized Strategy through the Lens of Large Language Semantics for Detecting Human vs. Machine-Generated Text.
本文针对检测机器生成文本（Machine-Generated Text, MGT）这一关键安全问题进行系统研究。随着大型语言模型（LLM）如GPT-4和Dolly的普及，MGT在学术论文、社交媒体等多个领域泛滥，现有检测方法面临两大局限：一
AgentRiskBOM: A Risk-Scoping Security Bill of Materials for Agentic AI Systems
代理型AI系统（Agentic AI systems）能检索私有上下文、调用工具、写入文件、调用外部服务、与其他代理协作，并且可能在未经人类批准的情况下行动。现有的物料清单（BOM）制品（如SBOM、AIBOM、MLBOM）虽然提高了依赖项
Harness-MU: A Safe, Governed, and Effective Harness for Multi-User LLM Agents
本文针对多用户大语言模型（LLM）智能代理在协作流程中面临的治理挑战，提出了一种名为 Harness-MU 的模型无关、零微调基础设施框架。当前LLM的单用户训练范式与多主体治理所需的硬约束之间存在根本性不匹配，导致基于提示的概率性防护措施
Safe to Check, Unsafe to Use: Relinking at the Compression Boundary of LLM Agents
该论文发现了一种针对大语言模型（LLM）代理的新型漏洞，名为“relinking”（重链接）。当前，许多LLM代理系统使用基于摘要的提示压缩技术来缩短长上下文，但在压缩边界上存在安全缺陷：安全过滤器检查的是压缩前的原始提示，而后端系统实际执
AgenticOS: An Intent-Oriented Secure Operating System Architecture for Autonomous AI Agents
随着大语言模型驱动的自主代理获得规划、工具使用、网络访问和代码执行等能力，传统基于“资源暴露+权限检查”的操作系统安全模型面临结构性挑战。一旦代理运行时遭受提示注入或恶意工具输出攻击，攻击者可以组合POSIX风格的资源原语，产生远超用户任务
Sovereign Execution Brokers: Enforcing Certificate-Bound Authority in Agentic Control Planes
本文针对自主代理在云、部署和数据控制工作流中日益增长的应用场景，提出一个关键安全问题：生产环境的变更权限不应存在于非确定性推理过程中。现有访问控制机制主要授权身份，而保证层认证提议的操作，但两者都无法在变更执行的瞬间提供强制性的认证授权执行
Efficient and Sound Probabilistic Verification for AI Agents
本文针对AI代理在复杂数字环境中的安全策略验证问题，提出了一种高效且合理的概率验证框架。现有运行时监控方法通常基于Datalog等形式语言制定确定性策略，但在实际场景中，许多安全策略涉及概率性因素，例如PII检测器或解分类器在每次调用时存在
Calibration Without Comprehension: Diagnosing the Limits of Fine-Tuning LLMs for Vulnerability Detection in Systems Software
本论文研究大型语言模型（LLMs）在系统软件漏洞检测中的真实推理能力，旨在区分模型是真正理解安全漏洞还是仅依赖数据污染进行模式匹配。作者构建了CWE-Trace框架，包含834个手工精心标注的Linux内核样本，覆盖74种CWE类型，并引入
Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems
本文针对基于语言模型的自主AI系统（Agentic AI）面临的提示注入和越狱攻击问题，分析了现有防御策略的局限性，并提出了一种新型防御思路。研究表明，传统的检测-拦截（detect-and-block）策略虽然能拒绝恶意请求，但随着攻击者
LLM agent safety, multi-turn red-teaming, jailbreak benchmarks, adversarial robustness, safety-critical systems
本文提出了NRT-Bench，一个用于多轮红队测试LLM代理在安全关键系统中鲁棒性的基准。研究背景是LLM代理越来越多地被提议作为安全关键系统的监督组件，但它们在持续自适应对抗压力下的鲁棒性尚未充分表征。作者将场景实例化为一个模拟的核电站控
A Measurement Study of Cryptographic Misuse in Embodied AI Mobile Applications
本文对嵌入AI（EAI）移动应用中的密码学误用进行了首次大规模测量研究。随着EAI应用从辅助界面演变为主动控制路径，移动端的密码学安全直接关系到网络物理信任。然而，现有安全研究主要关注EAI设备和云基础设施，忽视了移动控制层这一关键攻击面。
SafeSpec: Fast and Safe LLM via Dynamic Reflective Sampling
大型语言模型（LLM）的推测性推理（speculative inference）虽然能加速解码过程，但本身不提供任何安全保障。现有的安全防御方法大多与推测性推理不兼容：它们要么引入额外计算，要么破坏草稿-验证机制，从而抵消加速优势。这揭示了
When Global Gating Is Enough: Admission-Time Hubness Control in Anisotropic Vector Retrieval Systems
该论文针对检索增强生成（RAG）系统中存在的向量中心（hubness）投毒风险提出了一种轻量级的准入时防御方法。在RAG中，少量文档可能成为大量查询的最近邻，这种“中心”现象使得攻击者可以通过注入一份恶意文档影响多个不相关请求的回答，构成数
Analyzing the Narration Gap in LLM-Solver Loops
该论文关注于将形式化工具（如SAT和SMT求解器）集成到语言模型推理流程中所产生的“叙述差距”问题。在安全或安全关键场景中，问题可被形式化为逻辑公式，求解器提供可验证的正确答案，但最终用户看到的是由LLM将求解器输出转化为自然语言叙述的结果
Secure Coding Drift in LLM-Assisted Post-Quantum Cryptography Development: A Gamified Fix
随着后量子密码学（PQC）的过渡，实现复杂性显著增加，要求严格遵守恒定时间执行、侧信道抗性和精确参数化。同时，大型语言模型（LLM）已深度嵌入软件开发流程，包括密码工程。尽管LLM提高了生产力，但有证据表明它们经常生成不安全或次优的代码，特
CodeSentinel: A Three-Layer Defense Against Indirect Prompt Injection in Code Contexts
该论文提出 CodeSentinel，一种针对代码大语言模型（Code LLM）中间接提示注入攻击的三层推理时防御系统。研究背景：代码大语言模型在编程辅助中常从外部仓库、文档、问题线程和编码智能体环境检索代码上下文，攻击者可利用此过程在注释
PhantomSkill: Malicious Code Injection in Agent Skill Ecosystems
本文提出了名为 PhantomSkill 的攻击框架，针对基于大型语言模型（LLM）的编码代理（coding agents）所使用的技能生态系统。此类代理通过安装第三方技能包获取特定领域能力，但这也引入了新的供应链攻击面。PhantomSk
TRAP: Benchmark for Task-completion and Resistance to Active Privacy-extraction
本文提出了一个名为TRAP (Task-completion and Resistance to Active Privacy-extraction) 的基准测试框架，用于评估AI代理在涉及敏感隐私信息的文档处理场景中，平衡任务完成准确性与