Agentic AI-Powered Re-Identification: An Emerging, Scalable Threat to Mobility Microdata Privacy
该论文研究了一种由智能体人工智能（Agentic AI）驱动的重识别攻击方法，对移动微数据隐私构成新兴的可扩展威胁。背景是商业数据经纪商广泛收集细粒度位置数据，尽管已有研究表明移动轨迹具有高度独特性，但过往重识别攻击需要分析师大量人工操作，
#LLM
共收录 2152 条相关情报。
← 返回所有主题LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity
本文是一篇关于大语言模型（LLM）智能体安全双重性的全面综述，聚焦于两个核心领域：（1）LLM智能体自身面临的安全威胁及缓解策略（智能体自我安全），（2）LLM智能体在赋能网络安全生命周期中的作用（智能体赋能网络安全）。首先，论文系统梳理了
Room for Error: Large-Scale Simulation of Over-the-Air Acoustic Attacks
该论文针对语音控制系统面临的安全风险展开研究，指出当前对空中声学攻击（over-the-air acoustic attacks）的理解存在不足，主要原因在于研究社区难以将数字域对抗样本生成流程扩展至物理世界，导致关键的声学因素（如可探测性
When the Aggregator Cheats: Data-Free Backdoors in Federated LLM-based QA Systems
该论文研究联邦学习（FL）下基于大型语言模型（LLM）的问答（QA）系统中的后门攻击。在联邦学习中，多个客户端本地训练模型，然后由中央服务器聚合更新。传统后门攻击需要攻击者控制客户端或访问训练数据，但本文考虑一个更危险的场景：恶意聚合服务器
PRISM: PE Relational Inter-Section Matrix. A 2D Section-Aware Dataset for Static PE Malware Detection
本文提出 PRISM（PE 节间关系矩阵），一个用于静态 Windows PE 恶意软件检测的开源数据集和特征表示。现有基准（如 EMBER、BODMAS、SOREL-20M）将 PE 文件表示为扁平的一维特征向量，丢弃了节的顺序和节间关系
Application of LLMs to Threat Assessment of Foreign Peacekeeping Missions
该论文提出了一种利用大语言模型（LLM）支持外国维和任务威胁评估的新方法。研究基于PINPOINT项目及其在欧盟格鲁吉亚监测任务中的实际用例，结合跨学科风险模型、开源情报（OSINT）媒体收集和LLM辅助的威胁提取。工作流程将媒体报道映射到
zQR: A Verifiable QR-Driven zkSNARK Proof Verification Framework for Mobile Platforms
隐私是现代社会中个人的基本权利，但隐私保护技术在日常交互中的实际采用仍然有限。零知识证明（ZKP）提供了强大的隐私保证，但其技术复杂性阻碍了广泛应用。本文提出一种可验证二维码（verifiable QR）的概念，使得离线验证者能够验证编码在
Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation
本文研究了大语言模型（LLM）在安全分类任务的微调过程中引入的隐蔽漏洞。通常，LLM在微调后会在同分布留出集上评估，但作者发现这种标准评估无法检测出微调本身带来的新脆弱性：模型可能学习到基于令牌的指示器语义，在保持正常分类准确率的同时，对行
ShareLock: A Stealthy Multi-Tool Threshold Poisoning Attack Against MCP
随着大语言模型驱动的智能体快速发展，模型上下文协议（MCP）作为一种连接LLM与外部工具的开源协议，已成为现代智能体生态系统的基础。然而，MCP的广泛应用也带来了新的安全威胁，例如工具投毒攻击（TPA），即利用LLM与服务器之间的交互注入恶
Jailbreaking for the Average Jane: Choosing Optimal Jailbreaks via Bandit Algorithms for Automatically Enhanced Queries
本研究探讨了非专业恶意行为者是否能够利用广泛传播的越狱攻击手段，成功诱导大型语言模型（LLM）输出有害内容。为此，作者提出了一种基于多臂老虎机（multi-armed bandit）框架的新型攻击策略。该策略允许攻击者通过少量查询的噪声探索
Chai: Agentic Discovery of Cryptographic Misuse Vulnerabilities
本文提出 Chai，一个基于 AI 的漏洞发现系统，专门针对加密误用（cryptographic misuse）这类缺少传统插桩检测支持的漏洞类型。传统 AI 辅助漏洞发现主要依赖内存安全等具有明确插桩验证的漏洞类，而对于加密误用，由于缺乏
A Deterministic Control Plane for LLM Coding Agents
该论文研究了大语言模型（LLM）编码代理（coding agents）的配置管理问题。编码代理通常被授予广泛的文件系统和shell访问权限，但指导其行为的配置层（如规则文件、代理定义、IDE特定的markdown）却缺乏系统化管理。作者对1
MIRROR: Novelty-Constrained Memory-Guided MCTS Red-Teaming for Agentic RAG
本文提出了一种针对多模态智能体检索增强生成（RAG）系统的统一红队测试框架MIRROR。现有红队方法通常针对特定攻击面（如文本投毒、图像注入、直接查询、编排器工具操控），且常复用已知攻击模板，在文本投毒基准测试中重复率高达73-84%。MI
Autoformalization of Agent Instructions into Policy-as-Code
本文提出一种自动形式化（autoformalization）流水线，旨在将智能体指令转化为“策略即代码”（Policy-as-Code），以在高风险领域中实现正式的策略执行。现有方法主要分为两类：一是基于概率性护栏（如微调分类器、提示引导）
Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
大型语言模型（LLM）智能体越来越多地用于查询数据库、检索文档集合、调用外部API、记忆过往交互并代表用户执行操作。随着其应用从简单的问答扩展到处理敏感数据，隐私保护变得更加困难。智能体涉及多个数据源、运行多步工作流、跨会话保持状态，并拥有
OBSan: An Out-Of-Bound Sanitizer to Harden DNN Executables.
本文针对深度学习编译器生成的DNN可执行文件缺乏安全保护的问题，提出了OBSan，一种用于检测DNN可执行文件中越界（Out-of-Bound, OOB）行为的快速消毒器。DNN涉及双向计算：前向传播（预测输出）和后向传播（梯度计算）。神经
Empirical Software Engineering TerraProbe: A Layered-Oracle Framework for Detecting Deceptive Fixes in LLM-Assisted Terraform
该论文针对大型语言模型（LLM）辅助 Terraform 基础设施即代码（IaC）安全修复的评估问题，提出了一种名为 TerraProbe 的五层预言框架。传统评估方式仅依赖静态分析工具的告警消失来衡量修复成功，忽视了规划有效性、行为变更及
VIGIL: Runtime Enforcement of Behavioral Specifications in AI Agent Skills
本文提出VIGIL，一个针对AI智能体系统的运行时执行强制框架。随着智能体系统越来越多地通过第三方技能（skills）执行操作，这些操作可能影响文件、通信渠道和网络物理设备，因此需要有效的安全监控。技能通常附带自然语言规范，定义访问权限、披
Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
该论文聚焦于LLM Agent（大语言模型驱动的智能体）在面对间接提示注入攻击时的防御策略。近期（2024-2026）的研究趋势是从训练模型拒绝恶意指令转向在模型之外通过确定性策略实施安全防御，即带外防御（out-of-band defen
ProvenAI: Provenance-Native Traces of Evidence in Generated Answers
随着检索增强生成系统在问答任务中广泛应用，其提供的引用往往无法反映真实的信息来源影响。本文提出ProvenAI框架，将多跳问答中的透明度分解为三个独立可测量的层次：答案正确性（answer correctness）、引用保真度（citati