Evaluating the Impact of Personalization in Conversational Cybersecurity Assistants
该论文研究如何通过个性化策略提升基于大语言模型（LLM）的网络安全助手的回答效果。研究动机来自一个现实矛盾：用户越来越多地向 LLM 咨询网络安全问题，但在获得建议后往往并不真正执行——仅提升回答的技术准确性，并不足以改善用户对安全建议的理
#LLM
共收录 2152 条相关情报。
← 返回所有主题Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks
该论文重新审视了 Thompson 在《Reflections on Trusting Trust》中提出的编译器后门问题，将其扩展到自我修改的 AI 编码代理场景。传统攻击中，被污染的编译器即使重新编译干净源码也会重新插入后门；作者提出疑
Trust propagation and structural containment in Multi-agent LLM pipelines
该论文研究多智能体 LLM（大语言模型）流水线中的攻击传播机理与结构性遏制手段。研究对象是一个基于 LangGraph 构建的四智能体流水线，包含 Supervisor（监督者）、Researcher（研究者）、Validator（校验者）
Plug 'n' Pray: Agentic LLM-based Detection of Potential Log File Exposures in Third-Party Content Management System Plugins
内容管理系统（CMS）承载了约 58% 的网站，其中 WordPress 占据主导地位；通过第三方插件进行功能扩展既是其流行的重要原因，也是其攻击面的主要来源。本文聚焦一个高影响但研究不足的弱点：CMS 插件产生的日志文件暴露。插件出于调试
Making AI-Assisted Claims Independently Challengeable: Publication Authority and a Protocol for Falsifiable Publication Records
论文关注一个在 AI 辅助内容生产中日益突出的治理问题：当证据、分析过程、人工授权、对外呈现以及勘误历史分别指向不同的状态时，AI 辅助产生的结论会显得具有权威性，实际上各环节并不自洽。作者指出，现有的出处（provenance）、远程证明
ROSETTA: Efficient and Accurate Privacy-Preserving LLM Decoding via Hybrid CKKS/TFHE Evaluation
该论文关注大模型私有推理中的性能瓶颈问题。生成式 LLM 在代码生成、问答等任务上表现优异，但其自回归解码（autoregressive decoding）逐 token 顺序生成，部署时会将用户输入与提示暴露给服务方，引发严重隐私顾虑，因
InceptionRAG: Stealthy Poisoning Attack Against Retrieval-Augmented Generation
本文研究检索增强生成（RAG）系统的语料库投毒威胁。现有针对 RAG 的投毒攻击大多属于「单点显式注入」，即把恶意载荷完整封装在单一文档中，因此近年出现的缓解机制能够较有效地识别并削弱这类威胁。作者首先通过实验验证：面对「间接逻辑诱导」这一
When Agents See Differently: Exposing UI Desynchronization Threats in Mobile Agents
该论文研究移动智能体（mobile agent）在与手机应用交互时的感知可靠性问题。当前移动智能体已能自主操作用户 App 并代为执行具有实际后果的动作，而有效的人类监督依赖一个基本前提：用户与智能体从同一界面看到一致的信息。作者指出这一前
Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives
该论文关注的是由大语言模型驱动的自主渗透测试智能体（AI-powered penetration testing agents）所引入的新型安全风险。作者指出，这类智能体与传统的对话式 LLM 系统存在本质差异：它们具备持久化记忆、能够在真
MarkSec: Capability-Aware Evaluation of Adversarial Attacks Against LLM Watermarks
该论文关注大语言模型（LLM）文本水印在对抗环境下的评测问题。水印的作用是帮助追溯生成文本的来源，但它面临三类对抗攻击：窃取攻击（stealing，从带水印文本中恢复水印信息）、擦除攻击（scrubbing，去除文本中的水印信号）和伪造攻击
Evaluating the NIST Bugs Framework Against CWE as a Successor for Automated Vulnerability Classification
该论文关注漏洞分类这一网络安全基础能力。当前业界普遍使用 MITRE 的通用弱点枚举（CWE）作为根因弱点的公共知识库，但 CWE 条目之间存在大量语义重叠，结构上并非正交，导致同一个漏洞往往可被映射到多个弱点类别。这一缺陷使得根因分析（R
Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
开放权重模型的安全护栏很容易被「拒绝特征消融」(Refusal Feature Ablation, RFA) 绕过：该技术通过对比估计器在残差流中定位一个线性的「拒绝方向」，再将它从权重/激活中投影剔除，从而在几乎不损失模型通用能力的前提下
Permutation-Based Stegomalware in Large Language Models: Threats and Countermeasures
该论文研究的是大语言模型（LLM）供应链中的隐写恶意软件（stegomalware）威胁：由于 LLM 训练成本极高、生态高度依赖第三方开源权重，攻击者可以把恶意负载直接编码进模型权重文件中，从而在模型分发环节完成投递。此前的相关工作曾利用
Adversarial Testing of Automated Program Repair Agents for Security Vulnerabilities
随着基于大语言模型（LLM）的软件智能体（Agent）被广泛用于自动化程序修复（Automated Program Repair, APR），未来 APR 智能体很可能在没有多少人工干预的情况下自动修复缺陷，这引出了一个关键问题：在此类场景
Vulnerability Localization Benchmark: Measuring Agentic Security Analysis at Repository Scale
随着语言模型代理越来越多地被用于处理完整软件仓库，现有网络安全评测多聚焦于代理能否检测、复现或修复漏洞，却很少衡量它们能否真正“定位”到相关代码。本文提出“漏洞定位（vulnerability localization）”这一任务：给定一个
Authorization Architectures for Tool-Using AI Agents
该论文是一篇面向「工具调用型 AI 智能体」授权体系的系统性综述，作者来自产业与研究机构。文章指出：能够自主调用 API、数据库、浏览器以及 MCP（Model Context Protocol）等智能体间协议的 AI Agent 正在成为
The Model Proposes, the Code Disposes: A Pre-Registered Ablation of a Verifier-and-Acceptance Stage in an LLM-Orchestrated Offensive-Security Agent
该论文研究一个常被忽视的工程问题：在由 LLM 编排的进攻性安全 agent 中，最终上报的漏洞发现是否需要经过一个“校验—验收”阶段，以及这个阶段究竟改变了什么。作者 Theodoros Moutesidis 采用预注册的实证方法，分三步
LLM-Based Schema-Aware Split Learning for Privacy-Preserving Mental Distress Prediction Across Heterogeneous Surveys
随着社会与生活方式复杂度上升，全球心理健康困扰的患病率持续增长。教育机构、职场与诊所等组织积累了海量的心理健康问卷调查数据，若能进行跨机构的协作分析，就有望训练出更具泛化能力、可有效识别心理困扰的预测模型。然而这一目标面临两大障碍：一是隐私
Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks
大型语言模型（LLM）智能体在集成外部工具后可完成多步复杂任务，能力显著提升，但其对提示的开放性以及对工具的操控能力也带来了新的攻击面。本文聚焦四类针对工具集成 LLM 智能体的对抗攻击：直接提示注入、间接提示注入、记忆投毒与后门攻击，并尝
RAG-CT: Mitigating Privacy Risks on Retrieval-Augmented Generation Systems via Scanning Prompt Distribution
检索增强生成（RAG）通过在生成阶段引入外部知识库的检索结果，显著降低了大型语言模型的幻觉与事实性错误，已成为提升 LLM 输出质量的主流范式。然而近期研究揭示了一个关键隐私漏洞：攻击者可构造特定查询，借助检索环节从底层语料库中提取个人可识