From Runnable to Verifiable: An Independent Reproducibility Study of LLM/Agent-Driven Vulnerability Validation Artifacts
该论文针对 LLM/agent 驱动的漏洞验证工件（如 PoC 仓库、验证管道）的可复现性与可靠性进行了一项预注册的独立审计研究。研究背景是：随着大语言模型与自动化代理被用于漏洞挖掘和验证，安全社区产生了大量自动化生成的安全工件，但工件'可
#LLM
共收录 2152 条相关情报。
← 返回所有主题Dual-Adversarial Safety Alignment: Cultivating Intrinsic Threat Comprehension in LRMs
本论文针对大型推理模型（LRMs）在复杂任务上表现优异但易受有害提示诱导而输出不安全内容的问题，提出了一种名为 AdvSafe 的双对抗安全对齐框架。现有对齐方法通常依赖直接拒绝或安全推理，但往往局限于提示模式而非内在攻击机制，导致难以泛化
RangeFactory: Scalable Construction of Multi-Hop Cyber Ranges
本文提出的 RangeFactory 是一个面向多跳网络靶场（cyber range）的自动化编排框架，核心目标是解决现有靶场构建无法自动将大量孤立漏洞环境组合为端到端验证的多跳攻击链的问题。现实中的网络攻击通常需要跨越多个主机和网段持续推
STAIR: Effective Incident Response Using an End-to-End Agentic Planning Framework
事件响应规划（Incident Response Planning）是网络攻击后恢复受损系统的关键环节。传统上依赖专家编写的剧本（playbook），但这些静态工作流难以适应不断变化的事件状态、恢复目标和执行反馈。近年来，基于大语言模型（L
ANTMAN: An Efficient and Interpretable RTL-Level Run-Time Detection Framework for Stealthy Branch Predictor Attacks on BOOM
本文提出了一种针对RISC-V BOOM处理器上隐晦分支预测器攻击的RTL级运行时检测框架ANTMAN。研究背景是：与x86和ARM指令集相比，RISC-V在微架构侧信道攻击的运行时检测方面研究明显不足，而分支预测器攻击通过直接利用内部历史
ActBench: Self-Evolving Benchmark of Behavioral Safety in Cowork Agents
本文提出并构建了 ActBench，一个面向人机协作智能体（cowork agents）行为安全性的自进化基准测试。与以往仅关注模型最终回答安全性的评估不同，ActBench 从执行轨迹（execution trajectories）层面评
Economic Impact Assessment of Denial-of-Service and Time-Delay Attacks on Advanced Metering Infrastructure
该论文针对高级计量基础设施（AMI）在遭遇拒绝服务（DoS）和时延攻击（TDA）时的经济影响进行了系统评估。AMI在现代电力系统中通过提供近实时的用电数据来支撑运行规划和负荷估算，但其通信网络容易受到多种网络攻击，导致数据可用性受损。研究者
Track me if you can: Ephemeral coin tracing
隐私保护支付系统在理论上已相当成熟，但在中心化数字货币（CBDC）、机构稳定币及其他合规支付基础设施等受监管场景中的采用，长期受制于其对非法活动可能被滥用的担忧。监管机构通常依赖识别、追踪和阻止犯罪者的一系列互补措施来打击金融犯罪，其中“追
Governing the KV Cache: Preventing Timing Side-Channel Leakage in Multi-Tenant LLM Inference
本文研究多租户大语言模型（LLM）推理场景中 KV 缓存引发的时序侧信道泄露问题。KV 缓存是现代 LLM 推理的关键吞吐优化手段，通过跨请求复用前缀来加速生成；但在多租户部署中，该缓存被多个租户共享，攻击者可以利用缓存命中延迟差异，重建其
Memoir: Learning, Verifying, and Evolving False-Positive Memories for Static Application Security Testing Tools
本文关注静态应用安全测试（SAST）工具的高误报率问题。SAST工具在现代安全软件开发中不可或缺，但生成的误报（FP）告警会带来大量人工审查成本，并降低开发者信任。现有误报缓解方法面临两大挑战：一是不同SAST工具与漏洞类别间差异大，难以学
Beyond Direct Identifiers: Probabilistic Privacy Risk Estimation for Privacy-Conscious LLM Query Delegation
该论文针对用户与大语言模型（LLM）交互过程中的隐私保护问题展开研究。现有的隐私保护方法通常只关注直接的显式标识符，即标准检测器能捕获的个人身份信息（PII），例如姓名、邮箱、电话等。然而，隐私风险并不仅仅源于显式标识符，还包括不含PII的
Joint Lyapunov Certificates for K-Agent Generative AI Governance: Stochastic Stability, Emergent Ensemble Risk, and Zero-Knowledge Governance Attestation
本文提出一个面向多智能体生成式AI系统治理的严格数学框架，聚焦于K个自适应性生成式AI模型在模型风险管理（MRM）原则下的联合稳定性与零知识证明问题。研究背景在于：当多个模型通过交互矩阵形成元学习耦合时，传统基于单个智能体的Lyapunov
Telemetry and Concealment in Self-Adapting Generative AI: Logging Architecture, Adversarial Model Hiding, and the Limits of Detection
传统模型风险管理（MRM）指南假设模型生命周期是静态的：模型经过开发、独立验证和部署后，不再进行自主修改。然而，持续自适应的生成式AI系统——即在生产部署过程中会不断更新自身权重的模型——从根本上违背了这一假设，使得时点验证（point-i
Repeated-Game Security for Restaking-Based Verifiable Inference
本文研究基于再质押（restaking）协议的可验证大语言模型（LLM）推理安全问题。这类协议通过经济惩罚机制（slashing）取代了 zkML 的高昂证明成本或 TEE 的硬件信任假设，从而以较低成本实现推理的可验证性。现有安全性论证通
DP-Sniper: Black-Box Discovery of Differential Privacy Violations using Classifiers.
DP-Sniper 是一种实用的黑盒方法，用于自动发现差分隐私（Differential Privacy, DP）实现中的违规行为。差分隐私是保护数据隐私的严格数学定义，但实际实现常因浮点误差、算法简化或实现缺陷而违背其保证。DP-Snip
PCAT: Functionality and Data Stealing from Split Learning by Pseudo-Client Attack.
本文提出了一种针对分割学习（Split Learning）框架的新型攻击方法，命名为伪客户端攻击（Pseudo-Client Attack, PCAT）。分割学习是一种保护隐私的分布式机器学习范式，其中客户端在本地保留部分模型层，仅将中间激
Towards Transparent and Stealthy Android OS Sandboxing via Customizable Container-Based Virtualization.
本文针对移动设备上虚拟化技术的需求与挑战展开研究。随着智能手机用户对移动虚拟化技术的需求快速增长，该技术允许在同一设备上运行多个相互隔离的虚拟手机环境，从而支持用户同时运行同一应用的多个副本，或将不可信应用放入隔离的虚拟手机中运行，以避免对
Context Is Not Authority: Structured Runtime Governance for Financial Market Agents
本文提出 SAGE-Fin，一个面向金融场景智能体（agent）的运行时治理框架，核心论点是“上下文不等于授权”。作者指出，金融智能体在对话或任务执行中可能将正确的上下文错误地转化为未经授权的实际动作，例如做出客户承诺、执行交易或部署策略。
Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation
该论文针对检索增强生成（RAG）系统中的隐私防御措施提出了一种基于源码的主动路径审计方法论。研究指出，黑盒隐私分数难以解释，除非明确被审计防御机制在系统管线中的实际挂钩点。为此，作者提出了主动路径审计方法：首先对检索、检索内容处理以及生成三
Toward Metacognitive One-Shot Indirect Prompt Injection: Strategy Abstraction Via Outcome-Conditioned Reflection
该论文针对工具型大语言模型（LLM）智能体面临的间接提示注入（IPI）威胁展开研究。IPI 指攻击者将恶意指令嵌入外部观察数据中，从而操纵智能体的后续决策与行为。现有自适应攻击大多依赖对目标智能体进行反复查询和调整，但现实攻击者可能只有一次