Evaluating LLMs for Real-World Web Vulnerability Detection
该论文评估了六种前沿和开放权重的大型语言模型（LLMs）在实际Web漏洞检测中的能力，专注于WordPress插件中的静态分析。研究涵盖了SQL注入、存储型跨站脚本、路径遍历和远程代码执行四类漏洞，使用了五种不同结构、范围和复杂度的提示设计
#cs.AI
共收录 1681 条相关情报。
← 返回所有主题Sovereign Execution Brokers: Enforcing Certificate-Bound Authority in Agentic Control Planes
本文针对自主代理在云、部署和数据控制工作流中日益增长的应用场景，提出一个关键安全问题：生产环境的变更权限不应存在于非确定性推理过程中。现有访问控制机制主要授权身份，而保证层认证提议的操作，但两者都无法在变更执行的瞬间提供强制性的认证授权执行
Efficient and Sound Probabilistic Verification for AI Agents
本文针对AI代理在复杂数字环境中的安全策略验证问题，提出了一种高效且合理的概率验证框架。现有运行时监控方法通常基于Datalog等形式语言制定确定性策略，但在实际场景中，许多安全策略涉及概率性因素，例如PII检测器或解分类器在每次调用时存在
Calibration Without Comprehension: Diagnosing the Limits of Fine-Tuning LLMs for Vulnerability Detection in Systems Software
本论文研究大型语言模型（LLMs）在系统软件漏洞检测中的真实推理能力，旨在区分模型是真正理解安全漏洞还是仅依赖数据污染进行模式匹配。作者构建了CWE-Trace框架，包含834个手工精心标注的Linux内核样本，覆盖74种CWE类型，并引入
Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems
本文针对基于语言模型的自主AI系统（Agentic AI）面临的提示注入和越狱攻击问题，分析了现有防御策略的局限性，并提出了一种新型防御思路。研究表明，传统的检测-拦截（detect-and-block）策略虽然能拒绝恶意请求，但随着攻击者
Multi-View Decompilation for LLM-Based Malware Classification
本论文探讨了在缺乏源代码的情况下，利用大语言模型（LLM）对恶意软件进行二进制代码分类的问题。传统方法通常依赖单一反编译器生成的伪C代码作为LLM输入，但反编译器是有损的启发式工具，不同反编译器可能揭示同一二进制文件的不同特征。为此，作者构
LLM agent safety, multi-turn red-teaming, jailbreak benchmarks, adversarial robustness, safety-critical systems
本文提出了NRT-Bench，一个用于多轮红队测试LLM代理在安全关键系统中鲁棒性的基准。研究背景是LLM代理越来越多地被提议作为安全关键系统的监督组件，但它们在持续自适应对抗压力下的鲁棒性尚未充分表征。作者将场景实例化为一个模拟的核电站控
FFinRED: An Expert-Guided Benchmark Generation and Evaluation Framework for Financial LLM Red-Teaming
该论文提出了FFinRED，一个专家引导的金融领域大语言模型（LLM）红队测试基准生成与评估框架。现有安全基准主要针对通用对抗性场景，缺乏金融特有的风险（如监管违规、欺诈助长、系统性信任侵蚀）。FFinRED通过与金融专家合作，采用新颖的两
SafeSpec: Fast and Safe LLM via Dynamic Reflective Sampling
大型语言模型（LLM）的推测性推理（speculative inference）虽然能加速解码过程，但本身不提供任何安全保障。现有的安全防御方法大多与推测性推理不兼容：它们要么引入额外计算，要么破坏草稿-验证机制，从而抵消加速优势。这揭示了
Analyzing the Narration Gap in LLM-Solver Loops
该论文关注于将形式化工具（如SAT和SMT求解器）集成到语言模型推理流程中所产生的“叙述差距”问题。在安全或安全关键场景中，问题可被形式化为逻辑公式，求解器提供可验证的正确答案，但最终用户看到的是由LLM将求解器输出转化为自然语言叙述的结果
Secure Coding Drift in LLM-Assisted Post-Quantum Cryptography Development: A Gamified Fix
随着后量子密码学（PQC）的过渡，实现复杂性显著增加，要求严格遵守恒定时间执行、侧信道抗性和精确参数化。同时，大型语言模型（LLM）已深度嵌入软件开发流程，包括密码工程。尽管LLM提高了生产力，但有证据表明它们经常生成不安全或次优的代码，特
TRAP: Benchmark for Task-completion and Resistance to Active Privacy-extraction
本文提出了一个名为TRAP (Task-completion and Resistance to Active Privacy-extraction) 的基准测试框架，用于评估AI代理在涉及敏感隐私信息的文档处理场景中，平衡任务完成准确性与
Code-Augur: Agentic Vulnerability Detection via Specification Inference
本文提出了一种基于代理（agent）的漏洞检测新范式，名为 Code-Augur。当前，由自主 LLM 代理完成的代码审计已能发现数字社会基础软件中的关键漏洞，但这些代理的推理过程不透明且未经验证，导致误报和漏报。Code-Augur 采用
MIDS: Detecting Stealthy Masquerade and Tampering Attacks on CAN Bus via Bidirectional Mamba
该论文针对控制器局域网（CAN）总线面临的安全威胁提出了一种新型入侵检测系统MIDS。CAN总线是现代车辆中电子控制单元（ECU）的主要通信协议，但缺乏加密和认证机制，容易遭受多种攻击。现有入侵检测系统大多针对制造型攻击（如DoS、模糊测试
AI Sandboxes: A Threat Model, Taxonomy, and Measurement Framework
本文提出了一个针对AI沙箱的威胁模型、分类法和测量框架。随着AI系统越来越多地在受限环境中进行评估（结合隔离、仿真、检测、监督和证据捕获），尤其是物理AI、AIoT和网络物理系统，测试环境的可信度和安全性变得至关重要。作者首先形式化了沙箱边
SafeClawBench: Separating Semantic, Audit-Evidence, and Sandbox Harm in Tool-Using LLM Agents
本文提出 SafeClawBench，一个专门用于评估工具使用型大语言模型（LLM）代理安全性的分阶段基准测试。现有安全评估通常将所有失败模式合并为一个攻击成功率指标，难以区分模型仅是同意了攻击者意图，还是实际产生了可观察的损害。SafeC
Learning Red Agent Policy from Observations for Neurosymbolic Autonomous Cyber Agents
该论文针对现代网络中智能自主网络防御代理的需求，提出了一种基于模仿学习的红队（攻击者）策略学习技术。研究背景是：随着网络攻击日益复杂，防御代理通常通过强化学习训练，采用神经符号方法（例如行为树与学习组件结合）来学习、推理、适应和执行安全规则
A Red-Team Study of Anthropic Fable 5 & Opus 4.8 Models
该论文对 Anthropic 开发的两个前沿大语言模型（Fable 5 和 Opus 4.8）进行了系统性的红队测试，评估其对抗自动化越狱攻击的鲁棒性。研究使用 HackAgent 红队框架，生成了数十万次对抗性尝试，覆盖四个自动化越狱攻击
Agentra: A Supervisable Multi-Agent Framework for Enterprise Intrusion Response
企业入侵响应仍依赖于静态剧本和安全分析师的手动操作，导致从告警生成到威胁遏制之间存在严重延迟。为此，本文提出Agentra——一个可监督的多智能体入侵响应系统框架。Agentra以MITRE ATT&CK、MITRE D3FEND和NIST
Structural Role Injection in Handlebars-Templated LLM Prompts: Triple-Brace Interpolation, Delimiter Family, and the Limits of HTML Auto-Escaping
本文研究了Handlebars模板引擎在LLM提示构造中的安全风险，特别是三括号插值（{{{x}}}）与双括号插值（{{x}}）对结构角色注入攻击的影响。Handlebars是Microsoft Semantic Kernel默认的提示模板