CIPHER: Benchmarking Cross-record Inference over Privacy-Hardened Evidence Records
CIPHER 是一个面向隐私脱敏证据记录上的跨记录推理基准测试。在金融、医疗和执法等真实场景中，推理往往需要同时结合结构化属性（如表格字段）与自由文本叙述中的非结构化证据，而隐私保护措施（如脱敏、替换）会进一步增加推理难度。现有数据集大多只
#cs.AI
共收录 1660 条相关情报。
← 返回所有主题AgentDrift: A Step-Labeled Benchmark of Injection-Hijacked LLM Agent Trajectories
本论文提出了 AgentDrift，一个用于研究针对 LLM 代理的间接提示注入劫持轨迹的逐步标注基准。LLM 代理通过调用工具完成任务，而每次工具返回的观察结果都可能成为间接提示注入的入口。成功的注入在按顺序读取轨迹时呈现特殊形态：一段良
Characterizing Contention-Induced Reliability Collapse in KV-Cache Timing Side Channels for Multi-Tenant LLM Serving
该论文研究多租户大语言模型（LLM）服务场景下，共享KV缓存（key-value cache）重用所引发的定时侧信道攻击在真实并发负载下的可靠性问题。尽管已有工作表明此类攻击可行，但在实际多租户竞争环境中其稳定性尚未被充分理解。作者在真实共
WAPP: Safe Learning of Positive Security WAF Policies from Live Traffic
传统 Web 应用防火墙（WAF）主要依赖签名检测已知攻击，面对变种或未见过载荷容易留下防护缺口。正向安全（positive security）通过刻画合法流量形态并阻断偏离该形态的输入，作为补充思路，但其关键难点是：直接从实时流量学习可能
Skynet: Workflow-Level Anomaly Detection for Agentic AI via Semantic and Structural Modeling
本文提出 Skynet，一个面向 Agentic AI 的工作流级异常检测框架。Agentic AI 系统通过长期多步骤工作流执行复杂任务，涉及规划、工具调用和多智能体协作。任务失败往往起源于单个步骤（如注入提示或错误计划），并通过下游依赖
AURA-Eval: Evaluation Framework for Acting Under Risk Awareness in LLM Agent Trajectories
本文提出 AURA-Eval，一个用于评估大语言模型智能体在工具调用轨迹中“风险感知下的行动”能力的框架。现有安全评估往往将行为简化为单一分数，难以区分模型是否真正识别风险、是否在行动前有预检测能力，以及在存在安全解决方案时能否安全完成任务
A Trustworthy Watermarking Framework for LLM-Generated Food Safety Content
本文针对大语言模型（LLM）生成内容在食品安全等关键领域被篡改的风险，提出了一种名为 ToSS（Token Oriented Repartitioning and Strategic Selection）的可信水印认证框架。该框架采用自适应
Detokenization Leaks: Reconstructing Local LLM Outputs From Cache Traces
本文提出了一种针对本地部署大语言模型(LLM)的侧信道攻击方法，通过观察 CPU 缓存活动来重建模型生成的文本。与以往依赖特定部署条件(如共享数据内存、CPU offloading 或 Mixture-of-Experts 架构)的攻击不同
A TTP by TTP Approach: Precise Malware Detection via Malicious TTP Recognition
本文研究网络流量中的恶意软件检测问题。当前基于机器学习特别是神经网络的方法虽然高效，但存在两个结构性缺陷：其一，模型纯粹由数据驱动，忽略了网络安全领域已有的战术、技术与过程（TTP）知识库，导致模型无法将检测到的恶意行为与具体攻击手法关联；
A Translational Note on AI Safety Evaluation
该论文是一篇关于AI安全评估方法的评论性研究，聚焦于自动化红队与人工红队在标准AI安全基准上的表现对比所引发的误读。近期研究声称自动化红队能以更低成本发现更多漏洞，并有人据此认为人工评估者正变得可有可无。作者指出，这种比较存在根本性的测量与
SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure
本文提出 SRD-GUARD，一种面向大语言模型（LLM）的免参数、黑盒防御框架，用于对抗越狱（jailbreak）攻击。越狱攻击常通过角色扮演、虚构场景或看似合理的动机隐藏有害意图，现有推理时防御要么漏掉伪装攻击，要么过度拒绝合法请求。S
SIDE: Sensor Impersonation Detection at the Edge via Sequence Prediction
本文提出了一种面向低成本物联网（IoT）传感器部署的轻量级传感器冒充检测方法，并命名为SIDE（Sensor Impersonation Detection at the Edge）。研究背景是许多低成本的IoT传感器缺乏设备级源认证，容易
It is Not Yet Another Tool: Creating and Deploying an Agentic AI Companion in a Security Operations Center
本文介绍了作者团队在真实安全运营中心（SOC）中设计、开发并部署一个智能体式 AI 助手（agentic AI companion）的长期实地研究成果。SOC 每天需要处理大量工单，其中绝大多数是低关注度事件，不值得深入调查，而这类重复性劳
Scratchy: Visual-Scratchpad Multimodal Reasoning for Cryptographic Proof Generation in EasyCrypt
该论文提出了一种名为 Scratchy 的视觉暂存器多模态推理方法，旨在解决大语言模型（LLM）在生成密码学形式化证明时面临的结构性依赖难题。在密码学领域，计算安全性论证要求证明必须协调概率、对抗游戏、不变量、假设和界限等要素，而 Easy
SCRIPTIOC-BENCH: A Benchmark for Recognizing Actionable Threat Intelligence from Script-Based Malware using LLMs
论文提出 SCRIPTIOC-BENCH，一个用于衡量大语言模型（LLM）从基于脚本的恶意软件中静态提取可操作威胁情报（IOC）能力的基准。脚本型恶意软件（如 JavaScript、PowerShell、VBScript）仍然是常见的攻击手
Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
随着搜索增强型大语言模型（LLM）智能体被广泛用于消费者决策场景，其面临的生成引擎优化（GEO）投毒攻击风险日益突出。现有安全评测基准大多只关注被操纵的内容是否被检索或认可，并未跟踪智能体是否验证可疑证据、是否修正已采纳的错误观点、以及在生
Versioned Transitive Dependency-Closure Binding and Operation-Time Effect Governance for Agent Skills: ClosureBound
该论文针对 Agent Skills 生态中依赖闭包与授权绑定问题提出 ClosureBound 参考监视器。Agent Skills 将指令、文件、包、工具、模型和服务组合成一个混合执行单元，其操作身份可能超出原始签名目录，导致传统基于根
Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型（LLM）智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时，面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离，但本文指出，对于有状态的智能体，这种时间上的距离可能高估
From Review to Authorization: Key-Isolated Threshold Signing for LLM Agents
本文提出了一种名为KITA的架构，旨在解决自主LLM（大语言模型）代理在执行动作时的安全授权问题。核心风险在于：当LLM代理处理不可信内容（如网页、邮件）并同时持有可复用的签名凭证时，提示注入攻击可能跨越判断边界，直接触达执行权限。KITA
When LLM Decompilers Recompile More and Preserve Less
该论文针对LLM反编译器评估标准提出质疑。当前LLM反编译器能将机器码还原为代码风格更干净的C代码，评估几乎只看输出是否可以重编译并顺利通过配套的输入/输出测试。作者Leu等发现这种度量会奖励错误轨迹：函数可以重新编译并通过所有提供的测试，