Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
本文针对大语言模型的自检查防御机制提出了一种组合攻击方法。自检查防御要求目标模型在回答前先评估请求是否具有攻击性，其中SAGE被报告具有平均99%的防御成功率。作者发现，将两种已知攻击——代码补全编码和最佳N搜索——组合起来，可以突破SAG
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Guarding Organizations Against Malware Risk: A Novel Graph-Based Malware Detection Method
随着组织数字化转型的深入，网络安全风险日益突出，恶意软件已成为一种普遍且破坏性极强的威胁。现有基于字节的机器学习检测方法虽然广泛应用，但容易受到攻击者通过操纵原始字节实施规避行为的影响。相比之下，基于图的方法通过将软件表示为捕获执行行为的程
Recover, Decode, Reguard: Guard-Agnostic Defense Amplification againstEncoded VLM Jailbreaks
该论文针对视觉语言模型（VLM）的安全防御问题，指出现有安全分类器（guard）作为主要黑盒防御手段，仅审查输入的表面形式而忽略其语义，导致恶意请求可以通过集合论、形式逻辑、罕见语言、代码或文本图像等编码方式绕过guard，形成“解码差距”
Collusion with Competitive Marginals: Price-Level Audits Are Blind by Construction
本论文研究算法合谋检测的根本局限性。作者提出一种新的合谋机制：多个出价代理仅通过未解释竞价分量的联合分布进行耦合，而每个代理的自身出价边际分布保持与竞争性法则完全一致。在这种设定下，任何仅以单个代理价格或出价历史作为输入的检测方法，其统计功
StealthBench: Measuring Operational Stealth in Autonomous Offensive-Security Agents
本文提出 StealthBench，一个专门用于衡量自主攻击性安全代理在操作安全（OPSEC）方面隐蔽性的基准测试框架。研究背景是：高级安全研究人员和APT组织在执行任务时能够不被察觉，而日益自主化的攻击性安全代理继承了这些任务，但其是否继
(EC)2: Event-Centric Explainability for Cybersecurity Through Multi-Agent LLM Investigations
本文针对安全运营中心（SOC）依赖异常检测系统标记可疑事件时，传统基于特征的解释难以满足实际调查需求的问题，提出了一种以事件为中心、与检测器无关的网络安全告警解释方法。作者指出，分析人员不仅需要知道某个特征偏离了正常范围，更需了解告警涉及的
Does Runtime Topology Context Improve LLM-Generated Kubernetes Security Patches?
本文旨在研究在 Kubernetes 集群安全修复中，为大型语言模型（LLM）提供运行时拓扑上下文是否能够显著提升生成补丁的正确性。研究背景是：云原生生态中 Kubernetes 成为容器化工作负载编排的核心，已有工作提出利用 LLM 自动
Toward Standardized Cross-Vendor Agent Tool Trust Management in Autonomous Networks
该论文针对自治网络（Autonomous Networks）Level 4-5 中跨厂商 AI Agent 协作的安全信任问题展开研究。在高级别自治网络中，AI Agent 需要跨厂商边界调用各类管理工具，且无需人工干预。然而，现有 3GP
GPT-Red: Automated Red Teaming via Self-Play at Scale
本文介绍了 GPT-Red，一个用于自动红队评估的大语言模型智能体，其核心目标是自动发现针对前沿大语言模型的提示注入攻击。研究背景是随着 LLM 在真实生产系统中的广泛应用，提示注入等安全威胁日益严峻，而传统人工红队效率低、覆盖有限，因此需
Stemma: Induced Decision Regions Reveal LLM Provenance
该论文研究了大语言模型（LLM）的来源追踪（provenance testing）问题，即判断一个待检模型是否与某个源模型属于同一训练或开发谱系。现有黑盒方法大多依赖于模型输出文本的表面特征，但这些特征在模型经过微调、适配或部署环境变化时容
Architectural Backdoors in Vision-Language Model Supply Chains via Representation Steering
该论文针对视觉-语言模型（VLM）供应链中的安全信任边界问题，提出了一类新型架构后门攻击。在VLM的典型供应链中，预训练权重、架构定义、文本编码器以及导出计算图往往由第三方提供并在下游服务中复用，导致部署方不仅继承模型参数，还会继承打包在共
The Disruptive Impact of Large Language Models on Capture the Flag Competitions and the Path Toward Fair Play
捕获旗标（CTF）竞赛是网络安全领域最有效的实战训练形式之一，涵盖密码学、Web 利用、二进制利用等核心技能。近年来，大型语言模型（LLM）已能以极少人工输入解决越来越多类型的题目，这引发了关于竞赛公平性、排名有效性以及参与者是否还能通过参
A Reference-Free Score for Detecting Silent Reasoning Failures in Large Language Models
本文针对大型语言模型（LLM）在数学链式思维（Chain of Thought, CoT）推理评估中的一个关键缺陷提出解决方案。当前评估方法通常仅检查最终答案与参考答案是否一致，但这种方法存在一个'推理-答案一致性差距'：一个无效的推理链可
Hybrid Analysis for Secure MCP Tool Use in LLM Agents
随着大型语言模型（LLM）智能体的快速发展，其已被广泛应用于各类真实世界任务。为了标准化LLM智能体与外部环境之间的交互，模型上下文协议（MCP）工具应运而生，并成为事实上的标准，被广泛集成到这些系统中。然而，MCP工具的使用也引入了新的安
ContractHIL-HLS: Contract-Aligned Multi-Agent Workflow with Hardware-in-the-Loop Feedback for HLS Design
本文提出 ContractHIL-HLS，一种面向实际高层次综合（HLS）工程的契约对齐多智能体工作流。该工作流有三点贡献：第一，引入结构化契约作为语义对齐和任务执行工件，将自然语言需求转化为明确的接口、约束、验证检查和回滚规则；第二，将硬
Denial of Deadline: Network-Driven Accuracy Collapse in Distributed Inference Pipelines
该论文揭示了分布式推理管道中一种新型攻击面——工作负载攻击。在现代AI推理系统中，通常采用双路径架构：快速路径（Fast Path）在本地或轻量模型上快速返回预测以满足延迟截止时间，慢速路径（Slow Path）则在远程更强硬件上运行高计算
Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents
该论文针对自主LLM代理在处理混合机密性数据时面临的严重安全风险（如提示注入攻击和推理错误）提出了解决方案。传统动态信息流控制（IFC）虽然能提供结构性安全保证，但污点跟踪会永久污染代理的上下文，严重限制下游实用性。作者提出了APPA（Ag
Latent Stability Analysis of Malware Representations Under Feature-Space Perturbations
本文提出了一种用于恶意软件表征的隐空间稳定性分析管道，旨在评估在特征空间扰动下恶意软件嵌入表示的稳定性。传统恶意软件检测器通常使用准确率、F1、ROC AUC等干净样本指标评估，但这些指标无法揭示当特征向量受到扰动时，学习到的表征如何变化、
TRACE-CTI: Auditable Post-Extraction Governance of TTP Claims with Knowledge Graphs
安全运营中心（SOC）越来越依赖自动化工具将网络威胁情报（CTI）报告映射到MITRE ATT&CK框架，但提取器的输出仍然存在错误，且通常不附带证据、溯源和验证历史，导致难以判断单个映射的可信度。本文提出TRACE-CTI，一个事后提取声
BettiSplit: Topology-Guided Privacy-Aware Split Learning Against Feature Inversion and Gradient Leakage
本文研究分割学习中的隐私泄露问题，提出了一种基于拓扑复杂性（persistent Betti complexity）的隐私感知分割学习框架。分割学习通过将神经网络在客户端和服务器之间分割来实现协作训练，但不当的分割点会导致中间表示泄露敏感信