Dimensionality Reduction for Cyberattack Classification: A Comparative Evaluation of PCA and Linear Predictive Coding
本文研究了网络攻击分类中特征降维技术的有效性，重点比较了主成分分析（PCA）和线性预测编码（LPC）两种方法。高维特征表示在基于机器学习的网络攻击检测系统中被广泛使用，但计算复杂度的增加限制了其在资源受限环境（如边缘设备、物联网节点）中的部
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题GuardNet: Ensemble Strategies of Shallow Neural Networks for Robust Prompt Injection and Jailbreak Detection
大型语言模型（LLM）在自然语言处理任务中展现出强大能力，但易受提示注入（PI）和越狱（JB）攻击。此外，现有基准评估可能受到数据污染和部分信息泄露的影响，导致性能估计不可靠。本文提出 GuardNet——一种基于浅层神经网络（BiLSTM
Willing but Unable: Separating Refusal from Capability in Code LLMs via Abliteration
本文研究了一种名为“abliteration”的低秩权重编辑方法，用于解除代码大语言模型（LLM）在生成指定漏洞代码时的安全对齐拒绝行为。在基于学习的安全漏洞检测任务中，大规模有标注漏洞代码数据集的构建一直面临标签噪声问题，现有的LLM增强
SharedRequest: Privacy-Preserving Model-Agnostic Inference for Large Language Models
随着ChatGPT等公共大语言模型(LLM)的广泛部署，用户提示(prompt)的隐私保护成为关键问题。现有的隐私保护推理方法要么牺牲效用，要么牺牲效率，并且通常需要针对特定模型进行修改，兼容性受限。本文提出SharedRequest，一种
From Agent Traces to Trust: Evidence Tracing and Execution Provenance in LLM Agents
本文系统综述了基于大语言模型（LLM）的智能体中证据追踪与执行溯源问题。随着LLM智能体通过与外部工具、检索系统、记忆模块、环境及其他智能体交互解决复杂任务，其自主性增强，但行为验证、调试和审计难度增加。仅靠最终答案正确性无法解释输出如何产
From Attack Simulation to SIEM Rule: Deterministic Detection-as-Code Synthesis with Probe-Level Traceability
本文提出一种从攻击模拟（Breach-and-Attack Simulation, BAS）到 SIEM 检测规则的确定性合成方法。安全团队常通过 BAS 工具模拟攻击来检验监控能力，但 BAS 输出的是发现（findings），而生产环境
Description-Code Inconsistency in Real-world MCP Servers: Measurement, Detection, and Security Implications
本文针对模型上下文协议（Model Context Protocol, MCP）服务器中普遍存在的描述-代码不一致（Description-Code Inconsistency, DCI）问题进行了系统性研究。MCP是大语言模型（LLM）调
Search-Time Contamination in Deep Research Agents: Measuring Performance Inflation in Public Benchmark Evaluation
本文系统研究了深度研究Agent在公共基准评测中因推理时进行网络搜索而引发的“搜索时污染”（Search-Time Contamination, STC）问题。STC是指Agent在回答问题时，通过Web搜索检索到基准测试的元数据、问题上下
CyberGym-E2E: Scalable Real-World Benchmark for AI Agents' End-to-End Cybersecurity Capabilities
该论文提出了 CyberGym-E2E，一个大规模、真实的端到端网络安全基准测试，旨在全面评估 AI 代理在软件漏洞发现、PoC 生成和补丁生成整个生命周期中的能力。现有 AI 安全评估在规模或范围上存在局限，未能捕捉真实世界漏洞发现和修复
Token Rankings are Unforgeable Language Model Signatures
本文研究了语言模型API在限制仅输出token排名（即按概率排序的token序列，但不提供具体概率值）时，是否仍然构成能够唯一标识模型的签名。作者发现，对于足够大的k，每个语言模型都有一组唯一的可行top-k排名集合，这可以作为模型的签名。
Cascading Hallucination in Agentic RAG: The CHARM Framework for Detection and Mitigation
该论文聚焦于多步智能检索增强生成（agentic RAG）管道中的级联幻觉问题——早期步骤引入的错误会在后续推理步骤中传播并放大，导致最终输出看似自信但事实错误。现有的幻觉检测机制（如输出级检测器）系统性忽略此故障，因为它源自跨步骤的累积效
What If Prompt Injection Never Left? Exploring Cross-Session Stored Prompt Injection in Agentic Systems
该论文系统性地研究了新兴的跨会话存储提示注入（Cross-Session Stored Prompt Injection）威胁，这是针对现代 Agentic 系统（基于 LLM 的自主代理系统）的一种攻击范式。传统提示注入攻击通常局限于单个
TITAN-FedAnil+: Trust-Based Adaptive Blockchain Federated Learning for Resource-Constrained Intelligent Enterprises
该论文提出了一种名为 TITAN-FedAnil+ 的联邦学习框架，旨在解决资源受限智能企业环境中的数据异质性（非独立同分布数据）和去中心化安全威胁。核心贡献包括：1) 基于亲和传播的自适应聚类聚合方法，无需预先知道攻击者数量即可识别并过滤
Domain-Conditioned Safety in Frontier Computer-Using Agents: A 793-Episode Browser Benchmark, a Coding-Domain Cross-Reference, and a Reproducibility Audit of Recent Red-Teaming
本文针对近期计算机使用代理（CUA）领域的红队测试论文进行了可复现性审计。许多论文报告了提示注入攻击成功率（ASR）高达42-98%，但这些数字集中在已退役模型和每篇论文中最脆弱的模型上。作者提出了CUA-HandCrafted基准测试，包
From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents
该论文系统性地研究了基于大语言模型（LLM）的智能体中的内存中毒攻击。内存作为智能体核心组件，允许其在多次交互中积累知识以提升性能，但同时也引入了风险：一次对抗性内存写入即可长期影响智能体行为。作者首先识别了四种内存写入通道（如用户输入、工
Notarized Agents: Receiver-Attested Confidential Receipts for AI Agent Actions
当前人工智能代理的可观测性存在结构性缺陷：生成活动日志的实体与日志所记录的活动实体是同一个。因此，一个被攻陷或存在缺陷的代理可以省略、篡改甚至伪造自身的操作记录，而运行该代理的操作员无法独立检测到任何篡改行为。本文提出了一类新颖的协议族，通
MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments
该论文提出了一种名为 MimeLens 的新型内容类型检测方法，旨在解决现有方法（如 Google 的 Magika）在输入不完整、位置未知的二进制片段（例如单个网络包载荷、无文件头的文件碎片、随机磁盘块等）时失效的问题。MimeLens
Caught in the Act(ivation): Toward Pre-Output and Multi-Turn Detection of Credential Exfiltration by LLM Agents
本论文研究了LLM智能体在将敏感凭证与不受信任的检索内容置于同一上下文窗口时，面临的间接提示注入导致凭证泄露的风险。作者提出了三种互补的防御方法：首先，利用激活探针在输出令牌生成前检测凭证访问行为，在开源模型上实现了对良性提示与凭证窃取提示
Proof-Carrying Agent Actions: Model-Agnostic Runtime Governance for Heterogeneous Agent Systems
该论文针对异构智能体系统在运行时治理中面临的挑战，提出了一种与运行时无关的治理模型——Proof-Carrying Agent Actions (PCAA)。当前，不同智能体系统（如本地编码工具、框架SDK、托管平台、API网关等）拥有各自
Agent libOS: A Library-OS-Inspired Runtime for Long-Running, Capability-Controlled LLM Agents
这篇论文针对大型语言模型（LLM）代理从简单的请求-响应助手向长期运行的软件参与者演进的趋势，提出了一种名为Agent libOS的运行时系统。长期运行的LLM代理需要在模型调用之间维护状态、分叉子任务、等待外部事件、请求人类授权、动态生成