Do All LLMs Know When They're Being Harmful? A Reproducibility Study of Latent-Space Safety Probes Across Model Families
本文是对Khatri等人(2026)提出的潜在空间安全探针方法的可复现性研究。原始方法表明，在单一大语言模型(LLaMA-3.1-8B)的最终层激活上训练轻量级MLP探针，能够以与比其大1000倍的防护模型相竞争的F1分数检测有害提示，且每
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Persistent Semantic Entities in Tool-Augmented LLM Systems
该论文研究了工具增强型大语言模型（LLM）智能体系统中一种隐蔽的状态污染现象，作者将其形式化为“持久语义实体”（Persistent Semantic Entities, PSEs）。PSEs 指那些通过名称绑定、事件触发和跨边界传播在会话
Guixu: Valuation-Driven Data Discovery for Autonomous AI Agents with On-Chain Attestation
该论文提出了 Guixu，一个面向自主 AI 代理的、以数据价值评估驱动的数据发现系统。当前自主代理在执行模型训练、决策支持等下游任务时，高度依赖外部数据，但现有数据发现系统大多停留在检索层面：它们只能从异构数据源中返回候选数据集，却无法有
Private Anytime Selective-Risk Certification for Federated Retrieval-Augmented Generation: Guarantees and Empirical Limits
本文提出 Fed-SRC，一种面向联邦检索增强生成（Retrieval-Augmented Generation, RAG）的私有任意时间选择性风险认证框架。选择性风险证书的核心承诺是：所有被模型接受的输出都能满足预设的错误率目标。与以往依
The Anatomy of a Prompt Injection: A Component Model for Structured Analysis
该论文针对提示注入（Prompt Injection）攻击缺乏结构化描述的问题，提出了一种七组件模型，用于对提示注入工件进行形式化分析。自2022年提示注入被首次识别以来，虽然Agent能力不断进化、威胁行为者已将注入嵌入以破坏AI辅助安全
Who Verifies the Benchmark? Decentralizing Trust in Large Language Model Evaluation
本文研究大语言模型（LLM）基准测试中的信任与验证问题。当前模型厂商常自行公布基准成绩，但缺乏透明可验证的机制，导致市场与用户难以分辨真实性能。2025年1月27日，DeepSeek R1 未经证实的性能宣称引发市场恐慌，导致英伟达市值单日
Adaptive Two-Level Allocation of a Conserved Capacity Budget Across Locations and Service Classes
该论文研究在需求不均匀、随时间变化且可能超过供给的条件下，如何在多个位置和两个服务类别之间共享一个守恒容量预算。这种问题模式在多种场景中普遍存在：例如，一个源站的请求速率上限需要在其边缘位置之间分配，一个许可的吞吐量上限需要在高级租户和标准
IntelliAudit: Using Large Language Models to Evaluate Audit Controls
本文提出IntelliAudit系统，旨在解决IT审计中自动化评估证据的难题。传统审计需要审计员判断异构组织证据（如政策、记录、电子表格和操作工件）是否满足语义安全与合规控制，这种判断难以自动化，因为相关证据分散且审计结论依赖证据充分性而非
Adversarial Attacks on Deep OCR Systems
本文针对深度OCR系统（具体为DeepSeek-OCR）提出了首个纯黑盒对抗攻击方法。Deep-OCR将视觉模态视为光学压缩介质，以低token成本实现长上下文OCR，但其复杂性也引入了新的安全风险。作者将攻击问题重构为一个零阶优化问题：仅
Soft Redaction of Image Provenance via Zero-Knowledge Proofs
该论文提出了一种用于图像来源信息（provenance）的“软删除”（soft redaction）机制，旨在解决C2PA等来源标准中透明度与隐私之间的冲突。C2PA标准通过附加签名记录来声明图像的来源、编辑历史和权利信息，但这些断言可能泄
Beyond Text Matching: Towards Reference-Free Evaluation for Human-Oriented Binary Reverse Engineering
本文针对人类导向的二进制逆向工程（HOBRE）评估难题展开系统性研究。HOBRE 旨在将反编译伪代码转换为更易读、更符合人类认知的表示形式，以降低逆向分析人员的认知负担。然而，如何可靠地评估 HOBRE 输出一直是核心挑战：人工评估成本高昂
HarnessSafe: Evaluating Safety Across Persistent Carriers in Agent Harnesses
该论文提出一个名为 HarnessSafe 的基准测试，聚焦于现代智能体 harness（agent harness）中持久化载体（persistent carriers）带来的延迟安全风险。现代智能体系统为了跨任务和会话保持状态，会使用内
LoRAScan: Detecting Backdoor Prompts in Low-Rank Adapters for Large Language Models via Down-Projection Activation Spikes
本文提出了一种名为 LoRAScan 的新型防御方法，用于检测大型语言模型（LLM）低秩适配器（LoRA）中的后门提示。LoRA 是一种高效的模型微调技术，通过引入小型适配器模块来降低计算成本，但也带来了供应链安全风险：不可信的适配器可能包
Policy-Masked Private Experts: Auditable and Reversible Capability Access Control in Sparse MoE Models
该论文研究了一个新颖的系统安全问题：能否通过可信授权机制，在稀疏混合专家（MoE）大语言模型中控制新训练参数的可见性与可执行性，从而实现细粒度的能力访问控制。传统访问控制只限制模型输出行为，但所有请求仍可调用全部计算参数；本文提出了一种名为
StepJack: Benchmarking Computer-Use Agent Safety Against Multi-Step Indirect Prompt Injection
该论文针对计算机使用智能体（CUA）面临的一种新型安全威胁——多步间接提示注入攻击进行了系统研究。传统间接提示注入将恶意指令直接嵌入网页等环境数据中，而本文提出的多步攻击将单一恶意目标自动分解为多个看似无害的子步骤，并分布到智能体导航路径上
CyberForge: Verified Vulnerability Injection at Repository Level for Cybersecurity Agent Training
本文提出 CyberForge 框架，用于合成可执行的、仓库级别（repository-level）的网络安全训练数据，以解决前沿 LLM 智能体在真实软件漏洞发现与修补方面能力受限的问题。当前攻防不对称严重：攻击者只需找到一个可利用弱点即
Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 代理在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前常见做法将私钥存放在软件可访问的位置（明文文件、环境变量或容器内存），任何具备足够读权限的进程都能提取原始密钥材料
ChainClaw: A Layered Agent Framework for Reliable On-Chain Execution
该论文提出 ChainClaw，一个面向区块链环境的分层智能体框架。作者指出，通用大语言模型智能体在工具增强任务上表现优异，但其隐含假设在区块链场景中不成立：链上执行是有状态的、对抗性的且经济上不可逆，导致三大关键差距——反应性（React
ABC: Numerical Data Collection under Local Differential Privacy without Prior Knowledge
本文针对本地差分隐私（LDP）下数值数据收集中的一个核心难题：传统LDP机制通常需要预先定义数据域（即数值的取值范围），但在实际应用中该范围往往未知。若预设范围过窄，超出范围的值会被截断，造成信息丢失；若预设范围过宽，则扰动阶段会加入过多噪
DreamGuard: Efficient Runtime Guardrail for LLM Agents via Risk-Aware World Model
随着大型语言模型（LLM）智能体越来越多地调用外部工具并与真实世界系统交互，不安全的行为可能对外部状态、用户数据和下游服务造成不可逆的后果。现有的运行时防护栏（runtime guardrails）通过在动作执行之前进行检查来缓解此类风险，