Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance
本文关注一个正在被政策与安全圈忽视的治理错位问题：当前主流的算力治理（compute governance）本质上是一种「训练治理」——在用的算力阈值、申报义务和前沿 AI 监管框架都挂在训练算力上，并把「训练完成的模型」当作监管单元。作者
#cs.AI
共收录 1660 条相关情报。
← 返回所有主题What Makes Adversarial Examples Transfer Across Deepfake Detectors?
深度伪造（deepfake）检测器普遍面临基于迁移的黑盒攻击威胁：攻击者在一个本地替代模型（source surrogate）上构造对抗样本，再直接投放到未知的目标检测器（target）上，从而在不接触目标模型的情况下实现绕过。然而，源模型
Subgroup Membership Inference Audits of Differentially Private Synthetic Text
该论文关注差分隐私（DP）合成文本发布中的残余隐私风险审计问题。合成数据被越来越多地提议作为敏感真实数据的替代品发布，即使通过DP对最坏情况隐私泄露提供理论保证，实践中仍存在残余风险。现有的成员推断攻击（MIA）审计只测量随机抽取记录的平均
CS-Guard: Benchmarking LLM Guardrails for Code Generation Security
该论文提出 CS-Guard——据作者所述是首个系统性评估「代码生成安全护栏（guardrail）」的基准测试框架。研究背景是：大语言模型已被滥用于生成恶意软件，但现有护栏在代码生成场景下的实际防护效果缺乏系统量化。CS-Guard 从两个
How Fragile Is Safety Alignment at Frontier Scale? A Single-Direction Attack on a 320B MoE
该论文研究的是：在开放权重语言模型上被广泛引用的「方向消融（directional ablation）」白盒攻击，是否在从前沿稠密模型迁移到大规模混合专家（MoE）架构后依然成立。所谓方向消融，是指不需要基于梯度的训练、也不需要任何优化，仅
Cascading Gradient Inversion via LT-Code Inspired Peeling in Federated Learning
该论文研究联邦学习（Federated Learning）中的梯度泄露隐私问题。联邦学习只共享模型更新而不共享原始数据，但已有研究表明这些更新可被反演以重建客户端训练数据。其中解析式重建攻击（analytic reconstruction
Watermarks Without Verification: AI Text Watermarking After the EU AI Act
本文围绕欧盟《人工智能法案》第 50 条生效后的 AI 文本水印治理问题展开。按照论文所述，2026 年 8 月 2 日起，该条款要求生成式 AI 提供方对其系统产出的内容进行标记，并确保这些内容可被识别为 AI 生成。在此背景下，Anth
Arbitrary Cipher Attacks Against Large Language Models Do Not Require Fine-Tuning
该论文研究的是大语言模型越狱攻击中的一个特殊分支——任意密码（arbitrary cipher）或隐蔽通信攻击。此前的相关工作表明，攻击者可以针对商业模型的微调 API 下手：用大量经过某种自定义加密方案编码的有害问题与回答构造语料，对目标
Adaptive Distributed Physical-Layer Authentication and Attack Detection in 6G Non-Terrestrial Networks via Causal Meta-Learning
该论文聚焦 6G 非地面网络（NTN，含卫星、高空平台等空中节点）中的物理层认证（PLA）难题。NTN 链路存在严重多普勒频移、长传播时延和快变信道，导致训练与部署环境之间出现分布漂移，使传统集中式深度学习和单特征认证方案泛化能力差、在未见
An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks
该论文研究面向智能体（Agentic）AI 框架的多模态提示注入攻击，并给出一套可复现的量化评测基准。背景是：当前智能体框架让大语言模型不仅能推理，还能制定计划、保存记忆并调用工具，进而触达真实文件系统、邮件与服务；同时多数智能体具备读图能
Evidence-Grounded Retrieval for Investigation Hunt Lead Generation from CTI Reports
该论文针对网络威胁猎杀中依赖人工将威胁情报（CTI）报告转化为可执行调查线索（hunt leads）的低效问题，提出了一种名为 AHLERT 的自动化系统。现有方法大多停留在实体提取层面，忽略防御者自身的运行环境，且孤立分析每份报告。AHL
Benchmark Scores Are Pipeline-Dependent: A Reliability Audit of Cybersecurity LLM Benchmarks
本文对网络安全领域的大语言模型（LLM）基准测试的可靠性进行了系统性审计，指出基准分数并非固定不变，而是高度依赖于评估管道的具体配置。作者将八个网络安全基准测试视为测量管道，并选取了十个模型（包括商业专有模型、开放权重模型和网络安全专用模型
Revoked but Still Authoritative: An Empirical Study of Revocation Enforcement in Agent-Memory Systems
长时运行的基于语言模型的智能体依赖于持久记忆来跨轮次保持上下文。许多智能体内存系统采用软撤销机制处理矛盾信息：当某个事实被新事实取代时，旧事实被标记为“已撤销”但仍保留在存储中，而非物理删除。然而，这种撤销标记在检索阶段是否真正被强制执行，
ACEA: An Adversarial Co-Evolution Arena for Head-to-Head Red-Team and Blue-Team LLM Testing
大型语言模型（LLM）的自动化红队攻击与蓝队防御技术正在快速发展，但现有的攻击者和防御者通常被孤立地构建和测试，导致评测分数难以反映真实对抗能力。为解决这一问题，本文提出了 ACEA（Adversarial Co-Evolution Are
ResidualAuth: What Authorization State Must Language Agents Preserve under Revocable Delegation?
工具调用型语言代理在与外部服务交互时，常需要动态委派和撤销权限。以往的安全机制往往只关注当前权限集合或可达性关系，但本文揭示了仅依赖这些快照信息可能不足。作者通过构造示例证明：两个历史可能具有完全相同的当前权限和全对可达性，但在同一直接边撤
Do AI Coding Assistants Check Before They Install? A Pre-Registered Demand-Side Audit of Trust Signals in the Research Software Supply Chain
本研究针对AI编程助手在自动选择、安装和配置软件时是否利用供应链安全信号的问题，进行了预注册的受控实证审计。背景是攻击者已通过伪造包名、入侵维护者账号、篡改仓库文本等方式利用助手的能力实施攻击；供应链社区为此发布了机器可验证的信任信号，包括
Your Agent Says Yes: Interpreting Adversarial Market Behavior Beyond Individual Transactions
本文研究了一个关键的安全解释缺口：传统金融安全控制通常以单笔交易为粒度进行审批，但真实的市场操纵行为可能分散在多个消息、智能体、资产和时间周期中，单笔交易的合法/非法判定无法覆盖这种跨维度的复杂行为。作者在一个由十个角色化语言模型智能体构成
Staying on the Attack Path: Structured State for Long-Horizon Automated Penetration Testing
本文针对基于大型语言模型（LLM）的智能体在长周期自动化渗透测试任务中面临的上下文遗忘和意图漂移问题，提出了一种名为Intentest的意图图引导的自动化渗透测试智能体。在长时间交互中，早期发现的关键事实和因果推理链容易丢失，导致智能体陷入
Towards a Resilience-Theoretic Foundation for Adversarial Robustness in Industrial Control System Anomaly Detection
本文针对工业控制系统（ICS）和运营技术（OT）环境下基于异常的入侵检测系统（IDS）所面临的正式韧性要求展开研究。当前，这类系统被期望具备吸收对抗扰动、在持续攻击下优雅降级以及提供经认证的系统级保障能力。然而，现有的网络物理系统韧性框架通
AgentLeak: Cloning Stronger LLM Agent Capabilities onto Weaker Agents Beyond Skill Stealing
本文提出一种针对大语言模型（LLM）智能体的新型黑盒能力克隆攻击方法 AgentLeak。研究背景是：LLM 智能体通过基础模型与显式技能（skills）及执行中获得的隐式程序性知识相结合，能够完成长期任务，这种任务解决能力已成为宝贵的商业