#cs.AI

共收录 1652 条相关情报。

学术论文2026-09-28 发布INFO

CoSec: Benchmarking Agent Security in Communities

该论文关注的是 LLM agent 在持久化协作环境中运行时所面临的隐私与授权风险。这类环境通常包含多个用户、社区（community）、长期记忆、共享文件以及各类工具，而社区边界并非静态：成员变更、角色调整、成员构成变化和参与者关系演化都

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #privacy #authorization #benchmark

学术论文2026-09-28 发布MEDIUM

MMSkillRisk: Can Agents Stay Safe When Multimodal Skills Become Traps?

该论文关注 AI Agent 技能（Agent Skills）生态中的一个新攻击面：技能是可在社区中共享、复用的程序化包，通常包含指令文本、工具定义和示例；多模态技能在此基础上还附带视觉参考图，Agent 在执行时会主动检索并"查看"这些图

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #multimodal #prompt-injection #benchmark

学术论文2026-09-28 发布INFO

SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents

该论文《SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents》针对工具调用型语言模型智能体（tool-using agents）提出了一种以「状

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm-agent #tool-use #attack-defense #runtime-enforcement

学术论文2026-09-28 发布INFO

CoDeL: Co-Evolutionary Defense against Indirect Prompt Injection in LLM-based Agents

该论文研究 LLM 智能体面临的间接提示注入（IPI）防御问题。作者指出，虽然基于训练的防御通常被认为最可靠，但现有方案多在静态、显式的注入分布上优化，学到的是表面形式线索，而非“服务用户目标”与“服从注入目标”之间的本质边界；因此当恶意意

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #prompt-injection #adversarial-training #defense

学术论文2026-09-28 发布INFO

Before Agents Act: Assurance-Aware Semantic Scheduling for Evidence Acquisition in Distributed Systems

该论文研究的是"工具型智能体（tool-using agent）在执行对基础设施有实际后果的变更前，如何可靠地采集准入（admission）所需的证据"这一问题。背景在于：智能体一旦被授权就可能直接改动生产基础设施，而准入判断往往需要多个来

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.DC #cs.AI #agent-security #llm #ai-agent-governance #infrastructure-change-control

学术论文2026-09-28 发布INFO

Certified Multi-Source Integrity for Structured Agent Actions

该论文研究的是 LLM 智能体（agent）在执行高权限、往往不可逆的结构化操作（例如「支付某张发票」）时，如何对其动作完整性与来源可信性进行可证明的认证。作者指出当前威胁模型的关键特点：智能体并不是从一个单一可信答案中取值，而是从多份文档

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.LG #agent-security #llm #prompt-injection #provenance

学术论文2026-09-27 发布INFO

SecProbe: Adaptive Evaluation of Coding Agents on Cybersecurity Vulnerabilities

该论文关注一个日益重要的问题：如何可靠地评估编码智能体（coding agent）在网络安全漏洞方面的意识与修复能力。作者指出，传统静态基准存在明显局限：任务覆盖范围与难度固定，模型能力提升后容易饱和；而真实世界可用的脆弱代码仓库稀缺，专家

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #coding-agent #vulnerability-evaluation #benchmark

学术论文2026-09-27 发布INFO

HESP: Separating What to Probe from When to Stop in Local LLM Alert-Triage Agents

该论文针对安全运营中心（SOC）告警量远超分析师处理能力的现实困境，聚焦于一类特殊但普遍受限的部署场景：组织因合规或数据主权要求，无法将遥测数据上传到托管式大模型，只能在本机构硬件上使用小参数开放权重模型（如 Qwen2.5、Llama-3

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #llm #agent-security #soc #alert-triage #local-llm

学术论文2026-09-27 发布INFO

Evaluating System One Models for Agent Security Decisions: Reliability, Calibration, and Selective Automation

该论文研究的是"基于模型的判别器"(model-based judges)能否可靠支撑智能体的自动化安全决策。背景是:LLM 智能体在运行中需要实时判断外部输入是否包含提示注入、是否带来交互风险、是否为有害请求。所谓 System One

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.SE #agent-security #llm #model-calibration #prompt-injection

学术论文2026-09-27 发布INFO

API Secrets Should Never Become Tokens in the LLM's Vocabulary: A Threat Analysis of API Credential Handling in LLM Agent Systems and an Empirical Evaluation of a Vault-Mediated Execution Boundary

这篇论文指出，随着具备工具调用能力的大模型（LLM）智能体被广泛部署，API 凭证管理的问题性质发生了根本变化：它不再只是"密钥存放是否加密"的存储安全问题，而升级为"密钥会不会进入模型执行链路"的执行安全问题。作者提出的核心论点是：一旦密

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.LG #agent-security #llm #credential-management #prompt-injection

学术论文2026-09-27 发布INFO

Zero-Storage Procedural Neural Synthesis via Boundary Dynamics: Formal Verification in Lean 4 and Bare-Metal Gauntlet Validation

当前主流神经网络推理依赖存放在高带宽显存中的稠密浮点权重矩阵，既受严重的内存墙瓶颈制约，也无法在以太坊虚拟机（EVM）等确定性虚拟机上原生执行。而在 Blum-Shub-Smale 模型下，对连续域上递归动力系统的终止性与算术不变量做验证一

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.LG #cs.AI #cs.LO #formal-verification #lean4 #neural-inference

学术论文2026-09-26 发布MEDIUM

AgentTell: Behavioural Side-Channel Leakage in Browser-Use Agents

浏览器使用型智能体（browser-use agent）在跨网站执行任务时会持续携带上下文信息，这虽然是完成任务所必需的，但也带来隐私风险：智能体可能在访问网站 A 时获知用户的某个私密事实（例如会员归属、所属机构或身份属性），随后在网站

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #privacy #side-channel #browser-agent

学术论文2026-09-26 发布INFO

PlanGuard: A Guardrail for Multi-Step Plan Safety in Embodied Agents

具身智能体（embodied agent）在执行任务前通常会由任务规划器生成多步计划，而子任务之间的依赖关系以及与物理环境的交互，可能在执行过程中叠加出单步看起来无害、整体却具备物理危险性的组合风险。论文指出，现有防护手段存在明显盲区：通用

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CV #cs.RO #agent-security #embodied-ai #llm-guardrail

学术论文2026-09-26 发布INFO

Agentic Network Traffic Monitoring

随着 agentic AI 在各行业广泛应用，攻击面不断扩大，确保 AI agent 的行为符合用户意图成为关键安全需求。审计 agent 的网络流量可以提供清晰的交互记录。本文提出一种基于复值超稀疏流量矩阵（complex valued

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.DB #cs.DC #cs.NI #agent-security #llm

学术论文2026-09-26 发布INFO

Retrospective Distillation Attribution via Normalized Response Similarity

模型蒸馏通过在监督微调（SFT）阶段使用教师模型（通常来自商业 API）生成的回复来迁移能力，这使蒸馏后模型的来源归属（provenance）成为合规、许可与知识产权层面的现实问题。已有的蒸馏归因方法大多假设学生模型在 SFT 刚结束时就被

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.CL #cs.LG #stat.ML #llm #model-provenance

学术论文2026-09-26 发布INFO

Learning to Refer: Client-Resolved Generation for Privacy-Aware Language Models

该论文关注云端大语言模型（LLM）在医疗、法律等敏感领域落地时的核心矛盾：用户必须把明文数据交给服务方推理，而现有的隐私保护方案（如同态加密、安全多方计算、差分隐私、联邦学习、表征加噪等）普遍存在明显短板——要么以牺牲任务效用为代价，要么带

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #privacy #llm #cloud-inference #agent-security #data-minimization

学术论文2026-09-26 发布INFO

Ask Without Telling: Local SLMs Consult Cloud LLMs Without Revealing Task Intent

随着本地小语言模型（SLM）与能力更强的云端大语言模型（LLM）协作日益普遍，一个自然的隐私问题浮现：本地 SLM 能否在获得云端 LLM 指导的同时保护用户隐私？现有隐私保护 SLM-LLM 框架主要隐藏敏感数值而保留任务语义，但任务语义

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #cs.DC #privacy #llm #slm #task-intent

学术论文2026-09-26 发布MEDIUM

Trust the Brand, Lose Control: How Identity Hijacks LLM Agent Orchestration

该论文研究 LLM 智能体编排（orchestration）中的身份可信问题。当前 LLM 智能体已能端到端执行任务并拥有修改真实系统的权限，还常会调度能力与成本各异的子智能体。以往工作把「选哪个子智能体」当作优化问题，但作者指出：编排器实

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #multi-agent #orchestration #benchmark

学术论文2026-09-25 发布INFO

AgentXploit: Autonomous Repository-to-Runtime Red-Teaming for AI Agents

该论文研究 AI Agent 在授权白盒、部署前审计场景下的安全性评估问题。作者指出，现代 AI Agent 将大语言模型与可修改文件、调用 API、执行代码的外部数据和工具结合，安全失效可能来自两个层面：一是外部对抗性内容改变了 Agen

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agent-security #llm #red-teaming #benchmark #prompt-injection

学术论文2026-09-25 发布INFO

Resource-Optimized and Energy-Aware Agentic AI Framework Anchored on Blockchain for Secure Software Supply Chains

该论文面向软件供应链安全，提出一个以区块链为信任锚、由 LLM 驱动的智能体（agentic AI）安全框架，目标是同时保护整个软件开发生命周期（SDLC）以及负责监控 SDLC 的那些 AI 智能体自身。核心问题有两层：第一，现代软件供应

历史摘要 · 未重新核验 · arXiv cs.CR

#cs.AI #agentic-ai #llm #blockchain #software-supply-chain #sbom