SS-ZKR: Spatial-Semantic Zero-Knowledge Routing for Privacy-Preserving Multi-Agent Collaboration
该论文提出了一种名为SS-ZKR（空间语义零知识路由）的隐私保护路由协议，旨在解决现有代理互操作性标准（如Agent-to-Agent协议和模型上下文协议MCP）在跨组织信任边界传输时无法保护载荷内容隐私的问题。当前，尽管W3C去中心化标识
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题Benchmarking Security Risk Detection and Verification in Open Agentic Skill Ecosystems
本文针对开放智能体平台中社区贡献的技能（skills）带来的供应链安全风险，提出了一个两阶段安全审查基准——SkillVetBench。第一阶段对每个技能的自然语言规范进行语义审查，检测隐藏的恶意意图；第二阶段在沙箱中执行标记的技能以观察运
Adversarial Feeds Steer LLM Agent Decisions Against Their Defaults
该论文研究了LLM智能体在接收外部排序信息流（如社交媒体动态、搜索结果、检索上下文和邮件队列）后的决策行为。传统安全评估通常只测试模型本身或用户提示，而忽视了上游排序器（即决定智能体在行动前阅读哪些内容的排序层）的影响。作者设计了一个受控的
Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
本文研究了大型语言模型（LLM）推理痕迹的暴露风险。虽然许多部署系统通过界面层隐藏原始推理痕迹，只向用户暴露摘要或最终答案，以防止能力转移，但作者提出了一种轻量级的上下文引导方法——推理暴露提示（REP）。REP利用影子模型生成的示范，以辅
Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era
这篇论文探讨生成式AI（GenAI）对内容真实性带来的系统性风险。作者提出了“真实性债务”（authenticity debt）概念：组织在部署AI生成内容时，若未保留可验证的来源、完整性和问责机制，将累积机构性负债，未来可能在监管、法律或
When Safe Skills Collide: Measuring Compositional Risk in Agent Skill Ecosystems
该论文研究了LLM代理系统中一个核心安全问题：即使每个独立的技能（skill）本身是安全的，将它们组合成技能集（skill set）后是否可能产生不安全的行为。作者提出了SkillReact框架，这是一个组合安全测量框架，包含三个部分：确定
Stateful Online Monitoring Catches Distributed Agent Attacks
该论文研究了大型语言模型（LLM）代理在网络安全中的误用问题，特别是分布式代理攻击。作者指出，现有的安全监控器仅对单个代理上下文进行评分，因此无法检测到跨多个用户账户分布的恶意行为，这些行为在单个转录中看似无害。为了证明这一安全缺口，他们构
Separating Secrets from Placeholders: A Hybrid CNN-CodeBERT Framework for Three-Class Credential Leakage Detection
本文针对公开源代码仓库中凭证泄露的严重安全问题展开研究。2024年已有超过2380万个秘密被暴露，现有检测工具由于依赖刚性模式匹配和二元分类（仅区分真实凭证与非凭证），导致大量误报——无法有效区分真实凭证与占位符或弱凭证。为此，作者提出一个
MAECO-Lite: Modular Ontology for Dynamic Malware Analysis
该论文针对网络威胁情报中动态恶意软件行为建模的语义精确性问题展开研究。当前业界广泛使用的恶意软件描述标准MAEC和STIX虽然提供了丰富的词汇，但其数据结构复杂且混淆了本体论上的关键区分，例如将持久性恶意软件工件（如文件、注册表键）与执行过
Improving IoT Intrusion Detection Through SMOTE-Based Oversampling and Extended Multi-Model Evaluation on Side-Channel Power Data
该论文聚焦于物联网(IoT)网络入侵检测中的类别不平衡问题。侧信道功率数据集中正常样本与攻击样本的比例可达75,964比1，严重影响了机器学习模型的检测性能。此前Dominguez等人提出了基于功率的入侵检测概念验证，但未处理类别不平衡，也
From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
该论文针对LLM Agent安全领域，揭示了一种新型的多步Trojan攻击范式。在本地Agent harness（如OpenClaw模拟的工作空间）中，LLM能够读写文件、调用工具并在会话间复用工作空间状态。攻击者可以将恶意prompt注入
DataShield: Safety-degrading Data Filtering for LLM Benign Instruction Fine-Tuning
大型语言模型（LLMs）在即使使用良性数据集进行指令微调时，也会出现安全能力退化的问题。现有识别良性数据中安全退化样本的方法存在计算成本高、噪声大的缺点。本文提出DataShield，一种高效识别潜在安全退化样本的方法。核心直觉是良性微调会
A Protocol-Language Model for Network Intrusion (Without Deep Packet Inspection)
该论文提出了一种名为PLM-NIDS的协议语言模型网络入侵检测系统，其核心思想是将网络流视为一种语言，其语法完全由L3/L4数据包元数据（长度、到达间隔时间、TTL、TCP标志和哈希端口号）构成，从而避免了对加密载荷的深度包检测（DPI）。
Differentially Private Preference Data Synthesis for Large Language Model Alignment
本文提出 DPPrefSyn，一种用于生成差分隐私（DP）合成偏好数据的新算法，旨在保护大语言模型（LLM）对齐过程中的隐私。在偏好对齐的后训练阶段，使用真实人类偏好数据可能泄露敏感的用户提示和判断。DPPrefSyn 基于 Bradley
Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity
该论文研究了工具调用ReAct智能体（如GPT-4o-mini和Claude Haiku）在面对间接提示注入攻击时的脆弱性。ReAct智能体交替进行链式思考推理和工具调用，广泛应用于日程安排、文件检索等实际任务。其工具观测循环存在攻击面：攻
Investigating Detection and Obfuscation of Prompt Injection Attacks Against Software Reverse Engineering AI Agents
该论文研究了面向软件逆向工程的多智能体系统在分析二进制可执行文件时面临的提示注入攻击威胁。攻击者可将恶意注入字符串嵌入源代码或编译产物中，当AI代理解析反编译输出时触发异常行为。作者首先展示了如何利用现有反编译器检测被篡改后的可执行文件中的
Automatically Attacking Software Reverse Engineering AI Agents
该论文研究了针对大型语言模型（LLM）驱动的逆向工程 AI 代理的自动化攻击方法。随着 LLM 被集成到如 Ghidra 等二进制逆向工程工具中，自动化分析流程得以实现，但同时也引入了新的安全风险。作者提出了一种基于遗传算法的提示生成技术（
An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations
这篇论文针对受监管的网络安全运维场景，指出现有的大语言模型（LLM）代理系统虽然在孤立的网络安全任务上表现良好，但缺乏一个能够跨检索、工具调用、记忆、发现、报告和审计强制执行组织级范围、同时保持模型无关且可本地部署的运行时平台。特别是在安全
The Surface You Test Is Not the Surface That Breaks
该论文研究了工具增强型大语言模型（LLM）代理在面临提示注入攻击时的安全性问题。现有评估通常仅关注单一攻击表面（如工具输出）并报告一个固定的攻击成功率（ASR），但作者指出工具描述（tool descriptions）是另一个被忽视的攻击表
Token-Level Generalization in LoRA Adapter Backdoors: Attack Characterization and Behavioral Detection
该论文研究了针对LoRA适配器（当前微调大语言模型的主流格式）的后门攻击及其检测方法。作者通过数据投毒在LoRA适配器中植入后门，同时保持基准任务性能不受影响。以Qwen 2.5 1.5B提示注入分类器为例，少量有毒样本即可使后门达到饱和，