Cross-Layer Misalignment Detection in Agent Skills: A Progressive Loading-Aware Contrastive Learning Approach
本文针对大型语言模型（LLM）代理在通过“代理技能”（Agent Skills）扩展功能时出现的跨层不对齐问题展开研究。代理技能是一种可复用组件，包含自然语言元数据、过程指令和执行时资源。随着开源技能市场的扩大，用户和代理主要依赖简短的元数
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Temporary Authority, Permanent Effects: Commit-Time Authorization for LLM Agents
该论文由Igor Santos-Grueiro撰写，研究了LLM agent在执行过程中由于使用早期有效权限证据（如DOM快照、批准epoch、版本见证、分支令牌或工作器结果）而导致持久效果（durable effects）的安全问题。作者
Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability
该论文系统性地探讨了大语言模型（LLM）在虚假信息生态系统中的多重角色与影响。作者指出，LLM已将虚假信息从单纯的内容问题转变为生态系统级别的安全挑战。当被滥用时，LLM不仅能够生成虚假内容，还能攻击虚假信息防御所依赖的社会语境、证据来源、
When Are Sparse Feature Interventions Actually Localized? Matched Evaluation for SAE-Based Safety Control
该论文研究了稀疏自编码器（SAE）特征是否能在运行时安全干预中作为局部化控制句柄。核心问题在于，表面上的成功可能源于弱干预、不匹配的基线、模型鲁棒性或自动安全评判员误判（将退化输出标记为不安全，而非真正有害的合规）。作者提出了一种匹配相干门
Minionese: Comprehensive Benchmark and Mechanistic Study of Multilingual LLM Safety
该论文提出了一个名为Minionese的多语言大语言模型安全对齐基准测试，覆盖18种语言、4个资源层级和4种扰动类型（标准翻译、代码切换、音译、翻译腔）。研究发现，不同扰动类型会产生不同的安全漏洞轮廓：音译漏洞受文字系统身份影响，代码切换在
A Knowledge-Based Multi-Agent Framework for Security Control Recommendation
本文提出了一种基于知识的智能体框架，用于安全控制推荐，旨在帮助缺乏网络安全专业知识的IT团队完成本地环境的加固工作。该框架被设计为一个安全决策支持系统（DSS），能够根据用户对安全维度的最低要求，推荐合适的安全控制子族。研究首先从信息安全领
SMETA-ZSL:Semantic Meta-Alignment for Zero-Shot Threat Classification
本文提出SMETA-ZSL，一种面向网络安全威胁分类的零样本学习方法。传统监督学习依赖大量标注数据，但新出现的威胁类别往往缺乏标记样本。零样本学习通过利用辅助语义知识（如自然语言描述）来识别未见过的类别。大型语言模型可将非结构化的网络威胁情
VEXAIoT: Autonomous IoT Vulnerability EXploitation using AI Agents
该论文提出了一种名为 VEXAIoT 的自主多智能体框架，用于物联网环境中的漏洞发现与利用。IoT 系统因硬件受限、固件过时及默认配置不安全而固有脆弱，亟需可扩展的自适应安全测试方法。尽管最近的大语言模型（LLM）智能体在渗透测试和CTF挑
When Routes Run Out: Adversarial Co-Learning and Explainable Robustness in Quantum Repeater Networks
该论文研究量子中继网络中的路由安全性问题，聚焦于对抗性共学习与可解释鲁棒性。作者将量子密钥分发（基于Ekert-91协议）中的路由选择建模为对抗性Bandit问题：Alice（合法用户）选择端到端的中继路由作为动作，Eve（攻击者）选择攻击
Blockchain-Linked Auditable Decision Management for Telecom/IoT Fraud-Control Requests
该论文研究将电信/IoT欺诈控制重新定义为区块链链接的可审计决策管理问题。传统欺诈控制研究通常止步于检测器级别的分类，而实际部署需要请求级别的策略决策、生命周期可追溯性和可审计性。论文提出一个框架，将每个合成部署记录映射为受管理请求，通过确
TRACE: A Two-Channel Robust Attribution Watermark via Complementary Embeddings for LLM-Agent Trajectories
该论文提出了TRACE，一种针对LLM智能体轨迹的双通道鲁棒属性水印方案。在LLM智能体通过转售商（reseller）分发的场景中，转售商可能篡改开发者智能体的品牌或替换为更便宜的模型。当所有权发生争议时，归属认证依赖于轨迹日志（工具调用、
From Legacy Documentation to OSCAL: An MCP-Based Agent Pipeline for Threat-Informed Continuous Compliance in Critical Infrastructure
本文针对关键基础设施中操作技术环境无法主动扫描但需要风险评估和合规反馈的挑战，提出了一种基于 MCP（Model Context Protocol）的非侵入式多智能体流水线。该流水线将自然语言系统描述转换为来源可验证的知识图谱和符合 NIS
Multi-Agent Firewall Architecture for Privacy Protection of Sensitive Data in Interactions with Language Models
本文提出了一种面向大型语言模型（LLM）交互的开源、面向用户的防火墙架构，旨在保护敏感数据的隐私。研究背景是LLM在成为高效生产力工具的同时，其集成到工作流中可能带来数据泄露等重大风险。核心问题是：如何在不影响可用性的前提下，对基于Web和
Out of Sight: Compression-Aware Content Protection against Agentic Crawlers
本文针对基于大型语言模型（LLM）的智能代理（如具备推理、总结和记忆能力的代理）对在线内容构成的新型威胁，提出了一种内容保护框架CAPE。传统的防御手段如访问控制易被模拟普通浏览器的代理绕过，而注入式防御往往降低人类可读性。作者重新审视代理
Prismata: Confining Cross-Site Prompt Injection in Web Agents
本文提出 Prismata，一种针对自主 Web 智能体（web agent）的跨站提示注入攻击的防御框架。背景：自主 Web 智能体旨在自动化日常浏览任务，但继承了 Web 最古老的攻击面之一——跨站脚本攻击（XSS）表明混合可信与不可信
Beware What You Autocomplete: Forensic Attribution of Backdoored Code Completions
本文提出 CodeTracer，一个面向大语言模型代码补全系统中后门攻击的取证框架。背景是：代码补全系统（如 Copilot）依赖大型语言模型，但模型可能通过恶意微调数据被植入后门，导致生成恶意代码。现有防御技术难以检测和缓解自适应后门攻击
Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems
该论文研究了基于大语言模型（LLM）的多智能体系统中的故障定位问题。在多智能体系统中，多个LLM驱动的智能体通过协调推理和行动来解决复杂任务，但由于长期交互和智能体行为的紧密耦合，当执行失败时，很难确定哪个智能体负责以及轨迹在哪个点首次变得
Efficient Safety Alignment of Language Models via Latent Personality Traits
大语言模型（LLM）的安全对齐方法容易受到对抗性攻击的威胁，现有的防御手段如隐对抗训练（LAT）虽然有效，但需要大量有害提示数据，且可能损害模型效用。本研究提出了一种名为隐人格对齐（Latent Personality Alignment,
Multimodal Unlearning Across Vision, Language, Video, and Audio: Survey of Methods, Datasets, and Benchmarks
随着视觉语言模型（VLM）、扩散模型（DM）、大语言模型（LLM）和音频基础模型（AFM）的广泛应用，这些多模态基础模型可能会从训练数据中无意编码敏感、受版权保护、有偏见或不安全的跨模态关联。在收到删除请求或政策更新后重新训练通常不切实际，
Mechanistic Interpretability of LLM Jailbreaks via Internal Attribution Graphs
大型语言模型（LLM）尽管能力强大，但仍极易受到对抗性提示和越狱攻击。现有研究主要通过输入-输出行为或归因方法分析这些失败，对对抗性扰动如何改变模型内部推理机制的洞察有限，导致对不安全或错误行为背后的机制理解不足。本文提出了一种基于内部计算