Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity
本文研究多智能体协同过滤（CF）系统中的攻击与防御问题，特别关注系统连接性如何影响这些攻击和防御的效果。多智能体CF系统由多个自主的大语言模型（LLM）驱动的用户智能体和物品智能体组成，它们通过自然语言交互来细化偏好并生成推荐。这类系统既继
#LLM
共收录 2152 条相关情报。
← 返回所有主题FedGSA: Geometry-Consistent Subspace Aggregation for Differentially Private Federated LoRA
本文提出 FedGSA，一种面向差分隐私联邦 LoRA 的几何一致子空间聚合框架。LoRA 通过低秩分解显著降低了联邦微调预训练语言模型的通信开销，但引入差分隐私后存在两个关键问题：对两个低秩矩阵分别扰动和聚合会导致聚合失配以及二次噪声项。
MalTotal: Cost-Effective and Language-Agnostic Malicious Code Poisoning Detection for Millions of Repositories
随着开源软件（OSS）的广泛采用，恶意代码投毒攻击已成为针对公共包注册表和开源平台的重要安全威胁。攻击者通过向合法仓库中注入恶意代码，可在下游用户不知情的情况下窃取数据、植入后门或破坏供应链。现有的恶意代码检测方法主要分为基于启发式规则、基
Attribute-based Undetectable Watermarking for Generative AI Models
本论文针对生成式 AI 模型输出内容的水印检测授权难题，提出了首个基于属性的水印方案（Attribute-based Watermarking）。现有密码学水印方法虽能保证未授权情况下输出与水印不可区分，但检测密钥一旦分发，持有者可任意检测
Test-time reasoning effort and unauthorized tool use in language-model agents: a prespecified equivalence study
本研究针对语言模型代理在多步骤工作流中通过工具调用执行任务时，推理努力参数（reasoning effort）是否会影响未授权工具使用率的问题，开展了预设的等价性研究。以往研究未在单一模型内通过直接操纵该参数进行测试。作者使用GPT-5.6
CLEAR: Causal Context-Based Agentic Reasoning for Vulnerability Detection
该论文提出了一种名为 CLEAR (Causal Context-based Agentic Reasoning) 的新型多智能体漏洞检测框架，旨在解决现代软件漏洞检测中难以建模复杂因果依赖关系的问题。传统方法（包括基于大语言模型和多数多智
DHMark: Public-Key Watermarking for LLM-Generated Text via Diffie-Hellman-Guided Rejection Sampling
大语言模型（LLM）水印技术是追踪生成文本来源的重要机制。现有的统计水印方法通常有效且鲁棒，但多数依赖私有检测密钥，导致验证集中化并难以进行公开审计。近年出现的公开或公开可验证水印方案改善了密钥管理，但许多方案依赖于精确恢复嵌入的密码学字符
Prompt Injection Attack to Tool Selection in LLM Agents.
本文研究了大语言模型（LLM）智能体中工具选择环节的安全漏洞。在典型的 LLM 智能体架构中，工具选择通常采用“检索-选择”两步流程：先从工具库中检索候选工具，再根据任务选择最合适的工具。作者提出一种名为 ToolHijacker 的新型提
AI Security Leaderboard: Methodology, Results and Minimal Standard
本文提出了 FAR.AI 人工智能安全基准（AI Security Leaderboard）的首个版本，并详细介绍了其方法论、结果与最低标准（Minimal Standard for Safeguards, Version 1.0）。研究背
Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models
本研究提出了一种新型的智能体型远程访问木马（Agentic RAT），其核心创新在于将小型语言模型（SLM）本地化部署于攻击端，使恶意软件能够自主完成“观察-决策-行动”闭环，而无需依赖外部操作者或云服务。研究背景在于人工智能代理技术的进步
SparSEEty: Extracting Tokens from Sparsity-Exploiting LLM Serving Systems via Deterministic Side Channels
该论文提出了一种名为 SparSEEty 的新型令牌提取攻击，针对利用激活稀疏性优化推理性能的大语言模型（LLM）服务系统。现代 LLM 在推理时仅激活部分神经元，这一特性被许多服务系统用于跳过非激活神经元的权重访问和计算，从而提升效率。然
Internalising the Identity Primitive: Cryptographic Individuality for an Autonomous Agent on a Public Blockchain
该论文提出并实现了一种在公共区块链上为自主代理建立‘密码学个体性’的新方法。核心研究问题是：当软件代理在公共区块链上积累权限与经济权益时，如何从密码学层面界定其‘个体’身份，而非依赖硬件、操作者或包装信任。作者将身份信任根迁移到由固定代码实
MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory
该论文提出 MutMem，一个用于持久化智能体内存的授权变更协议，并集成在 HOM-AIMOS 持久化内存引擎中。核心问题在于：持久化内存需要根据后续结果调整早期证据，但可变的检索权重会引发“归因问题”——审查者必须区分经授权的自适应变更与
Evading Chain-of-Thought Monitoring Through Model Poisoning
该论文研究链式思维（Chain-of-Thought, CoT）监控在AI安全栈中的局限性。CoT监控假设模型的推理轨迹能够反映其真实行为，但作者通过模型投毒的手段挑战了这一假设。他们证明，攻击者可以在推理模型中植入后门，使模型执行攻击者指
Privacy-Preserving AI Verification via Minimal Information Disclosure
本文提出了一种名为“最小信息泄露”（Minimal Information Disclosure, MID）的框架，用于解决AI验证过程中的隐私保护问题。AI验证通常需要验证者获取足够的信息以确认某项授权声明，但这些证据可能同时泄露关于模型
Agentic Incident Response through Digital Twin-Enhanced Multiscale Planning
该论文针对当前事件响应（Incident Response）依赖安全运营人员按预定义剧本（playbook）手动执行，导致决策过程缓慢且劳动密集的问题，提出了一种基于大语言模型（LLM）的智能体化事件响应规划方法。现有自动化方案中，基于控制
Antares: Foundation Models for Agentic Vulnerability Localization
本文介绍了 Antares，一个用于智能体式漏洞定位的紧凑语言模型家族，包含 350M、1B 和 3B 三个参数规模。漏洞定位是软件安全中的基础步骤，要求模型能对大型代码库进行推理，并迭代地识别脆弱实现。Antares 基于 IBM Gra
Lost in Permissions: Exploring the Microsoft 365 App Ecosystem
本文首次对 Microsoft 365 (M365) 第三方应用生态系统进行面向隐私与安全的系统性测量研究。M365 租户可通过 OAuth 细粒度权限授予第三方应用访问电子邮件、文件、日历、聊天和用户目录等敏感组织资源的权限，但该生态系统
TrainShield: Targeted Awareness for Cybersecurity Training
本文针对网络安全培训中过度依赖脱离真实场景的传统教育模式、难以应对以人为目标的社会工程攻击这一问题，提出了一种名为 TrainShield 的上下文感知培训交互范式。TrainShield 的核心思想是将适应性学习干预直接嵌入用户日常工作流
Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach
本文研究基于大型语言模型（LLM）的工具型智能体（agent）在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险：少数智能体可能通过隐蔽的协作行为（如操纵市场、在评审中互相抬高、协同窃取数据）达成恶意目标，而单个智能体从个体视角看