Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
本研究针对 AI 驱动的教育系统在隐私保护与准确认知诊断之间难以兼顾的显著挑战，提出了一种隐私保护的多 LLM 联邦推理框架。传统方法通常需要集中学生原始数据或直接访问商业模型内部，导致隐私风险。该框架允许多个商业 LLM API（例如 L
#cs.AI
共收录 1660 条相关情报。
← 返回所有主题Agent Memory Is a Surface for Endogenous Authorization Laundering
这篇论文研究长效 LLM 代理（Long-running LLM agents）中持久内存（persistent memory）的授权状态管理问题。持久内存用于跨交互保存状态，包括权限、限制和撤销记录。作者发现，当内存错误表达不断演变的授权
HEAT: Faster Fully Homomorphic Inference via Approximations-Weights Co-Adaptation
本文针对全同态加密（FHE）下运行语言模型推理速度过慢的问题展开研究。在 FHE 密文上，模型只能原生支持加法、乘法和旋转操作，且乘法深度受限，超过一定层数就必须执行高开销的 bootstrapping 操作以继续计算。因此，模型中的非线性
Public-Sharing Labels and Verbatim Field Egress in an MCP-to-A2A Agent Configuration: A Controlled Multi-Model Study
该研究针对一个实际安全评估盲区: 当同一个智能体(Agent)同时使用 MCP 工具调用和 A2A 委托时，单独对每一层评估的安全性可能无法描述组合行为。作者构建了一个受控测试床: 一个真实模型主机通过本地 MCP 访问工具，再经本地 A2
Defense-as-Skill: Evolving Runtime Guard Skill for Skill-Augmented Agents
本文针对技能增强型智能体（skill-augmented agents）的安全问题展开研究。此类智能体会将可复用的技能作为持久化运行时上下文加载，以提升任务执行能力，但这也为恶意技能提供了长期影响后续行为的通道。恶意技能可能在特定用户任务和
When Safety Routing Breaks: Understanding Alignment Fragility under Benign Fine-Tuning
这篇论文研究良性微调（benign fine-tuning）如何严重削弱大型语言模型（LLM）的安全对齐（safety alignment），并探索拒绝行为（refusal behavior）为何如此脆弱。以往研究常将安全失效归因于梯度冲突
Cheap Verifiers, Large Blind Spots: Measuring the Reliability Cost of Cost-Saving Cascades
该研究针对基于大语言模型（LLM）的推理级联（inference cascades）系统，探讨其成本控制策略背后的可靠性代价。推理级联通常以廉价模型处理大多数查询，并将困难样本升级至前沿模型进行验证，以降低推理成本。自然的扩展是形成闭环：在
One Prompt Is Enough: Watermark Laundering Through Foundation Image Models
该研究揭示了一种针对隐形水印的新型规避风险——水印清洗（watermark laundering）。传统上，隐形水印的鲁棒性测试仅针对压缩、模糊、噪声、裁剪、去噪等预定义扰动。然而，公开的基础图像模型（如 OpenAI 和 Google 的
MutMem-V2: Cryptographically Authorized Mutation in Persistent Agent Memory Portable Verification and Reproducible Evidence
本文介绍 MutMem-V2，一个面向持久化代理记忆（persistent agent memory）的密码学授权变异（cryptographically authorized mutation）协议。V1 版本虽然提出了保留记忆的变异机制
Position Matters: Feature Inversion Attacks in ViT Split Inference with Token Reduction and Shuffling
本文针对视觉 Transformer (ViT) 在分割推理（split inference）场景中的隐私泄露问题展开研究。在分割推理中，边缘设备将中间 token 表示发送给远程云端进行处理；这一过程中，通常采用 token 减少（tok
Who Judges the Judges? A Chinese Safety QA Benchmark for Evaluating LLM Responses and Safety Judges
本文提出了 C-SafeQA，一个面向中文场景、以策略为锚定的响应级安全评估基准。现有 LLM 安全基准大多只评估用户查询本身的风险，但实际问答结果是否违规取决于模型响应是否违反安全策略。作者认为在中文有害内容评估中，语言多样性和对抗性改写
Athena: Vulnerability-Affected Library Identification via Knowledge Graph Completion
该论文提出 Athena，一个基于知识图谱的漏洞影响库识别系统。研究背景是：广泛使用的库中单个漏洞可能影响数百万下游应用，但超过半数的漏洞数据库条目存在受影响库信息缺失或错误的问题。现有自动化方法将识别问题当作孤立的文本检索任务，忽略了漏洞
HiveTraceGuard-Pro: A Compact Generative Guardrail for Prompt Injection, Jailbreaks, and Adversarial Obfuscation
本文提出并评估了 HiveTraceGuard-Pro——一个面向生产环境大语言模型（LLM）的轻量级生成式护栏模型，用于检测提示注入、越狱（jailbreak）以及对抗性混淆内容。作者指出，现有公开研究大多集中于英语场景，对俄语提示注入和
Ranked by the Matcher: A Reproducibility Audit of Knowledge Graph Extraction from Threat Reports
该论文针对威胁报告知识图谱提取工具评估的可复现性问题进行系统审计。研究者注意到工具发布时引用的三元组F1分数高度依赖于预测三元组与黄金标注之间的匹配规则，而匹配算法（精确匹配、同义词、嵌入相似度等）的选择会显著影响最终得分。作者检查了12个
Differentially Private Paired Table-Image Multimodal Synthesis
本文研究差分隐私（DP）下的成对表格-图像多模态数据合成问题。在医疗、金融等真实场景中，常存在图像与结构化表格记录配对的数据，但现有DP合成方法多数只单独处理表格或图像，难以同时保证两种模态的保真度以及跨模态依赖关系。针对这一挑战，作者提出
SoK: When Safe Agents Fail Together: The Security of Multi Agent LLM Systems
该论文是一篇关于多智能体LLM系统（MAS）安全的系统化综述（SoK）。研究背景是：多智能体LLM系统在多个主体之间传递信息、状态、决策和权限，这种跨主体的交互可能引发局部安全检查无法发现的系统性故障。作者指出，如果没有执行级别的视图，多智
Same Request, Different Boundary: Evaluating Cybersecurity Assistance across Conversational Contexts
本文针对大型语言模型（LLM）在网络安全领域的安全辅助边界问题展开研究。LLM 能够解决复杂问题，但在高风险领域的滥用可能造成严重后果，因此模型提供商通常会对潜在有害请求加以限制。然而，一刀切地拒绝所有网络安全请求会损害合法防御者的利益，因
The Safeguard Worked. Is the LLM System Safer?
本文针对大语言模型服务中维护防护机制的效果评估问题展开研究。当前业界通常以拒绝率、攻击成功率或违规率等指标来衡量防护本身的有效性，但这些指标仅反映防护在预定义测试请求集合上的表现，不能说明在实际部署环境中，面对持续适应攻击方式的对手，服务仍
EvoFlint: An Evolutionary Atlas of Multi-Turn LLM Vulnerabilities
前沿语言模型通常会拒绝有害的单轮提示，但在多轮交互中，当用户逐渐表达恶意意图时，模型可能会妥协，这种现象被称为多轮攻击。现有自动化红队方法多将攻击视为生成问题，产生一系列单次成功的攻击示例，但缺乏对模型失败模式的系统性理解。本文作者提出将多
Does Reasoning Mitigate Backdoor Attacks? A Neuro-Symbolic Perspective
该论文从神经符号（Neuro-Symbolic, NeSy）视角出发，首次系统评估了后门攻击对NeSy模型的影响。NeSy AI旨在将亚符号神经感知与基于符号的推理相结合，以提高AI系统的透明性、可解释性和效率，通常被认为是“设计上安全”的