AgentLeak: Cloning Stronger LLM Agent Capabilities onto Weaker Agents Beyond Skill Stealing
本文提出一种针对大语言模型（LLM）智能体的新型黑盒能力克隆攻击方法 AgentLeak。研究背景是：LLM 智能体通过基础模型与显式技能（skills）及执行中获得的隐式程序性知识相结合，能够完成长期任务，这种任务解决能力已成为宝贵的商业
#security
共收录 154 条相关情报。
← 返回所有主题Navigating Security and Privacy Threats in Homeless Service Provision.
本论文的标题为《Navigating Security and Privacy Threats in Homeless Service Provision》，作者包括 Yuxi Wu、Ruoxi Zhang、Mufei He 等。由于本次输
Differentially private federated learning with Byzantine-robust aggregation: A cross-domain framework for secure model training in banking and healthcare systems
该论文聚焦于联邦学习在银行、医院等受监管机构中的实际应用痛点。尽管联邦学习允许各方在不共享原始数据的前提下协同训练模型，但仍有两大安全隐患：一是客户端交换的参数更新仍可能通过梯度反演或成员推断攻击泄露本地记录信息；二是诸如 FedAvg 这
When Does Authorization End? Effect Closure at Provider Boundaries
该论文研究分布式系统与授权模型中的一个根本性缺口：授权“何时”才算真正结束？论文指出，即使系统报告撤销完成、达到干净状态或操作成功，先前已授权的执行路径仍可能在提供方（如消息中间件、编排平台）未违反自身契约的前提下，继续产生应用程序明确拒绝
Adversarial Vulnerabilities of Neural Biomarker Identification Systems
该论文研究了基于脑电信号（EEG）的生物特征识别系统的对抗性脆弱性。随着EEG信号被提议用作生物识别凭据，其安全性评估成为重要问题。以往研究主要针对深度学习分类器，并假设攻击者拥有对模型的完全访问权限（白盒攻击），而忽略了其他更常见的神经特
TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning
这篇论文提出了一种针对检索增强生成（RAG）系统的知识投毒攻击防御框架。研究背景是：RAG通过外部语料库为大型语言模型提供事实依据，但系统对检索文档的隐式信任构成了严重攻击面。已有研究（如PoisonedRAG）表明，仅需少量精心构造的恶意
The Exclusion Ratchet: False-Positive Suppression Accumulates and Persists in Detection Rule Repositories
本文针对检测规则仓库中误报排除（exclusion）持续累积且很少被撤销的问题展开研究。核心背景是：当一条检测规则频繁产生误报时，分析人员通常会添加排除条件，使规则在该特定场景下不再告警。单次排除决策在局部看是合理的，但其长期累积对规则库整
Ignoring Directionality Leads to Compromised Graph Neural Network Explanations.
本文研究了图神经网络（GNN）可解释性中的一个常见但被忽视的问题：图对称化（graph symmetrization）会丢弃边的方向信息，导致解释结果失真。作者指出，在诸多关键应用（如安全关键系统）中，GNN 的解释结果必须准确可靠，以支持
CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
检索增强生成（RAG）通过引入外部文档来增强大语言模型（LLM），但公共或用户可编辑的内容源为数据投毒攻击提供了可能。攻击者可以注入恶意文档，引导模型输出攻击者期望的答案。现有的投毒攻击通常依赖在恶意文档中包含目标查询（query incl
A Hybrid Security Framework for Mini-Programs: Visual UI Compliance and Network Risk Assessment
本文针对微信小程序生态中快速增长的界面交互设计与业务行为安全问题，提出了一套混合安全检测框架。随着小程序因免安装、低内存占用、即用即走等优势而用户激增，其界面合规性和运行行为安全性问题日益突出。具体表现为：可点击按钮和图标尺寸不符合标准；广
MeMark: Membrane-Space Watermarking for Spiking Neural Networks
本文提出 MeMark，一种面向脉冲神经网络（SNN）模型水印的新方法，专门针对模型检查点复用（checkpoint-reuse）场景。现有 SNN 水印通常将标识嵌入输出层，攻击者只需替换输出头即可移除验证证据。MeMark 将多比特标识
Adversarial Training of Linear Models under Stealthy Attacks
这篇论文关注预测模型在虚假数据注入攻击下的鲁棒性问题。尽管已有检测方案和对抗训练方法被提出，但它们往往无法为隐蔽攻击提供理论保证——即攻击者设计的最优攻击策略可能轻易绕过检测器。为此，作者提出了一种基于检测器的切换模型（detector-b
The 20th Workshop on Programming Languages and Analysis for Security (PLAS 2025).
本文是第20届编程语言与安全分析研讨会(PLAS 2025)的会议通知。PLAS为学术界和工业界提供了一个探讨如何利用编程语言和程序分析技术来增强软件系统安全性的论坛，覆盖范围从底层编译器到机器学习模型和智能合约等新兴领域。研讨会鼓励提出新
Demo: Detecting Third-Party Library Problems with Combined Program Analysis.
本文介绍了一种结合静态与动态程序分析的方法，用于推断和执行服务端 JavaScript 中第三方库的权限。现代软件开发广泛依赖第三方库，但这些库通常未经人工审查，可能引入 bug、漏洞或恶意攻击，最终影响终端用户。作者提出一个以 RWX（读
PLAS: The 18th Workshop on Programming Languages and Analysis for Security.
本文是关于第18届编程语言与安全分析研讨会（PLAS）的会议介绍。PLAS 是一个专注于探索和评估编程语言与程序分析技术在安全领域应用的学术论坛，覆盖范围广泛，从编译器、机器学习模型到智能合约等各类软件系统。研讨会鼓励提出新颖的、探索性的想
aiXamine: Unified Black-Box Evaluation of Cross-Dimensional Trade-offs in LLM Safety, Security, and Privacy
本文针对当前大型语言模型（LLM）安全评测中存在的维度割裂问题展开研究。作者指出，现有评测框架通常独立评估安全性、安全性和隐私性，无法捕捉跨维度的失效模式。例如，一个模型可能在安全对齐指标上达到99.3%，却拒绝三分之一的良性查询；或者在所
EchoCoT: Extracting Hidden Chain-of-Thought from Large Reasoning Models
该论文研究了一个此前被忽视的安全问题：能否通过黑盒API交互，从前沿专有大型推理模型（LRM）中近乎逐字地提取隐藏的思维链（Chain-of-Thought, CoT）。隐藏CoT被视为模型的核心资产，尤其是商业模型内部的推理过程，过去普遍
Tracking the Trend in How Speech Synthesizers Deceive People
语音合成技术的快速发展使深度伪造音频达到高度逼真的水平，对语音身份验证和数字取证构成日益严峻的威胁。早期研究曾报道人类对深度伪造语音的检测准确率可达70%-80%，但这些研究主要基于较老的合成器，难以反映当前生成语音的真实攻击能力。本研究针
Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias.
该论文题目为《Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias》，作者包括 Shir Bernstein、David Beste、Daniel
Real-Time Compromise: Investigating RTC Security in Consumer IoT.
该论文题为《实时妥协：调查消费物联网中的RTC安全》，旨在系统性地分析和评估消费级物联网（IoT）设备中实时通信（RTC）机制的安全状况。RTC通常指音视频通话、远程控制等低延迟交互功能，在智能家居、可穿戴设备、智能音箱等场景中广泛应用。论