An Attack-Agnostic Defense Framework Against Manipulation Attacks Under Local Differential Privacy.
本地差分隐私（LDP）协议容易受到操纵攻击，攻击者通过篡改本地数据或随机性来破坏统计估计的准确性。现有早期工作通过将每个样本转化为二元信号来限制攻击者能力，但这种方法在ε>1时导致严重的信息损失，牺牲了数据效用。本文提出了一种攻击无关的通用
#defense-framework
共收录 4 条相关情报。
← 返回所有主题A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots
该论文针对检索增强生成（RAG）聊天机器人面临的提示注入攻击，特别是间接注入（通过污染知识库文档实现攻击），提出了一种三层防御框架。第一层（输入过滤层）使用基于规则的模式库和微调的语义异常分类器对用户输入进行筛查。第二层（上下文组装层）在执
BraveGuard: From Open-World Threats to Safer Computer-Use Agents
计算机使用代理（Computer-use agents）将语言模型从文本生成扩展到与文件、终端、浏览器和外部工具的持续交互。这种范式转变带来了新的安全风险，因为恶意行为往往只有通过多步执行轨迹才能显现，而单步动作看似无害。现有安全检测方法依
Landseer: Exploring the Machine Learning Defense Landscape
机器学习系统面临着多样化的威胁，这些威胁会破坏模型的鲁棒性、隐私性和公平性。尽管已有许多防御方法被提出，但每个防御通常只孤立地解决单一风险。在实际部署中，需要将这些防御组合起来同时满足多个保障需求。然而，防御的组合过程复杂且尚未被充分理解，