Is Private Learning Possible with Instance Encoding?
本论文研究了一个核心问题：能否通过“实例编码”（Instance Encoding）机制，在将训练数据输入普通（非私有）学习算法之前对其进行修改，从而让原本不具备隐私保护能力的学习算法获得隐私保障。作者首先形式化了实例编码的概念，并提出了两
#LLM
共收录 2152 条相关情报。
← 返回所有主题Key Agreement for Decentralized Secure Group Messaging with Strong Security Guarantees.
该论文针对去中心化安全群组消息传递中的密钥协商问题展开研究。现有安全群组消息协议通常假设一个中心化网络模型，所有消息通过单一服务器路由，并且该服务器被信任为群组状态更新提供一致的全序关系。然而在去中心化网络中不存在这样的中央权威，因此需要重
Policy-Masked Private Experts: Auditable and Reversible Capability Access Control in Sparse MoE Models
该论文研究了一个新颖的系统安全问题：能否通过可信授权机制，在稀疏混合专家（MoE）大语言模型中控制新训练参数的可见性与可执行性，从而实现细粒度的能力访问控制。传统访问控制只限制模型输出行为，但所有请求仍可调用全部计算参数；本文提出了一种名为
CyberLLM: A Multi-Agent LLM Framework for Autonomous Detection and Guarded Response in Automotive Cybersecurity
本文提出 CyberLLM，一个面向软件定义汽车（SDV）的多智能体 LLM 编排框架，旨在自主检测漏洞并在运行时安全护栏约束下执行修复。随着 SDV 的兴起，汽车攻击面扩展至源代码、运行时日志和部署拓扑，但安全约束禁止自主代理无监督地行动
From Documentation to Zero-day Vulnerabilities: LLM-Driven Fuzzing of JavaScript Engines in PDF Readers
该论文提出 PDFuzzer，一种面向 PDF 阅读器中 JavaScript 引擎的新型模糊测试工具。现有 PDF 模糊测试器（如 TypeOracle、Favocado、Cooper）主要依赖简单测试用例，仅涉及单个 API 调用，导致
Model Confidence Under Answer-Preserving Attacks: An Informativeness-Manipulability Frontier
该论文研究视觉语言系统（VLM）在基于答案保留的攻击下置信度读数的鲁棒性。作者提出一个信息性-可操作性边界（informativeness-manipulability frontier），用于刻画攻击者在保持生成答案逐字节不变的前提下，能
StepJack: Benchmarking Computer-Use Agent Safety Against Multi-Step Indirect Prompt Injection
该论文针对计算机使用智能体（CUA）面临的一种新型安全威胁——多步间接提示注入攻击进行了系统研究。传统间接提示注入将恶意指令直接嵌入网页等环境数据中，而本文提出的多步攻击将单一恶意目标自动分解为多个看似无害的子步骤，并分布到智能体导航路径上
CyberForge: Verified Vulnerability Injection at Repository Level for Cybersecurity Agent Training
本文提出 CyberForge 框架，用于合成可执行的、仓库级别（repository-level）的网络安全训练数据，以解决前沿 LLM 智能体在真实软件漏洞发现与修补方面能力受限的问题。当前攻防不对称严重：攻击者只需找到一个可利用弱点即
Game Hopping in Lean
本文提出 HOPSCOTCH，一个基于 Lean 4 的框架，用于机械化计算可靠的、基于游戏的安全证明。安全定义被表达为有状态概率预言机之间的不可区分性，证明过程遵循标准的游戏跳跃范式。HOPSCOTCH 采用浅嵌入方式，预言机和归约都是普
Hardware Keystores for AI Agent Signing Workflows: A Zero-Trust MCP Enforcement Architecture
该论文针对 AI 代理在执行密码学操作（如 Git 提交签名、API 调用认证、证书签发）时私钥存储不安全的问题展开研究。当前常见做法将私钥存放在软件可访问的位置（明文文件、环境变量或容器内存），任何具备足够读权限的进程都能提取原始密钥材料
MMAligner: Safeguarding Multimodal Large Language Models through Representation Calibration
多模态大语言模型（MLLMs）在处理文本输入时往往能正确拒绝不安全内容，但对语义等价的多模态输入（如图像+文本）却可能生成有害响应。现有防御手段要么依赖外部护栏，增加推理开销且无法修复模型内在缺陷；要么采用安全微调，但这种黑盒优化可能牺牲模
The Vulnerability With No CVE: Managing Persistent Gaps Between Mandate and Authority in AI Coding Agents
本文针对AI编程代理（AI coding agents）在安全治理中面临的一个现实困境：现有安全框架虽已识别出过度代理权限、过度授权、弱任务绑定授权以及代理控制不足等风险，也提供了约束、授权、观察、验证和响应等控制能力，但安全团队仍缺乏一种
An End-to-End Threat Model for the Quantum-as-a-Service Pipeline
该论文针对量子计算即服务（Quantum-as-a-Service, QaaS）平台（如 IBM Quantum、IonQ Cloud、Amazon Braket）的端到端威胁建模问题展开研究。随着云化量子计算日益普及，混合量子-经典算法（
ChainClaw: A Layered Agent Framework for Reliable On-Chain Execution
该论文提出 ChainClaw，一个面向区块链环境的分层智能体框架。作者指出，通用大语言模型智能体在工具增强任务上表现优异，但其隐含假设在区块链场景中不成立：链上执行是有状态的、对抗性的且经济上不可逆，导致三大关键差距——反应性（React
DreamGuard: Efficient Runtime Guardrail for LLM Agents via Risk-Aware World Model
随着大型语言模型（LLM）智能体越来越多地调用外部工具并与真实世界系统交互，不安全的行为可能对外部状态、用户数据和下游服务造成不可逆的后果。现有的运行时防护栏（runtime guardrails）通过在动作执行之前进行检查来缓解此类风险，
Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
本文研究了大语言模型定制化平台中的指令后门攻击问题。这类平台允许用户通过将指令嵌入系统提示来构建面向特定编码任务（如代码补全、代码摘要等）的定制模型，而无需修改底层模型参数。虽然这降低了开发门槛，但也引入了新的攻击面：恶意攻击者可以构造包含
Detecting Safety Training Modification in Language Models via Activation Analysis
本文提出了一种名为 AMS（Activation-based Model Scanner，基于激活的模型扫描器）的工具，用于检测语言模型中的安全训练修改。其核心思想是：安全训练会在激活空间中为有害内容与良性内容的概念形成可测量的几何结构分离
When Experience Becomes Instruction: Trajectory Poisoning in Self-Evolving Agent Skill Systems
该论文研究自进化智能体技能（Self-Evolving Skill, SES）系统中的轨迹投毒攻击。SES系统将智能体执行任务的轨迹蒸馏为持久化技能，使得原本不可信的经验在技能提升过程中转化为可信的指令。作者提出一种名为PoisonedEv
A Self-Explainable Deep Architecture for Security Applications
本文提出了一种面向安全应用的自解释深度架构 XSec，旨在解决深度学习模型在安全场景中因复杂性和黑盒特性导致的预测可解释性不足问题。现有解释方法（如可视化解释和后处理解释）存在忠实度下降、因依赖随机性而不稳定、计算效率低无法实时使用等缺陷。
Robust Context-Aware Detection of Malicious Instructions in Text
该论文聚焦于大型语言模型（LLM）在代理（agent）场景下所面临的间接提示注入（Indirect Prompt Injection, IPI）攻击。现代LLM具备出色的指令跟随能力，常被用作自主完成复杂任务的代理，但这也使其易受嵌入在文本