GoldenRetriever: Non-Interactive Homomorphic Encrypted Retrieval for Privacy-Preserving RAG
本文提出了一种名为 GoldenRetriever 的隐私保护检索增强生成（RAG）框架，旨在解决传统 RAG 流水线在明文数据上运行导致的隐私泄露问题。现有隐私保护检索方案多采用同态加密（HE）或私有信息检索（PIR），但往往依赖交互式协
#LLM
共收录 2152 条相关情报。
← 返回所有主题MESS: Fast and Private Semantic Search on Multi-Graph HNSW
本文提出 MESS，一个面向语义搜索的隐私保护系统，旨在同时满足隐私性、准确性和效率三个目标。语义搜索系统将数据映射到高维向量空间，并通过近似最近邻（ANN）检索实现相似数据查询；然而，当系统部署于可信云提供商时，数据与查询本身缺乏隐私保护
Hollow-LLM Attack: Computationally Trivial Weights in Zero-Knowledge Verification of LLM Inference
随着大型语言模型（LLM）规模不断扩大并主要由远程平台提供服务，验证推理执行的忠实性（即确保提供商确实执行了广告中的模型和计算负载，而不是篡改或缩小版本）变得至关重要。零知识（ZK）LLM推理提供了一种有前景的方法，它承诺公开可验证性，并通
TextCloak: Thwarting Unauthorized LLM Exploitation via RL-Driven Unlearnable Text
本文针对大语言模型（LLM）时代中未经授权数据利用与隐私泄露问题，提出一种名为 TextCloak 的防御框架。现有文本不可学习样本（UEs）方法主要面向情感分析等判别式分类任务，通过注入类别特定的语言线索来破坏模型训练效果，但在 LLM
Blockchain Transaction Simulation Phishing
本文首次系统性地研究了交易模拟钓鱼（Transaction Simulation Phishing）这一新型攻击方式。加密货币钱包（如 MetaMask）的交易模拟功能能够在链上执行前预览余额变化，以帮助用户识别恶意交易。然而，攻击者利用动
Cybersecurity Detection Classification with Reasoning-enabled Language Models
本文聚焦安全运营中心（SOC）中普遍存在的告警疲劳问题：每日产生的检测告警数量远超分析师可处理范围。以往研究通常直接提示或微调大语言模型（LLM）输出三分类标签（良性/恶意/待查），但未训练模型对检测是否构成真实威胁进行推理。作者提出一种基
Emerging Challenges in Threat Modeling for GenAI-Augmented Systems: A View from the Trenches
该论文针对生成式人工智能（GenAI）日益融入软件系统的背景下，传统威胁建模方法（如STRIDE）在评估GenAI特有风险时显得不足的问题，开展了一项面向中小型企业（SME）的探索性评估研究。研究首先通过快速文献综述筛选出多种GenAI感知
Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
该论文是一篇关于基于世界模型的具身人工智能（Embodied AI）安全性的综述。世界模型为具身智能体提供预测核心：将观测压缩为状态，模拟基于行动的未来，并支持超越反应式控制的规划。然而，这一预测层引入了新的安全边界——攻击可以从数据、传感
Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
本文针对现代基于大模型的多模态内容审核系统展开鲁棒性研究。传统内容审核分类器通常依赖任务特定模型，策略覆盖有限且缺乏上下文理解；而新近商业化的多模态审核 API 基于大型基础模型，宣称能提供更广泛、更强大的安全过滤能力。研究团队对三家成熟商
Technology-Enhanced Tabletop Exercises for Cybersecurity Education: Lessons Learned
该论文（类别 cs.CY）探讨将技术增强的桌面演练（TTX）引入网络安全课程教学，以弥补高校在团队协作、事件响应和 IT 治理等复杂场景训练上的不足。TTX 在专业领域已很成熟，但在大学中仍较少使用。作者基于 INJECT Exercise
Piggybacking on Perception: Stealthy Concurrent Audio Prompt Injections against Multimodal LLM Agents
本文研究多模态大语言模型智能体在连续音频交互场景下面临的新型安全威胁——并发音频提示注入攻击。随着以LLM驱动的多模态智能体通过语音与用户进行自然交互并自主执行任务，音频输入中不可避免地包含环境噪声，这为攻击者提供了可乘之机。与针对语音设备
Agent Harness Distillation: Inference-Time Harness Extraction and Exploitation in Autonomous Multi-Agent Systems
本文研究了基于大型语言模型（LLM）的自主多智能体系统（AMAS）在推理时（inference-time）所依赖的“智能体编排框架”（harness）的知识产权泄露风险。AMAS 系统（例如 Hermes）在推理过程中动态协调多个 LLM
CHARGE: Leveraging CWE Hierarchies for Hardware Security SystemVerilog Assertion Generation
本文提出 CHARGE，一个面向硬件安全验证的自动化框架，利用 CWE（Common Weakness Enumeration）层次结构和大型语言模型（LLM）为未经验证的 RTL（寄存器传输级）模块自动生成安全属性（SystemVeril
AnchorMark: Robust Diffusion Watermarking via Latent-Space Rotation Synchrony
本文提出了一种名为 AnchorMark 的鲁棒扩散模型水印方法，针对基于反转（inversion-based）的水印嵌入框架在复合有损后处理（尤其是旋转攻击）下鲁棒性不足的问题。现有基于反转的水印方法将水印有效载荷直接嵌入生成过程，避免了
ThreatForest: Multi-Agent Attack Tree Generation with Pluggable TTP Framework Mapping
该论文提出 ThreatForest，一个面向云原生架构威胁建模的多智能体系统。传统威胁建模依赖人工分析源代码仓库，速度慢且需要稀缺的安全专家。ThreatForest 将威胁建模分解为多阶段智能体流水线，包括仓库分析、上下文精炼、威胁生成
From Backlog Items to Security Guidance: Towards Continuous Security Compliance
本文针对受监管领域的持续软件工程中安全需求难以显式化的问题。在敏捷开发中，产品待办项（backlog items）通常以简短自由文本描述，工程师难以从中推断安全相关性，也缺乏及时的安全需求指引。为此，作者提出一种基于NLP的待办项富集系统，
MemSecBench: Tracking Agent Memory Poisoning from Persistence to Consequence and Repair
本文针对大语言模型驱动的智能体（Agent）中记忆系统存在的安全风险，提出了一款新型任务驱动型基准 MemSecBench。在现有 Agent 应用中，记忆系统使智能体能够存储并复用过往交互信息，但这也为攻击者创造了机会：精心构造的恶意指令
HoF-Bench: Rediscovering Real AI-Discovered CVEs Without Frontier Models
本文介绍 HoF-Bench，一个由真实 AI 发现的 CVE 组成的基准测试集，旨在评估基于大语言模型（LLM）的漏洞分析器。背景：已有 LLM 分析器（如 AISLE 的 analyzer）在成熟开源项目中发现了超过 280 个真实 C
AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents
该论文针对大语言模型（LLM）驱动的自主渗透测试代理提出了一种新型动态欺骗防御系统 AgentSnare。LLM 代理通过“观察-行动”循环与工具交互：代理选择动作，工具返回观察结果，代理再基于观察继续决策。这种依赖关系使得防御方可以注入欺
Open Security Benchmark: Towards Autonomous Enterprise Cyber Defense
该论文聚焦于企业自主网络防御中的关键挑战：如何信任由智能体（Agentic AI）完成的安全态势感知、评估与决策。作者指出，当前企业安全环境是私有的、跨厂商且高度关联的，没有一个公开、可查询的共享环境能用于端到端评估此类智能体，这构成了“环