Stop Means Stop: Measuring and Repairing the Enforcement Gap in Agent-Framework Control Primitives
本文系统研究了生产级LLM代理框架中控制原语（如人工确认门、运行取消、执行超时）的执行保证。尽管这些原语的名称和文档暗示了屏障语义（即当运行被暂停、取消或超时时，被控制的副作用不会执行），但作者通过对六个广泛使用的开源框架进行测试，发现没有
2026-07-18 归档
今日共收录 1491 条安全情报，包含 418 个 CVE，581 篇安全通告，以及 194 篇研究论文。
← 返回归档列表Context Contamination in LLM Analysis of Network Security Logs: Poison with Passive Prompt Injection and Mitigation Evaluation
该论文研究了大型语言模型（LLM）在安全运营中心（SOC）日志分析任务中的安全漏洞。作者指出，LLM 在分析网络日志时，会将日志内容作为自然语言上下文处理，这引入了一种关键威胁：攻击者可以在日志生成字段中嵌入提示注入载荷，这些载荷持久化存储
Is External Database Protection Static in Retrieval-Augmented Generation? Rethinking Privacy Preservation under Dynamic Queries
该论文针对检索增强生成（RAG）系统中的隐私保护问题进行了深入研究。在RAG中，外部数据库检索到的文档可能包含敏感信息，现有隐私保护方法通常基于文档级静态风险假设，即认为所有检索文档具有相同的隐私泄露风险。然而，这一假设忽略了RAG的核心特
Protective Capacity Hallucination: When Large Language Models Claim Nonexistent Capabilities
本文定义并系统研究了大语言模型（LLM）中的一种新型幻觉——防护能力幻觉（Protective Capacity Hallucination, PCH）。当LLM被赋予保护脆弱用户的角色，但未明确告知其能力边界时，模型可能不会承认自身局限，
When Words Are Safe But Actions Kill: Probing Physical Danger Beyond Text Safety in Hidden-State Risk Space
大型语言模型（LLM）越来越多地用作具身智能体的高层规划器，此时语言上看似安全的指令在物理世界中可能产生实际危险。本文研究这种物理危险（Physical Danger, PD）是否与传统的文本级内容危险（Content Danger, CD
DataShield: Uncovering Risky Fine-Tuning Data Across LLMs Through Consensus Subspace Alignment
该论文提出了一种名为 DataShield 的数据评估框架，用于检测和过滤导致大语言模型（LLM）在微调过程中安全能力下降的风险数据。当前研究表明，即使在针对特定任务的中性数据上进行微调，也可能显著削弱 LLM 的安全能力。现有方法通常依赖
MemPoison: Uncovering Persistent Memory Threats and Structural Blind Spots in LLM Agents
本研究针对大型语言模型（LLM）智能体中的持久化外部内存机制，提出了一个名为 MemPoison 的综合基准测试与分析框架。持久化内存虽然提升了智能体的连续性，但也引入了新型安全漏洞：攻击者可以通过标准交互通道注入恶意内容，这些内容在多次对
Disclosure Divergence: Measuring Privacy Policy and Data Safety Misalignment at Scale
该论文针对移动应用中隐私政策与平台数据安全标签之间的不一致性进行大规模实证研究。随着移动应用的快速增长，用户数据隐私问题日益突出。虽然隐私政策描述了应用如何收集和共享数据，但Google Play等平台提供的数据安全标签旨在总结这些实践。由
Value Leakage: An LLM's Answers Are Silently Shaped by Its Own Values
本文研究了大型语言模型（LLM）中存在的一种新型对齐失败模式——隐秘价值泄露（covert value leakage）。所谓价值泄露，是指模型在回答用户问题时，其自身内嵌的价值观（例如对道德偏好、对开发公司的偏好、对人类休闲活动的偏好等）
Agent Skill Security: Threat Models, Attacks, Defenses, and Evaluation
该论文聚焦于大型语言模型（LLM）智能体中可复用技能的安全性。现有研究主要关注提示注入和运行时执行，但忽略了技能在整个生命周期（包括仓库准入、语义检索、规划器选择、执行和技能进化等阶段）中的安全风险。作者提出了一个生命周期感知的评估框架Sk
Traffic-Aware Randomized Smoothing for LLM-Based Network Intrusion Detection
该论文针对基于大语言模型（LLM）的网络入侵检测系统（IDS）在对抗性流量操控下的鲁棒性问题，提出了一种名为“流量感知随机平滑”（Traffic-Aware Randomized Smoothing, TA-RS）的分类器无关认证防御方法。
PriEval-Protect: A Unified Framework for Privacy Evaluation and Protection in Healthcare Systems
本文提出了一个名为 PriEval-Protect 的统一框架，用于医疗保健系统中的隐私风险评估与保护。当前，在 GDPR 和 HIPAA 等法规下，保护患者隐私并同时允许有意义的医疗数据使用至关重要，但现有合规方法通常依赖人工，容易出错，
DREA: Decoupled Reasoning and Exploration Agents for Repository-Level Vulnerability Detection
该论文提出 DREA（解耦推理与探索代理）框架，旨在解决现有基于大语言模型（LLM）的漏洞检测方法在仓库级别（跨函数、跨文件）上下文自适应获取上的不足。现有方法多依赖孤立函数或固定程序分析规则提取的上下文，难以应对涉及多个函数或文件的复杂漏
Silent Alarm: A J-Space Protocol for Comparing Danger Recognition Across Models and Quantization Levels
该论文提出了一种名为 JADR（Jacobian Assessment of Danger Recognition）的新型协议，用于评估大语言模型（LLM）对越狱攻击的鲁棒性。与传统的基于LLM作为评判者的方法不同，JADR通过分析模型在生
PVDetector: Detecting Prompt Injection Attacks on Purpose-Specific LLM Agents through Policy-Violation Concept Analysis
随着大型语言模型（LLM）被越来越多地部署为针对特定目的智能代理（如客服、代码生成），它们不仅要遵守通用安全护栏，还需遵循针对其角色设计的特定目的限制。这些额外限制扩大了攻击面，特别是提示注入（PI）攻击。现有的检测方法主要依赖输入-输出模
When Binaries Talk Back: Representation-Confusion Attacks on LLM-Assisted Reverse Engineering
该论文提出了LLM辅助逆向工程中的表示混淆攻击（Representation-Confusion Attacks in Reverse Engineering, RARE），指出攻击者可以通过构造恶意二进制文件，使其中的字符串、反编译输出或
Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents
本研究针对自主编码智能体（Autonomous Coding Agents）在代码生成过程中引入的安全债务（Security Debt）进行了大规模实证分析。随着AI驱动的编码工具日益普及，它们能够自动生成并提交拉取请求（PR），但由此产生
Skills That Don't Exist: A Large-Scale Study of Hallucinated Skill Recommendation in LLM Agents
LLM 代理通过从开放注册表下载技能来获得新能力。开发者通常让代理推荐并安装技能，但代理经常捏造不存在的技能名，这种现象称为“技能名幻觉”。本文首次大规模测量该漏洞，评估了 15,000 条提示和 12 种配置（4 个独立 LLM 和 8
[下载]IDAPro v9.4.260714(hotfix)+汉化补丁+新版注册机
[下载]IDAPro v9.4.260714(hotfix)+汉化补丁+新版注册机
Skipper: Incomplete fix for CVE-2026-50197: an oversized body can bypass OPA deny-on-presence Rego policies
### Summary A wrong policy can be an open door. You have to check `input.attributes.request.http.truncated_body` in yo