NewCore Emerges From Stealth Mode With $66 Million in Funding
The startup has built a security-first identity platform to protect humans, machines, and AI agents. The post NewCore Em
2026-06-16 归档
今日共收录 1237 条安全情报，包含 420 个 CVE，450 篇安全通告，以及 98 篇研究论文。
← 返回归档列表Ukrainian Man Pleads Guilty in US to Conti Ransomware Charges
Oleksii Oleksiyovych Lytvynenko admitted to working on the development of a loader for the Conti gang. The post Ukrainia
FragFuse: Bypassing Access Control of Large Language Model Agents via Memory-Based Query Fragmentation and Fusion
本文首次揭示了基于长期记忆的LLM代理系统中存在的新型攻击面。现有针对LLM代理的访问控制机制通常检查用户最终查询中的内容，以阻止违反策略的请求。然而，作者发现攻击者可以将禁止的内容在多次交互中分割成看似无害的片段，存储在长期记忆中，随后通
Invisible Manipulation Channels in AI-Assisted Financial Advisory: Implications for Market Integrity and Regulatory Design
本文研究了AI辅助金融咨询系统中存在的一种新型隐形操纵通道。该攻击发生在LLM推理的采样层，攻击者通过操纵随机数生成过程，在保持输出分布统计特性不变的前提下，系统性偏置模型生成的金融意见（如信用评级、投资建议），同时绕过所有基于输出的审计机
AutoDojo: Adaptive Attacks Expose Superficial Defenses and User-Underspecification Limits in LLM Agents
该论文聚焦于大型语言模型（LLM）驱动的智能体面临的主要安全威胁——间接提示注入（IPI），即攻击者通过外部内容（如网页、文档）向智能体植入恶意指令。现有防御措施可分为三类：基于提示的（通过提示工程阻止智能体执行恶意指令）、基于检测的（识别
How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
本文研究了基于大语言模型（LLM）的搜索代理在面对对手发布的网络内容操纵时，其推荐结果可能被“认可”（endorsement corrupt）的安全风险。作者提出了名为 SearchGEO 的受控评估框架，该框架包括一个网页证据操纵流水线、
Automated jailbreak attack targeting multiple defense strategies
大型语言模型（LLM）在多种任务中展现出强大能力，但其安全性因易受对抗性提示攻击而成为关键问题。本文提出UNIATTACK，一个从防御视角设计的对抗性测试框架，用于系统性地构造有效的黑盒攻击提示。与依赖静态模板或迭代模型特定微调的方法不同，
DoubtProbe: Black-Box Jailbreak Defense via Structural Verification and Semantic Auditing
随着大语言模型越来越多地部署在面向用户的系统中，黑盒越狱防御成为一个重要的实际问题。现有的防御方法通常依赖于已知攻击覆盖、提示级别的语义判断或本地运行时控制，但在不断演变的提示打包、表达重写和结构操纵下，这些方法可能变得不稳定。本文观察发现
Looking Is Not Picking: An Attention-Segment Account of Tool-Selection Failures in LLM Agents
该论文研究了大语言模型（LLM）代理在工具调用中的“误选”问题。直观上，人们认为代理失败是因为在众多工具描述中“没看到”正确的那个（即“拥挤插槽”或“中间丢失”假说）。然而，作者通过注意力分析发现，在BFCL（伯克利函数调用基准）的真实失败
SkillVetBench: LLM-as-Judge for Multi-Dimensional Security Risk Evaluation in Open-Source LLM Agent Skills
本文提出 SkillVetBench，一个面向开源 LLM 代理生态系统中社区贡献技能（skill）的安全评估基准与实时排行榜。现有安全扫描工具主要基于代码层静态分析，无法检测指令层（如提示注入、记忆投毒）和多代理协同风险。SkillVet
AttackonCTF: Defending Hardware Security Competition Benchmarks in the Age of LLMs
本文研究了大型语言模型（LLM）对硬件安全竞赛基准测试平台的威胁。以HackTheSilicon为例，研究发现现有的漏洞检测方法并非基于真正的安全推理，而是利用了一种基于diff风格的语法比较技巧，从而实现了83%的检测成功率。这种投机取巧
Snyk VulnBench JS 1.0: Can LLMs Find the Same Bugs Twice?
这篇论文研究了基于智能体的大语言模型（LLM）在漏洞发现任务中的可重复性。作者使用相同的JavaScript代码、提示词和基准测试框架，进行了300次重复漏洞扫描，以衡量LLM安全审查结果的一致性。主要发现是LLM的漏洞发现结果不均匀可重复
CmdNeedle: Measuring the Incompleteness of Command Denylists for AI Agents
本文针对终端AI代理（Terminal AI Agents）中命令黑名单的不完备性问题进行了首次系统性研究。终端AI代理通过执行shell命令与主机系统交互，通常采用三列表命令门控机制（允许列表、拒绝列表、警告列表）来控制命令执行，其中拒绝
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
本文针对LLM代理面临的间接提示注入攻击——攻击者通过在代理检索的第三方数据中嵌入恶意指令来劫持代理——提出了新的防御方法。现有防御在静态基准测试中报告接近零的攻击成功率，但最近的自适应评估表明，一旦攻击者被允许针对部署的防御进行优化，这些
Benign in Isolation, Harmful in Composition: Security Risks in Agent Skill Ecosystems
该论文研究了大型语言模型（LLM）智能体技能生态系统中存在的组合安全风险。智能体技能作为能力层，使LLM能够将计划转化为具体行动，但其使用可能引发数据泄露、未授权操作和工具滥用等安全问题。现有安全审查通常对每个技能进行独立评估，但实际智能体
LLM: LSTM Look-Ahead Moving Target Defense Based on Historical Malicious Scan
该论文提出了一种基于LSTM（长短期记忆网络）的主动移动目标防御（MTD）方法，称为LLM（LSTM Look-ahead Moving Target Defense）。网络扫描是攻击者在发动攻击前获取目标信息的关键步骤。传统基于IP地址随
Data-Centric Benchmarking of Exploit Generation in LLMs: Understanding the Impact of Fine-Tuning
该论文研究了在大型语言模型（LLM）中基于CVE漏洞条件生成利用代码（exploit generation）的任务。作者采用数据为中心的方法，通过多阶段预处理构建了一个高质量的数据集，并引入了一个可扩展的评估框架，该框架使用LLM作为裁判（
Semantic Integrity Failures in Document-to-LLM Supply Chains
本文研究了文档到LLM应用（例如用户上传PDF供LLM分析）中的语义完整性威胁。作者指出，这类应用通常通过一个用户无法观察或审计的隐藏提取层将PDF转换为文本。他们发现该层使得“分裂视图PDF”成为可能：同一个PDF在渲染视图（用户看到的内
Security Engineering of OpenClaw: Analyzing Attack Surface Expansion and Trust-Boundary Violations
该论文分析了OpenClaw多智能体LLM系统的安全工程问题。研究背景是当前LLM系统不仅生成文本，还能执行shell命令、浏览器自动化、外部工具调用等特权操作，从而引发从对齐问题到系统配置与结构设计的转变。作者以OpenClaw自托管多智
From Shield to Target: Denial-of-Service Attacks on LLM-Based Agent Guardrails
本文揭示了一种针对基于大语言模型（LLM）的自主智能体护栏系统的新型拒绝服务（DoS）攻击。LLM护栏旨在防御提示注入和越狱攻击，但其自身的推理与任务遵循能力却被利用：攻击者通过注入精心构造的数据，迫使护栏陷入冗长的推理循环，导致系统资源耗