Looking Is Not Picking: An Attention-Segment Account of Tool-Selection Failures in LLM Agents
该论文研究了大型语言模型(LLM)智能体在调用工具时出现的错误选择问题。传统观点认为,当工具列表拥挤时,模型未能注意到正确的工具(即“拥挤工具集”或“中间丢失”假说)。然而,作者通过分析BFCL(Basic Function Calling
今日共收录 1195 条安全情报,包含 310 个 CVE,456 篇安全通告,以及 103 篇研究论文。
← 返回归档列表该论文研究了大型语言模型(LLM)智能体在调用工具时出现的错误选择问题。传统观点认为,当工具列表拥挤时,模型未能注意到正确的工具(即“拥挤工具集”或“中间丢失”假说)。然而,作者通过分析BFCL(Basic Function Calling
该论文研究了一种新型的针对大型语言模型(LLM)的训练数据提取攻击。作者提出,攻击者可以通过向训练数据中注入少量恶意样本(即投毒)来诱导模型泄漏一个独立的、攻击者无法访问的目标记录。其核心创新在于利用投毒数据重塑模型在目标完成位置周边的局部
该论文研究了AI辅助金融咨询系统中的隐形操控通道问题。随着大型语言模型(LLM)在信贷评估和投资顾问等金融领域的广泛应用,现有监管框架主要关注输出内容的审计(如统计水印),但忽视了推理管线的完整性。作者发现并实证验证了一种存在于LLM推理采
随着开源LLM(大语言模型)智能体生态系统的迅速发展,社区贡献的“技能”(即模块化工具定义,用于扩展智能体能力)的安全性普遍缺乏审查。现有安全扫描器仅在代码层运行,对于指令层和多智能体层面的风险——例如通过自然语言指令劫持智能体、通过编码侧
该论文研究了大型语言模型(LLM)对硬件安全竞赛基准(如HackTheSilicon)有效性的威胁。作者发现,LLM并非基于真正的安全推理进行漏洞检测,而是利用了一种类似diff的语法比较策略,在基准上实现了83%的检测率,这严重破坏了公平
大型语言模型(LLM)在AI驱动的信息技术生态中扮演核心角色。为降低有害或违规输出风险,商业系统采用先进的对齐策略和多层内容审核机制。然而,研究表明LLM仍易受对抗性操纵,尤其是越狱和提示注入攻击。本文提出GAS-Leak-LLM,一种基于
本研究旨在评估大型语言模型(LLM)在重复性漏洞检测任务中的表现一致性。研究者使用 Snyk VulnBench JS 1.0 基准测试,对同一份 JavaScript 代码、相同的提示词和测试框架进行了 300 次重复扫描,重点分析 GP
本文研究了终端AI代理(如Claude Code)中命令黑名单的不完整性问题。随着AI代理的普及,终端AI代理通过执行Shell命令与主机系统交互,通常采用三列表命令门控机制(允许列表、拒绝列表、未知列表)来降低安全风险,其中拒绝列表是关键
本文提出了一种名为Greedy Coordinate Diffusion (GCD)的新型对抗攻击框架,用于攻击经过安全对齐的大型语言模型(LLM)。现有攻击方法存在两类问题:基于优化的攻击(如GCG)生成高困惑度、不连贯的后缀,容易被基于
本文针对LLM智能体面临的间接提示注入攻击(攻击者通过第三方数据嵌入恶意指令)提出了一种新的防御方法RETA。现有防御方法在静态基准测试中近乎零攻击成功率,但在自适应攻击评估中性能大幅下降。作者分析指出两大失效原因:一是现有防御仅识别特定攻
该论文聚焦于大型语言模型(LLM)智能体技能生态中的安全风险。智能体通过技能层将计划转化为实际行动,但现有安全审查通常孤立评估每个技能,忽略了实际任务中多个技能在共享执行上下文内被调用的场景。作者定义了技能组合风险(Skill Compos
该论文提出了一种基于长短期记忆网络(LSTM)的主动防御策略——LSTM Look-ahead Moving Target Defense (LLM),旨在解决传统IP地址动态变换(IP shuffling)在移动目标防御(MTD)中存在的
### Impact Nuxt's globally registered `` component (from `@unhead/vue` head components, re-exported by Nuxt) wrote its
## Impact The Public API endpoint for retrying executions authorized access using `workflow:read` rather than `workflow:
## Impact An authenticated user with permission to create or modify workflows containing a Python Code node could bypass
CVE-2026-20262
Cisco recently became aware of the exploitation of CVE-2026-20262, a Catalyst SD-WAN Manager zero-day that allows arbitr
Yesterday, a reader reported to us a malicious ZIP archive (SHA256: a0104921a2d37ab87482ac9a9f5c3713479c118846c3e999178e
CVE-2026-20262
Cisco has released security updates for a medium-severity security flaw in Catalyst SD-WAN Manager that has come under a
CVE-2026-54420
The U.S. Cybersecurity and Infrastructure Security Agency (CISA) has added a security flaw impacting LiteSpeed cPanel Pl
现代区块链状态管理面临严重的可扩展性瓶颈:对数亿条条目维护密码学承诺在计算上变得不可行。以太坊转向Verkle树(一种多项式承诺累加器,通过恒定大小的IPA向量承诺将证明大小从O(宽度*深度)减少到O(深度))是实现无状态操作的关键一步。然