TTPrint: Evidence-Grounded TTP Extraction via Diverge-then-Converge Verification
该论文提出了一种名为TTPrint的框架，用于从网络威胁情报（CTI）报告中自动提取MITRE ATT&CK技术。这是一个开放集、多标签问题，需要在召回率和精确率之间取得平衡。现有方法包括基于规则、监督学习和基于LLM的方法，但往往无法同时
2026-05-26 归档
今日共收录 618 条安全情报，包含 0 个 CVE，271 篇安全通告，以及 95 篇研究论文。
← 返回归档列表Heimdall: Formally Verified Automated Migration of Legacy eBPF Programs to Rust
本文聚焦于Linux内核中扩展伯克利包过滤器（eBPF）程序的安全迁移问题。尽管eBPF验证器可检查底层内存安全与终止性，但无法捕获高层源级属性缺陷，如初始化纪律、模式一致性与错误处理。作者系统归类了六类源级漏洞，这些漏洞能通过内核验证器编
Evo-Attacker: Memory-Augmented Reinforcement Learning for Long-Horizon Tool Attacks on LLM-MAS
该论文提出名为Evo-Attacker的攻击方法，针对基于大语言模型的多智能体系统（LLM-MAS）中工具调用的安全漏洞。现有工具攻击方法受限于特定领域或静态模板，缺乏自适应性和长期规划能力。Evo-Attacker将工具攻击建模为自进化的
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
本文系统综述了大语言模型（LLMs）微调生命周期中的安全问题。背景方面，微调是将预训练模型适配到下游任务的关键步骤，但其依赖训练数据、参数更新和可复用组件，为攻击者提供了入口。威胁已从数据投毒和权重篡改发展到agent操纵和接口利用，但现有
MemMark: State-Evolution Attribution Watermarking for Agent Long-Term Memory Systems
本研究针对具有长期记忆能力的智能体（agent）在遭遇快照泄露或迁移后，因日志、可见输出等元数据缺失而难以进行来源归属的问题，提出了一种名为 MemMark 的状态演化归属水印方案。该方法在智能体内部每次大语言模型（LLM）调用时，通过密钥
APT-Agent: Automated Penetration Testing using Large Language Models
本文提出了APT-Agent，一种基于大型语言模型（LLM）的自动化渗透测试框架。当前渗透测试面临两大挑战：LLM对技术实体的幻觉（hallucination）以及缺乏长期上下文记忆。APT-Agent通过混合纠正模块（hybrid rec
Memory-Induced Tool-Drift in LLM Agents
现代LLM代理通过结合长期记忆实现个性化，并利用工具调用接口执行外部操作，这种组合构成了当前生产系统的基础。本文首次系统性地研究了一种此前未被检查的故障模式：存储在记忆中的个性驱动偏向（例如成本意识、不耐烦、风险容忍度等）在不相关的语境中悄
Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection
本研究提出 Reflect-Guard，一种通过逻辑自我反思增强大语言模型（LLM）安全分类器的方法。现有安全分类器（如 Llama Guard）能够有效检测直接有害的提示，但面对对抗性越狱攻击（如角色扮演、虚构场景、间接请求等）时仍然脆弱
RouteScan: A Non-Intrusive Approach to Auditing MoE LLMs Safety via Expert Routing Telemetry
本文提出一种名为RouteScan的非侵入式审计框架，用于检测混合专家（MoE）大语言模型中的有害行为。MoE架构通过稀疏专家路由将不同输入映射到不同的专家执行模式，在GPU执行遥测中留下可测量的足迹。RouteScan利用预填充阶段分配给
Steering Beyond the Support: Adversarial Training on Unsupervised Jailbroken Activation Simulation
本文针对大型语言模型（LLM）在面对未知越狱攻击时的防御失效问题，提出了一种基于无监督潜在方向发现的零样本越狱防御方法。现有安全引导（safety steering）方法通过在测试时对模型激活值进行干预，使越狱激活转向拒绝回答区域，同时保持
Reframing LLM Agent Security as an Agent-Human Interaction Problem
本文提出了一种新视角，认为LLM Agent的安全本质上是Agent与人类交互（Agent-Human Interaction, AHI）问题，而不仅仅是纯算法问题。作者系统分析了截至2026年4月的59篇学术论文、21个生产级Agent系
Enhancing Reliability in LLM-Based Secure Code Generation
本文针对大型语言模型（LLM）在代码生成中安全可靠性不足的问题，提出了一种名为“缓解感知链式思维”（MA-CoT）的框架。现有提示工程主要提升功能正确性，但难以保证一致的安全性。MA-CoT通过嵌入任务特定的CWE（通用弱点枚举）缓解指导和
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标
Validating Threat Modeling Results with the Help of Vulnerable Test Applications
本文研究如何验证威胁建模结果的有效性。传统的验证方法通常依赖专家产生的参考模型或人工基线，但这些方法可能存在遗漏或意见不一致的问题。作者提出一种基于易受攻击的测试应用（vulnerable test applications）的互补验证方法
Kernel-Based ReLU Approximation for Homomorphic Encryption-Compatible Privacy-preserving Deep Learning Models
本文针对同态加密（HE）无法直接支持非线性激活函数（如ReLU）的问题，提出了一种基于核函数的ReLU近似方法，以支持隐私保护的深度学习模型，特别是大语言模型（LLM）。由于HE仅支持加法和乘法，非线性函数在加密域中无法直接计算，而ReLU
CachePrune: Privacy-Aware and Fine-Grained KV Cache Sharing for Efficient LLM Inference
大型语言模型（LLM）依赖键值（KV）缓存加速推理，许多服务系统进一步在用户请求间共享KV缓存以减少冗余计算。然而，无限制的跨用户共享引入了侧信道漏洞，攻击者可以通过探测缓存是否命中来推断用户输入。现有防御完全禁用共享以避免泄漏，但这种粗粒
Are Frontier LLMs Ready for Cybersecurity? Evidence for Vertical Foundation Models from Dual-Mode Vulnerability Benchmarks
本文评估了前沿大语言模型（LLM）在网络安全任务中的实际能力，通过构建双模式基准测试：白盒函数级漏洞检测（VulnLLM-R，涵盖C/Java/Python）和黑盒Web应用安全测试（五个生产风格的应用，包含118个真实漏洞，覆盖20多个C
Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput
本文通过“漏洞经济学”（bugonomics）视角审视大语言模型（LLM）驱动的漏洞发现。传统上，高端漏洞经济学偏向进攻方，因为生产级零日漏洞和利用链是昂贵的专业输出，主要服务于政府、中间商和进攻性厂商。防御方侧的漏洞经济学已存在于漏洞研究
An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods
本研究针对大型语言模型（LLM）在自动代码生成中存在的安全问题，进行了全面的实证评估。尽管LLM显著提升了软件开发效率，但其生成的代码常因忽略关键安全考量（如弱加密、输入验证不当）而存在漏洞。作者选取了五种LLM和四种编程语言（Java、C
AI Security Research Should Better Incentivize Defense Research
本文系统性分析了人工智能安全研究领域中攻防研究失衡的问题。作者通过考察联邦学习、语音识别、成员推断、大型语言模型等子领域的学术论文，发现攻击类研究数量明显多于防御类研究，存在偏斜的攻防论文比例。更重要的是，这种失衡不仅体现在数量上：攻击论文