SEC-bench Pro: Can Language Models Solve Long-Horizon Software Security Tasks?
大型语言模型（LLM）已开始支持自动化软件安全任务，如漏洞发现和概念验证（PoC）生成。然而，现有基准测试依赖模糊测试框架、目标特定描述或漏洞复现任务，未能真实评估LLM在实际漏洞挖掘场景中的表现。为此，本文提出了SEC-bench Pro
#LLM
共收录 2152 条相关情报。
← 返回所有主题Low-Cost and Comprehensive Non-textual Input Fuzzing with LLM-Synthesized Input Generators.
本文提出了一种名为 G2FUZZ 的新方法，旨在实现对非文本输入（如图像、视频、PDF 文件）的语法感知模糊测试。传统上，大型语言模型（LLM）擅长生成符合语法的文本和代码，但生成非文本输出却成本高昂且能力有限。G2FUZZ 利用 LLM
ChainCaps: Composition-Safe Tool-Using Agents via Monotonic Capability Attenuation
该论文提出了ChainCaps，一种用于工具使用型AI智能体的运行时安全机制，旨在解决工具组合中的“权限洗钱”问题。在开放环境中，智能体可以动态组合文件系统、Web API、代码解释器和企业服务，但即使每个工具单独通过了权限检查，组合后的端
Open-Weight LLM Fine-Tuning Defenses are Susceptible to Simple Attacks
该论文研究了当前针对开源权重大语言模型（LLMs）的安全微调防御措施，这些措施旨在防止模型被用于有害目的。然而，预训练的LLMs本身已编码了大量有害知识，这意味着攻击者可能无需额外微调，仅通过提示注入或越狱方式就能诱导模型产生有害输出。论文
Aligning Provenance with Authorization: A Dual-Graph Defense for LLM Agents
本研究针对基于大语言模型（LLM）的代理在工具调用中面临的间接提示注入攻击问题。现有防御方法要么在工具调用层面进行值检查而不追踪参数来源，要么从单一视角分析执行痕迹而缺乏干净的授权基线。作者提出 AuthGraph，一种双图对齐防御框架，构
Jailbreak susceptibility prediction and mitigation via the behavioral geometry of models
本文研究生成式大语言模型（LLM）对越狱攻击（jailbreak attack）的易感性预测与缓解问题。直接对所有模型配置进行完整评估和优化在实际中不可行，因为可部署的系统数量庞大。为此，作者提出了一种基于模型群体行为几何（behavior
Intelligent Detection and Mitigation of Carpet-Bombing DDoS Attacks in SDN Using Retrieval-Augmented Generation and Large Language Models
软件定义网络（SDN）因其集中控制架构而面临分布式拒绝服务（DDoS）攻击的严重威胁，特别是地毯式轰炸（Carpet-Bombing）DDoS攻击，这种攻击将恶意流量分散到多个目标以逃避传统检测机制。本文提出了一种基于检索增强生成（RAG）
CyberEvolver: Structured Self-Evolution for Cybersecurity Agents On the Fly
该论文提出了一种名为 CyberEvolver 的自主进化网络安全智能体框架，旨在解决现有基于大语言模型（LLM）的智能体在安全任务中依赖固定人工设计的脚手架、难以适应不同目标和故障模式的问题。论文首先分析了自进化在网络安全领域的三大挑战：
Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models
该论文研究了视觉-语言-动作（VLA）模型在机器人部署中的能力与鲁棒性之间的理论权衡。VLA模型在干净输入上表现出高成功率（如OpenVLA-7B在LIBERO基准上超过95%），但在微小对抗扰动下性能急剧下降（例如16/255的PGD攻击
How Agentic AI Coding Assistants Become the Attacker's Shell
这篇论文研究了一种针对Agentic AI编码助手的新型安全威胁。Agentic AI编码助手（如GitHub Copilot、Cursor等）能够代表开发者执行文件编辑、命令运行、互联网访问等操作，显著提升开发效率。然而，它们对外部工件（
TTPrint: Evidence-Grounded TTP Extraction via Diverge-then-Converge Verification
该论文提出了一种名为TTPrint的新型TTP提取方法，旨在从网络威胁情报（CTI）报告中准确提取MITRE ATT&CK技术。现有方法（基于规则、监督学习、大语言模型）难以同时实现高召回率和高精确率：规则和监督方法泛化能力差，而LLM方法
An Efficient and Privacy-Preserving Architecture for Cross-Institutional Collaborative RAG
该论文提出了一种名为FedRAG的高效且隐私保护的联邦检索增强生成（RAG）框架，旨在解决跨机构协作中严格隐私法规导致的“数据孤岛”问题。传统RAG通过外部知识增强大语言模型，跨机构集成需要分布式推理，但Transformer的自注意力机制
Referential Security as a New Paradigm for AI Evaluations
该论文提出“指涉安全性”（referential security）作为人工智能评估的新范式。当前AI系统（尤其是大语言模型）持续更新，但公开的模型名称保持不变，而底层权重、提示词、检索机制、滥用分类器、推理设置和服务基础设施却可能未经通知
Heimdall: Formally Verified Automated Migration of Legacy eBPF Programs to Rust
该论文聚焦于Linux内核扩展程序eBPF的安全迁移问题。eBPF程序被广泛用于网络、可观测性及安全策略执行，但其内核验证器仅检查低级内存安全和终止性，未强制许多高级源级属性，如初始化规则、schema一致性或错误处理。作者识别出六类源级b
Evo-Attacker: Memory-Augmented Reinforcement Learning for Long-Horizon Tool Attacks on LLM-MAS
该论文关注于基于大语言模型的多智能体系统（LLM-MAS）中的工具攻击问题。LLM-MAS通过协调专门的智能体和外部工具来解决复杂任务，但系统对工具输出的隐式信任造成了关键攻击面。现有工具攻击方法受限于领域特定性或使用固定的静态模板。为此，
Decoupling Reentrancy Protection from Smart Contract Implementation Logic
本论文针对去中心化应用（DApps）中持续存在的重入攻击威胁，提出了一种名为Sentinel的新型代理方法。重入攻击利用以太坊虚拟机（EVM）的合约间消息传递语义，去年已导致约8000万美元的损失。现有研究主要聚焦于检测，依赖已知攻击模式，
Pre-Characterization of Electromagnetic Side-Channel Leakage Using Publicly Available Information: A Case Study on E-Voting Interfaces
本文研究了巴西电子投票机（BVM）界面的电磁侧信道泄漏问题，属于TEMPEST攻击范畴。TEMPEST攻击中，攻击者利用软件定义无线电（SDR）截获视频信号传输过程中产生的无意电磁辐射，从而恢复敏感信息。作者借助选举机构公开披露的技术规格、
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
该论文系统综述了大语言模型（LLM）微调生命周期中的安全问题。背景：微调是使预训练LLM适应下游任务的核心技术，但其对训练数据、参数更新和可复用组件的依赖为攻击者提供了入口。威胁已从数据中毒、权重篡改进化到智能体操纵和接口利用，而现有综述缺
Device Context Protocol: A Compact, Safety-First Architecture for LLM-Driven Control of Constrained Devices
该论文针对大型语言模型（LLM）通过工具调用控制物理设备时面临的安全挑战，提出了一种名为Device Context Protocol（DCP）的紧凑、安全优先的通信协议。现有方案如Model Context Protocol（MCP）及其
Furina: Fragmented Uncertainty-Driven Refusal Instability Attack
该论文挑战了主流观点：大语言模型（LLM）和多模态大语言模型（MLLM）的安全对齐并非近似二元的阈值机制。作者通过实验揭示，安全行为实际上由一个不稳定性区域（instability region）主导，在该区域内，微小的扰动会导致模型做出随