Revelio: Cost-Efficient Agentic Memory Safety Vulnerability Detection For Repository-Scale Codebases
本文提出 Revelio，一个面向仓库级代码库的内存安全漏洞检测智能体框架。内存安全漏洞（如缓冲区溢出、释放后使用等）即使在经过大量模糊测试和人工审计的项目中仍然存在。现有基于大型语言模型（LLM）的方法虽有潜力，但存在幻觉、不可靠且难以扩
#LLM
共收录 2152 条相关情报。
← 返回所有主题$π$-RAG: Oblivious Retrieval via Semantic Quantization and Transcendental Addressing for Large Language Models
本文提出了一种名为 π-RAG 的新型架构，旨在解决传统检索增强生成（RAG）系统中向量嵌入暴露于潜在反转攻击和非确定性检索失败的问题。核心创新在于利用数学常数 π 的数字作为超然熵源，构建一个不可变的间接层，将大型语言模型（LLM）与敏感
Deciphering Textual Authenticity: A Generalized Strategy through the Lens of Large Language Semantics for Detecting Human vs. Machine-Generated Text.
本文针对检测机器生成文本（Machine-Generated Text, MGT）这一关键安全问题进行系统研究。随着大型语言模型（LLM）如GPT-4和Dolly的普及，MGT在学术论文、社交媒体等多个领域泛滥，现有检测方法面临两大局限：一
AgentRiskBOM: A Risk-Scoping Security Bill of Materials for Agentic AI Systems
代理型AI系统（Agentic AI systems）能检索私有上下文、调用工具、写入文件、调用外部服务、与其他代理协作，并且可能在未经人类批准的情况下行动。现有的物料清单（BOM）制品（如SBOM、AIBOM、MLBOM）虽然提高了依赖项
Harness-MU: A Safe, Governed, and Effective Harness for Multi-User LLM Agents
本文针对多用户大语言模型（LLM）智能代理在协作流程中面临的治理挑战，提出了一种名为 Harness-MU 的模型无关、零微调基础设施框架。当前LLM的单用户训练范式与多主体治理所需的硬约束之间存在根本性不匹配，导致基于提示的概率性防护措施
Safe to Check, Unsafe to Use: Relinking at the Compression Boundary of LLM Agents
该论文发现了一种针对大语言模型（LLM）代理的新型漏洞，名为“relinking”（重链接）。当前，许多LLM代理系统使用基于摘要的提示压缩技术来缩短长上下文，但在压缩边界上存在安全缺陷：安全过滤器检查的是压缩前的原始提示，而后端系统实际执
Toward Open Weight Models Without Risks: Separating Public and Private Capabilities in LLMs
当前开放权重的大型语言模型（LLM）在推动科学进步的同时，也带来了对敏感能力进行访问控制的挑战。现有做法要么在发布前抑制危险能力，要么通过封闭服务（如API权限、输入输出监控）进行访问管理。前者易受越狱攻击，且为了少数风险而对所有用户牺牲能
Evaluating LLMs for Real-World Web Vulnerability Detection
该论文评估了六种前沿和开放权重的大型语言模型（LLMs）在实际Web漏洞检测中的能力，专注于WordPress插件中的静态分析。研究涵盖了SQL注入、存储型跨站脚本、路径遍历和远程代码执行四类漏洞，使用了五种不同结构、范围和复杂度的提示设计
ARENA: An Architecture for Measuring the Transferability of Autonomous Cyber Defense
该论文提出ARENA架构，旨在解决网络防御研究中真实生产数据难以获取的问题。当前安全运营中心（SOC）的数据虽然真实，但因隐私和合规原因无法直接发布，导致研究依赖合成或过时数据集。ARENA设计了一套方法论，从金融SOC的生产环境中提取SI
LLM-assisted Generation of Pseudo-C2 Servers for IoT Malware Dynamic Analysis
该论文提出了一种结合 Ghidra 和大语言模型（LLM）的系统，用于从 IoT 恶意软件二进制文件中自动提取通信规范并生成伪 C2 服务器，从而解决动态分析中因攻击基础设施短暂存活而导致的样本休眠问题。大多数 IoT 恶意软件作为依赖 C
AgenticOS: An Intent-Oriented Secure Operating System Architecture for Autonomous AI Agents
随着大语言模型驱动的自主代理获得规划、工具使用、网络访问和代码执行等能力，传统基于“资源暴露+权限检查”的操作系统安全模型面临结构性挑战。一旦代理运行时遭受提示注入或恶意工具输出攻击，攻击者可以组合POSIX风格的资源原语，产生远超用户任务
Sovereign Execution Brokers: Enforcing Certificate-Bound Authority in Agentic Control Planes
本文针对自主代理在云、部署和数据控制工作流中日益增长的应用场景，提出一个关键安全问题：生产环境的变更权限不应存在于非确定性推理过程中。现有访问控制机制主要授权身份，而保证层认证提议的操作，但两者都无法在变更执行的瞬间提供强制性的认证授权执行
Calibration Without Comprehension: Diagnosing the Limits of Fine-Tuning LLMs for Vulnerability Detection in Systems Software
本论文研究大型语言模型（LLMs）在系统软件漏洞检测中的真实推理能力，旨在区分模型是真正理解安全漏洞还是仅依赖数据污染进行模式匹配。作者构建了CWE-Trace框架，包含834个手工精心标注的Linux内核样本，覆盖74种CWE类型，并引入
Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems
本文针对基于语言模型的自主AI系统（Agentic AI）面临的提示注入和越狱攻击问题，分析了现有防御策略的局限性，并提出了一种新型防御思路。研究表明，传统的检测-拦截（detect-and-block）策略虽然能拒绝恶意请求，但随着攻击者
Multi-View Decompilation for LLM-Based Malware Classification
本论文探讨了在缺乏源代码的情况下，利用大语言模型（LLM）对恶意软件进行二进制代码分类的问题。传统方法通常依赖单一反编译器生成的伪C代码作为LLM输入，但反编译器是有损的启发式工具，不同反编译器可能揭示同一二进制文件的不同特征。为此，作者构
LLM agent safety, multi-turn red-teaming, jailbreak benchmarks, adversarial robustness, safety-critical systems
本文提出了NRT-Bench，一个用于多轮红队测试LLM代理在安全关键系统中鲁棒性的基准。研究背景是LLM代理越来越多地被提议作为安全关键系统的监督组件，但它们在持续自适应对抗压力下的鲁棒性尚未充分表征。作者将场景实例化为一个模拟的核电站控
Quantization as a Malicious Task: Removing Quantization-Conditioned Backdoors via Task Arithmetic
该论文针对模型量化中的后门攻击（Quantization-Conditioned Backdoors, QCBs）提出了一种新型防御方法。QCBs 是一种后门威胁：模型在全精度下表现正常，但经过量化后激活恶意行为。现有防御通常需要修改量化过
Artificial Intelligence as Game Changer in Cybersecurity: What We Learned in 2025-2026, and how this is relevant for Africa
该论文以2025-2026年发生的两个标志性事件为切入点，论证了前沿语言模型已成为网络行动的决定性工具，且该工具由一个小圈子（美国科技公司、盟国政府、欧洲标准机构）建造、拥有和分配，而非洲被完全排除在外。第一个事件中，一个大型语言模型独立执
Heterogeneous LLM Debate Under Adversarial Peers: Honest Gains, Replacement Costs, and Resilience
该论文研究了异构大语言模型（LLM）在多智能体辩论中面对恶意的对手时的表现。核心问题是：异构的同伴在传递纠正信息的同时也可能传递对抗性影响，哪一方占主导？作者通过跟踪诚实代理（defender）的修订行为来测量：他们改变答案的频率，以及改变
From One Thousand Pages of Specification to Unveiling Hidden Bugs: Large Language Model Assisted Fuzzing of Matter IoT Devices.
该论文针对Matter智能家居物联网协议的安全测试问题展开研究。Matter协议由连接标准联盟（CSA）维护，其规范文档长达上千页，复杂且庞大，导致传统模糊测试方法难以有效覆盖隐藏漏洞。作者提出了一种基于大语言模型（LLM）辅助的模糊测试方