On the Shoulders of Giants: Empowering Automated Smart Contract Auditing via the GiAnt Corpus
该论文提出了 GiANT 自动化框架，旨在解决智能合约审计数据集构建中的人工可扩展性瓶颈以及数据粒度和多样性不足的问题。GiANT 采用分治策略结合思维链技术，从 Code4rena 平台上的真实审计报告中提取结构化漏洞信息，并通过 LLM
#LLM
共收录 2152 条相关情报。
← 返回所有主题Defending Jailbreak Attacks on Large Language Models via Manifold Trajectory Kinetics
本文针对大型语言模型（LLM）面临的越狱攻击（jailbreak attacks）问题，提出了一种新的检测方法——流形轨迹动力学（Manifold Trajectory Kinetics, MTK）。现有检测方法通常依赖固定的度量空间（如原
MalSkillBench: A Runtime-Verified Benchmark of Malicious Agent Skills
AI 编码代理（如 Claude Code、Gemini CLI）通过第三方技能包扩展功能，这些技能包同时包含自然语言指令、可执行脚本和工具权限，构成了代码与指令混合的供应链依赖。现有检测工具从未在同时涵盖代码和指令的恶意技能 ground
TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents
该论文提出了TRACE框架，用于检测自主LLM agent在长期任务轨迹中隐藏的恶意行为。问题背景是：标准轨迹级监控难以检测agent通过一系列单独无害但序列组合后具有恶意的行为。现有方法要么一次性评估整个轨迹，要么将轨迹分割成独立窗口评分
DPAgent-in-the-Middle: Agentic Defense and Repair Against AI-Groomed Deceptive Patterns
本文针对Web界面中的隐私欺骗模式（Privacy Deceptive Patterns）提出了一种新的威胁模型——AI Grooming，并设计了基于智能体的防御框架DPAgent。隐私欺骗模式通过系统性的设计手法操纵用户泄露个人数据，而
Will the Agent Recuse Itself? Measuring LLM-Agent Compliance with In-Band Access-Deny Signals
本文研究的是自主LLM代理（如基于大语言模型的自动化运维代理）在持有真实凭证并操作基础设施时，如何能够自愿遵守资源访问限制的问题。当前访问控制要么允许代理进入（因为它持有有效凭证），要么彻底拒绝（与任何其他客户端无异），缺乏一种让代理感知到
WebMCP Tool Surface Poisoning: Runtime Manipulation Attacks on LLM Agents
该论文研究了WebMCP协议中的一种新型安全威胁——会话中工具注入（Mid-Session Tool Injection, MSTI）。WebMCP是一种新兴协议，允许网站直接将工具暴露给AI智能体，绕过传统用户界面，从而带来新的安全风险。
SecRL-Prune: Structured Reinforcement Learning-Based Pruning of CodeLLMs for Preserving Adversarial Code Mutation
本文研究大型代码语言模型（CodeLLMs）在对抗性代码变异中的安全性问题。CodeLLMs能够生成和重写程序，实现功能保留的代码突变，可能被用于创建多样化的恶意软件变种以逃避基于签名的检测。核心问题是：这种突变能力在模型压缩后是否仍然保留
Steering LLM Viewpoints through Fabricated Evidence Injection
随着聊天机器人日益影响日常决策，其产生误导性回复的潜力对用户构成重大风险。本文研究LLM的一种关键认知脆弱性：当面对带有可信标记的伪造证据时，LLM会不加批判地信任外部上下文。作者提出了Ghostwriter，一个两阶段攻击框架：第一阶段用
RedEdit: Agentic Red-Teaming of Image Safety Classifiers via MCTS-Guided Photo-Editing
该论文提出 RedEdit，一种新颖的黑盒红队代理，用于系统性地测试图像安全分类器对用户风格恶意图像编辑的鲁棒性。图像安全分类器是当前互联网内容审核系统的关键组成部分，但其对日常场景中常见的恶意编辑（如裁剪、滤镜、叠加文字等）的抵抗能力尚未
GenTI: Benchmarking LLMs for Autonomous IDPS Rule Generation for Unseen Attacks
本文提出 GenTI（Generative Thread Intelligence）框架，旨在解决基于规则的入侵检测与防御系统（IDPS）在面对未知攻击时适应性不足的问题。传统的 IDPS 依赖人工编写的签名规则，难以应对新兴和零日威胁，且
SentinelRAG: Synthetic Sentinel Knowledge for RAG Database Copyright Protection
该论文提出了 SentinelRAG，一种用于保护专有 RAG（检索增强生成）数据库版权的数字水印框架。现有水印方法存在两个主要问题：一是通过在真实实体之间注入虚假关系来污染知识库，从而引入错误信息；二是嵌入的脆弱词汇模式容易被对抗性改写删
An Embarrassingly Simple Detector for Model Extraction Attacks in Large Language Model API Traffic
本研究针对大型语言模型（LLM）通过托管API部署时面临的模型提取攻击威胁。模型提取攻击中，攻击者通过发送大量查询来窃取或复制目标模型的功能，但单个查询往往与正常用户请求难以区分。现有检测方法多基于单条查询异常评分或纯良性用户与攻击者用户分
SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks
随着大语言模型（LLM）的广泛部署，通过越狱攻击识别其脆弱性变得至关重要。基于优化的攻击（如Greedy Coordinate Gradient, GCG）通常将对抗性token插入到提示的末尾，但固定插入点可能不是最有效的。本文实证研究了
ZERO-APT: A Closed-Loop Adversarial Framework for LLM-Driven Automated Penetration Testing under Intelligent Defense
该论文提出ZERO-APT，一个闭环对抗框架，用于在智能防御环境下评估LLM驱动的自动化渗透测试代理。针对现有评估的三个主要不足：真实性（攻击目标静态且无防御）、一致性（多步攻击链因果一致性依赖不稳定的LLM推理）和可审计性（决策过程不透明
GuardNet: Ensemble Strategies of Shallow Neural Networks for Robust Prompt Injection and Jailbreak Detection
大型语言模型（LLM）在自然语言处理任务中展现出强大能力，但易受提示注入（PI）和越狱（JB）攻击。此外，现有基准评估可能受到数据污染和部分信息泄露的影响，导致性能估计不可靠。本文提出 GuardNet——一种基于浅层神经网络（BiLSTM
SHIELDS: Automating OS Hardening with Iterative Multi-Agent Remediation
本文提出 SHIELDS，一个基于多智能体系统和大语言模型（LLM）的自动化操作系统加固框架。针对安全配置错误是操作系统级漏洞的主要成因，而手动维护系统合规性（如符合 DISA STIGs 标准）既繁琐又昂贵的问题，现有自动化工具依赖静态预
Willing but Unable: Separating Refusal from Capability in Code LLMs via Abliteration
本文研究了一种名为“abliteration”的低秩权重编辑方法，用于解除代码大语言模型（LLM）在生成指定漏洞代码时的安全对齐拒绝行为。在基于学习的安全漏洞检测任务中，大规模有标注漏洞代码数据集的构建一直面临标签噪声问题，现有的LLM增强
SharedRequest: Privacy-Preserving Model-Agnostic Inference for Large Language Models
随着ChatGPT等公共大语言模型(LLM)的广泛部署，用户提示(prompt)的隐私保护成为关键问题。现有的隐私保护推理方法要么牺牲效用，要么牺牲效率，并且通常需要针对特定模型进行修改，兼容性受限。本文提出SharedRequest，一种
From Agent Traces to Trust: Evidence Tracing and Execution Provenance in LLM Agents
本文系统综述了基于大语言模型（LLM）的智能体中证据追踪与执行溯源问题。随着LLM智能体通过与外部工具、检索系统、记忆模块、环境及其他智能体交互解决复杂任务，其自主性增强，但行为验证、调试和审计难度增加。仅靠最终答案正确性无法解释输出如何产