Stylometric Defenses Against Author Impersonation in Software Repositories
该论文针对软件供应链攻击中的身份伪造问题，提出了一种基于笔迹风格学的补丁级作者验证方法。传统防御手段主要依赖账户权限管理，但无法有效防范维护者账户被攻陷后提交恶意代码的风险。作者利用经过20多年Linux内核提交历史微调得到的跨模态Tran
#LLM
共收录 2152 条相关情报。
← 返回所有主题PRWeaver: Evaluating LLM-Based Code Auditors against Long-Horizon Malicious Pull Requests
该论文关注基于大语言模型（LLM）的代码审计器在 pull-request（PR）工作流中的可靠性问题。尽管这类审计器已被广泛集成，但其对跨仓库演进过程中分布式恶意更改的抵御能力仍缺乏系统研究。为此，作者提出了 PRWeaver 基准，包含
PolicyGuard: Prompt-Configurable Semantic DLP for LLM Coding Agents
本文提出 PolicyGuard，一个面向 LLM 编程助手的提示词拦截框架，用于在用户提示词进入代码生成模型之前进行语义级数据防泄漏（DLP）检测。研究背景是：AI 编程助手接受自由形式的自然语言提示，其中可能无意包含凭据、个人身份信息（
EntailLLM: Verifying LLM-Generated Vulnerability Discovery Paths with Domain Knowledge via Logic Programming
该论文针对大语言模型（LLM）在软件漏洞推理中可能静默违反领域知识、导致安全关键场景（如医疗设备）可靠性不足的问题，提出了一种基于逻辑编程的验证框架 EntailLLM。现有方法要么将 LLM 输出仅作为待评分的预测，要么将其限制在单张知识
Benign Alone, Harmful Together: Exploiting Experience Composition in Self-Evolving LLM Agents
该论文研究自进化大语言模型（LLM）智能体中的新型安全风险。自进化智能体通过将交互轨迹蒸馏为持久化经验来提升能力，但这一机制引入了安全隐患：单独看无害的经验，在跨会话积累并复用时可能共同削弱智能体的安全边界。现有记忆攻击通常需要直接访问记忆
MNC: Scope-Bound Semantic Declassification for Private LLM-Agent Communication
该论文研究多智能体大语言模型（LLM）系统中的私有状态泄露问题。尽管智能体的公开输出看似正常，但其内部消息、工具参数、日志和持久化记忆可能暴露受保护状态。现有的隐私提示、文本脱敏和源代码级访问控制只能限制表面内容或数据访问，却没有明确规定一
BINALIGNER: Aligning Binary Code for Cross-Compilation Environment Diffing.
本文提出了一种名为 BINALIGNER 的二进制代码比对方法，旨在解决跨编译环境下的二进制文件差异分析问题。二进制差异分析（Binary Diffing）通过比对两个二进制文件的控制流图，将对应同一源代码片段的片段进行对齐，广泛应用于漏洞
From Obfuscated to Obvious: A Comprehensive JavaScript Deobfuscation Tool for Security Analysis.
该论文针对JavaScript恶意代码混淆与反混淆领域展开研究。随着JavaScript的广泛使用，攻击者利用复杂混淆技术隐藏恶意行为，而现有反混淆工具普遍存在输入格式支持有限、只能处理特定混淆类型、输出结果难以理解等缺陷，严重制约了实际安
FidelityGPT: Correcting Decompilation Distortions with Retrieval Augmented Generation.
反编译是将机器码转换为人类可读格式的关键技术，在缺少源码时辅助分析与调试。然而，反编译结果存在保真度问题，影响可读性和准确性。现有方法如变量重命名和结构简化只能部分解决，尤其在复杂的闭源二进制场景下，缺乏有效的检测和校正。为此，我们提出 F
Attention is All You Need to Defend Against Indirect Prompt Injection Attacks in LLMs.
大型语言模型（LLM）已被集成到许多应用中（如Web Agent）以执行更复杂的任务，但其在处理外部数据时容易受到间接提示注入（Indirect Prompt Injection, IPI）攻击的威胁。攻击者将恶意指令隐藏于不可信的外部数据
Mutate to Bypass: Autonomous Endpoint Evasion via Knowledge-Driven Multi-Agent Orchestration
本文提出 AutoBypass，一种基于知识图谱的闭环多代理自动化框架，用于评估商业终端检测与响应（EDR）系统的韧性。研究背景是：公开报告和开源资源披露了大量 EDR 规避技术，但现有自动化方法无法将这些碎片化安全知识转化为可运行的载荷，
$S^3$: Improving Agent Safety through Multi-Stage Defense
本文针对大语言模型（LLM）智能体在多阶段工作流（如记忆、规划、工具执行等）中面临的安全风险问题。现有安全方法通常只保护单一阶段，难以集成和覆盖全流程，导致智能体在整个工作流中缺乏全面防护。为此，作者提出“阶段特定安全技能”（Stage-S
Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting
本文研究了大语言模型（LLM）在批量提示（batch prompting）场景下的安全性问题。批量提示是一种实用的推理策略，通过将多个问题打包在一次请求中交给模型处理，以提升效率和吞吐量。然而，作者发现批量提示在实用性上的成功并未延伸到安全
Securing Agentic AI: From Per-Action Checks to Trajectory Assurance
本文提出自主代理（尤其是基于大型语言模型的代理）在承担重要任务时的安全性问题。作者指出，代理的安全性不仅取决于单个动作的正确性，更取决于其整体行为是否与运行环境的操作约束、组织政策、监管要求和技术标准保持一致。随着代理自主性增强并跨组织边界
SP2UBI: Secure and Privacy-Preserving Usage-Based Insurance
本文提出了一种名为 SP2UBI 的隐私保护型基于使用量保险（Usage-Based Insurance, UBI）方案。传统汽车保险依赖驾驶员年龄、事故次数等静态参数定价，而 UBI 基于驾驶行为定价，得益于智能交通系统的发展。然而，分析
DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial
本文研究检索增强生成（RAG）系统面临的数据投毒威胁。作者指出，已有单文档投毒攻击通常避免在恶意文档中显式提及正确回答，而是采用间接方式误导。DenialRAG 则采用相反策略：在投毒文档中直接写明正确回答，然后明确否定该回答，并附加一个看
No Single Neuron of Failure: Distributed Safety Alignment Against White-Box Attacks
该论文针对开放权重大模型面临的白盒神经元级安全攻击问题，提出了一种分布式安全对齐（Distributed Safety Alignment, DSA）方法。研究背景是：随着开放权重模型快速发布，安全威胁已从黑盒越狱转向神经元级白盒攻击——攻
Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
本文针对大型基础模型（LFMs）在开放环境中部署时面临的新型安全威胁——白盒攻击。与传统的黑盒越狱不同，白盒攻击能够直接定位并破坏模型内部的安全神经元或安全路由，而现有防御方法通常依赖静态安全单元或固定的拒绝路径，在路由级别的白盒攻击下显得
Why Formal Monitors Fail: Attack Distribution Entropy as a Coverage Bound for LTL-Based LLM Agent Safety
本文研究基于线性时序逻辑（LTL）和有限状态自动机（FSA）的运行时安全监控器在防御大语言模型（LLM）智能体工具调用序列时的失效原因。实际部署中，同一监控器在不同模型架构上对攻击的覆盖率差异巨大：在部分架构上可达 68-75%，而在另一些
The Boy Who Cried Wolf: Adversarial Misclassification of Safe Inputs as Unsafe in Multimodal Guardrails
该论文首次系统性地研究了多模态安全护栏模型（multimodal guard models）中的一种新型对抗威胁——“不安全诱导攻击”（Unsafe Induction Attacks）。与以往关注越狱攻击（产生假阴性，即放行恶意内容）不同