SwarmSense-DNN: A Trustworthy and Decentralized Neural Framework for Proactive Anomaly Defense in Consumer IoT
随着消费级物联网（IoT）设备的迅速普及，传统集中式异常检测方法面临通信瓶颈、单点故障和隐私泄露等严峻挑战，尤其难以应对基于人工智能的复杂网络攻击。本文提出 SwarmSense-DNN，一种新颖的去中心化神经网络框架，融合群体智能与深度神
#LLM
共收录 2152 条相关情报。
← 返回所有主题Can Open-Source LLM Agents Replace Static Application Security Testing Tools? An Empirical Assessment
本文旨在评估开源大型语言模型（LLM）代理在静态应用安全测试（SAST）中的有效性，以探索其能否替代传统SAST工具。研究背景是：随着生成式AI的发展，基于LLM的安全代理引起了广泛关注，但开源模型在专业化安全任务中的实际表现尚不明确。核心
Runtime Skill Audit: Targeted Runtime Probing for Agent Skill Security
本文针对LLM代理技能的安全问题提出了一种名为Runtime Skill Audit（RSA）的动态分析方法。代理技能允许LLM代理复用指令、资源、工具和工作流，但也为恶意行为提供了藏身之处。一个技能可能在文档或代码中看似良性，但只有在特定
Chimera: Harnessing Multi-Agent LLMs for Automatic Insider Threat Simulation.
内部威胁是企业安全领域持续存在的重大风险，但由于恶意行为常隐藏于细微的用户活动中，在复杂企业环境下难以检测。现有基于机器学习的内部威胁检测（ITD）技术受限于高质量、真实训练数据的缺乏——公共数据集规模小，合成数据集缺乏泛化性、丰富语义和真
Dummy Backdoor as a Defense: Removing Unknown Backdoors via Shared Internal Mechanisms for Generative LLMs
该论文针对大型语言模型（LLM）面临的后门攻击威胁，提出了一种基于共享内部机制的未知后门移除方法。后门攻击会使模型在干净输入下表现正常，但遇到特定触发器时输出攻击者指定的有害内容。由于防御者通常不了解后门类型或内部机制，移除未知后门极具挑战
Sovereign Assurance Boundary: Certificate-Bound Admission for Agentic Infrastructure
本文针对自主代理基础设施面临的关键控制平面授权问题，提出了一种名为主权保证边界（Sovereign Assurance Boundary, SAB）的证书绑定运行时准入层。随着AI代理和自主系统能够产生非确定性推理并提议对生产资源进行高风险
Defense Against Prompt Inversion Attacks: An Information-Theoretic Approach for LLM Collaborative Inference
该论文聚焦于协作边缘-云推理场景中的隐私泄露问题。资源受限的设备通过将部分计算卸载到云服务器来利用大型语言模型（LLM），但中间激活值在传输过程中容易受到提示反转攻击，即攻击者从共享表示中重构原始用户输入。现有防御方法多依赖启发式扰动或经验
JailbreakOPT: Tool-Assisted Iterative Jailbreak Prompt Optimization
本文提出 JailbreakOPT，一个工具辅助的迭代式越狱提示优化框架，旨在自动化生成更强大的单轮越狱攻击提示，以暴露大型语言模型（LLM）的安全漏洞。现有方法存在权衡：手工设计的提示虽表达力强但静态，而迭代优化虽能自适应但通常依赖低级变
MPC-Patch-Bench: Security-Aware LLM Code Patch for Multi-Party Computation
本文提出了 MPC-Patch-Bench，这是首个针对安全多方计算（MPC）软件的仓库级基准，用于评估大语言模型（LLM）的代码修复能力。当前缺乏此类基准，直接移植通用基准（如 SWE-bench）存在三大结构性缺陷：（1）MPC仓库中通
Influence Factors on RAG Poisoning
检索增强生成（RAG）系统通过在推理时从外部知识源检索文档来增强大语言模型的生成能力，但这种对外部检索内容的依赖也引入了投毒攻击的脆弱性：攻击者可以通过注入对抗性文档来操纵检索过程和生成输出。本文通过一个涵盖432种配置的全因子实验研究，系
OpenPCC: Open and Confidential LLM Serving on Commodity TEEs
该论文针对云推理服务（CIS）中用户请求包含大量个人敏感或企业机密信息，而现有保护方案（如苹果的PCC、谷歌的Private AI Compute）依赖专有硬件和封闭生态系统，难以被其他厂商采纳的问题，提出了OpenPCC：一个基于商用可信
Understanding and mitigating the risks of OpenClaw for non-technical users: A practical guide with Skill
本文针对非技术用户在使用OpenClaw（一种新兴的AI代理框架）时面临的安全风险进行了系统性的研究。OpenClaw能够自主执行复杂的多步骤任务，吸引了大量用户，但现有安全研究主要面向技术专家，对非技术用户不够友好。作者首先识别并分类了七
Context-Based Adversarial Attacks on AI Code Generators: Vulnerability Analysis and Implications
本研究系统性地调查了基于上下文的对抗攻击对AI代码生成器的安全影响。作者通过向大型语言模型（如CodeT5+、CodeLlama、GPT-3.5-Turbo和GPT-4）提供精心设计的上下文输入（包括注释、文档、变量名），诱导模型生成存在漏
Training LLMs to Enforce Multi-Level Instruction Hierarchies via Gravity-Weighted Direct Preference Optimization
本文针对生产环境中大型语言模型（LLM）处理来自不同信任级别指令时存在的结构性脆弱性展开研究。当前LLM对所有令牌赋予相同的架构特权，这导致恶意提示注入攻击有机可乘，且模型缺乏解决合法但冲突指令之间矛盾的原则性方法。现有基于训练的方法试图教
RedAct: Redacting Agent Capability Traces for Procedural Skill Protection
本论文研究了基于语言模型的智能体（Agent）在执行复杂任务时生成的执行追踪（execution traces）所引发的程序技能泄露风险。用户通常依赖这些追踪来观察行为、诊断失败和确保问责，但追踪中包含了丰富的程序细节，如工具调用、中间决策
Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation
本文是一篇关于大型语言模型（LLM）智能体安全性的全面综述，共整合了247篇相关论文。论文指出，LLM智能体正从对话界面快速演变为能够规划、调用工具、维护记忆并在外部环境中行动的软件组件，这一转变从根本上改变了安全风险的性质。在智能体场景中
Do LLMsMakeNeural Distinguishers Wise?
该论文探索了大型语言模型（LLM）在对称密码分析中神经区分器任务上的应用。神经区分器是一种通过机器学习模型区分密文对来恢复密钥的方法，以往工作多使用ResNet等传统深度学习模型，但尚未有研究将LLM用于此任务。作者提出了一种基于LLM的神
Assessing Automated Prompt Injection Attacks in Agentic Environments
该论文系统评估了针对LLM Agent的自动提示注入攻击方法。在Agentic环境中，LLM Agent会与不可信的外部数据交互，间接提示注入成为关键威胁。然而，在现实Agent场景下，自动攻击方法（如用于越狱的GCG和TAP）尚未被充分探
AgentCanary: A Security Evaluation Framework for Autonomous AI Agents in Real Executable Environments
随着自主AI智能体从对话式交互转向任务执行，安全威胁也从文本欺骗升级为系统破坏。现有安全评估工作面临三大瓶颈：风险覆盖碎片化（缺乏系统性分类）、执行环境静态或低保真（无法模拟真实多步交互）、评估指标单一粗粒度（仅考虑最终结果忽略过程安全）。
Semantic Multi-Agent Intrusion Detection for IoT:Zero-Day and Adversarial Threats with Risk-Aware Reasoning
随着物联网设备数量的激增，网络攻击面显著扩大，包括零日攻击和对抗性入侵在内的复杂威胁日益严重。传统的入侵检测系统（IDS）难以泛化至未知攻击，计算资源需求高且缺乏可解释性，尤其在资源受限、异构的物联网网络中。本文提出一种基于语义的多智能体入