i-EXAM: Instructable and Explainable Attack Connectivity Graph Modeler
i-EXAM 是一个基于规划（AI planning）的辅助工具，旨在帮助系统管理员为复杂网络创建安全配置文件并执行假设分析（what-if analysis），以识别网络加固策略。该工具利用规划编译技术，提供可靠性和完备性保证，能够自动识
#LLM
共收录 2152 条相关情报。
← 返回所有主题Code-Level Cost Function Generation for Spatial Image Steganography Using RAG-Enhanced Large Language Models
传统的自适应图像隐写成本函数设计需要大量手动调参，而深度学习方法又缺乏可解释性。大语言模型（LLM）通过进化生成提供了一种自动化替代方案，但由于缺乏显式领域知识，常常违反领域特定的数学约束。为了解决这一问题，本文提出了一种新颖的进化系统，利
Security and Privacy in Agentic AI: Grand Challenges and Future Directions
本文基于一项前瞻性扫描研究，汇集了来自学术界、工业界和政府的30位国际顶尖专家，通过聚焦讨论和协作练习，系统性地识别并阐述了智能体人工智能（Agentic AI）在安全与隐私方面面临的重大挑战和未来研究方向。研究指出，随着AI系统自主性的不
Beyond Refusal: A Same-Lineage Study of Aligned and Abliterated LLMs for Vulnerability Analysis
本研究聚焦于大型语言模型（LLM）在辅助软件安全分析中的安全状态影响。LLM辅助的软件安全分析处于一个微妙的边界：用于合法代码审查、分类和修复的漏洞分析术语可能与滥用场景下的术语高度相似。现有安全评估常比较不同模型家族，混淆了安全行为与架构
Unicode TAG-Block Concealment of Tool-Metadata Payloads in the Model Context Protocol: An Approval-View Fidelity Gap Across Three Independent Server Implementations
本研究揭示了模型上下文协议（MCP）中的一个安全漏洞：工具元数据在客户端审批视图与注入模型上下文的字节之间可能存在不一致。作者将这种差距定义为“隐藏编码”机制，并聚焦于Unicode TAG块（U+E0000至U+E007F），该块在所有主
Calibration-Family Overfit: Why Trusted Sabotage Monitors Don't Transfer Across Lineages
本文研究AI安全控制中的可信监控（trusted monitoring）防线。可信监控依赖一个更便宜的“可信模型”对“不可信模型”的行为进行评分，以检测潜在的破坏性行为（如后门攻击）。传统评估仅针对一个或两个不可信模型报告准确率，但本文质疑
When Agents Remember Too Much: Memory Poisoning Attacks on Large Language Model Agents
本文提出了一种针对大型语言模型（LLM）驱动的个人AI代理的新型攻击向量——GhostWriter，该攻击利用代理的记忆子系统进行投毒。当前的长时记忆代理主要分为对话型和动作规划型两类，而个人助理代理恰好处于两者的交汇点，在处理敏感信息的同
aiAuthZ: Off-Host, Identity-Bound Authorization for AI Agents
本文针对AI Agent在工具调用过程中因依赖不可信文本而面临的安全性问题展开研究。AI Agent通常基于LLM的输出发起工具调用，但攻击者可通过控制上下文（如提示注入）伪装成合法用户执行非授权操作。作者首先评估了15个当代语言模型在8种
Selective Disclosure Watermarking for Large Language Models
大型语言模型（LLM）生成的文本中嵌入水印是一种追踪合成内容来源或验证其真实性的技术。现有方法分为零比特方案（仅区分机器与人类写作）和多比特方案（嵌入元数据如时间戳、模型版本）。然而，当前多比特水印方案存在一个关键缺陷：验证器必须解码整个嵌
PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems
该论文提出了 PiSAs（Privacy in Shared Agentic Systems）基准，用于评估多用户共享智能体系统中的隐私泄露风险。随着大语言模型（LLM）智能体从单用户助手发展为共享组织基础设施，新的隐私风险随之出现：不适当
Untrusted Content Masking for Web Agents with Security Guarantees
本文针对Web代理面临的提示注入攻击问题，提出了一种名为“不可信内容遮蔽”（Untrusted Content Masking, UCM）的防御方法。在基于文本的工具调用API等环境中，可信指令与不可信数据天然分离，代理可以基于接口定义进行
When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents
本文研究了一种针对持久化个人代理（persistent personal agents）的新型安全威胁——隐蔽内存注入（stealthy memory injection）。持久化个人代理结合了长期记忆与用户外部环境访问能力，可提供个性化前
Privilege and confidentiality in generative AI workflows
本文聚焦于生成式人工智能工作流中的特权与保密性问题。作者指出，生成式AI系统通过三种不同方式存储和处理客户数据：训练与记忆中的模型参数、实时会话中的上下文窗口以及用于检索增强生成（RAG）的知识数据库。每种模式都会对保密性和法律职业特权产生
Agent Data Injection Attacks are Realistic Threats to AI Agents
本文提出了一种针对AI智能体的新型攻击类别——Agent数据注入攻击（ADI）。与传统的间接提示注入（IPI）主要关注指令注入不同，ADI攻击者将恶意数据伪装成可信数据，例如安全关键的元数据（资源标识符、数据来源等）或智能体上下文数据（工具
Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
本文提出了一种针对大型语言模型（LLM）智能体持久记忆的新型攻击方法——伪造放大推理记忆攻击（FARMA）。传统的记忆中毒攻击主要污染事实性知识，而FARMA则针对智能体的推理历史进行注入。攻击者通过插入含有规避性语言的伪造推理痕迹，绕过基
TACTIC-KG: Toward Small Agent Teams for Cyber Threat Intelligence Knowledge Graph Construction
网络威胁情报（CTI）报告通常是非结构化、异构且包含噪声的，这限制了它们在自动化分析与推理中的直接可用性。网络安全知识图谱（CSKG）能够以结构化形式表示攻击实体、行动和关系，但从自由文本CTI中构建此类图谱仍然是一个挑战。现有方法通常依赖
ShadowProbe: Language-Extensible Detection of Hidden Algorithmic Complexity Vulnerabilities
算法复杂度漏洞（ACV）是指攻击者通过精心构造的输入触发目标系统的最坏情况执行行为，导致严重性能退化或拒绝服务。现有ACV检测工具通常依赖模糊测试、符号执行或混合分析，但存在语言特异性、需要大量人工构建测试框架以及运行时插桩开销大等问题。本
Layer-Parallel Inference Reduces Encrypted Nonlinear Depth in Transformers
本文研究全同态加密（FHE）下Transformer推理的效率问题。FHE允许对加密数据进行计算，但现有加密Transformer推理受限于大量非线性块（如softmax、RMSNorm）的串行组合，导致巨大的计算开销和噪声积累。作者提出结
F-ACVAE: A Federated Adaptive Conditional Variational Auto-Encoder for Privacy-Preserving Intrusion Detection in IoT Networks
本文提出了一种名为F-ACVAE（联邦自适应条件变分自编码器）的框架，旨在解决物联网（IoT）网络中的隐私保护入侵检测问题。随着IoT设备激增，网络攻击面扩大，但传统的集中式入侵检测系统（IDS）面临高维流量数据、极端类别不平衡以及异构边缘
Retroactive Chain-of-Thought (RetroCoT): Forensic Reconstruction Prompts as a Safety Diagnostic Across Model Generations
本文发现大型语言模型的安全对齐高度依赖于语用语境（pragmatic register），即模型对直接有害请求的拒绝并不能泛化到相同底层意图但不同语用表述的请求上。作者提出了一种名为“回溯式思维链”（RetroCoT）的单轮攻击方法，该方法