Proving the Utility of Large Language Models in Cybersecurity Simulations: A Comprehensive Examination
本文研究如何利用大型语言模型（LLM）增强网络安全模拟，特别是在自动化合成环境创建和潜在漏洞识别方面。作者提出使用YAML作为结构化表示格式来描述复杂网络配置，从而构建LLM驱动的流水线，以支持并改进强化学习（RL）代理的训练。研究通过对比
#LLM
共收录 2152 条相关情报。
← 返回所有主题Recovering Process Variables from Industrial Network Traffic via Search-Based Optimization
本文针对工业网络流量中过程变量（Process Variables, PV）恢复问题展开研究。在工业信息物理系统（CPS）中，过程变量是过程感知安全监控的关键证据，但现有监控基础设施通常仅记录由历史数据库（historians）保存的部分P
Security Assessment of DeepSeek Harness with A.I.G: Evaluating Resistance to Indirect Prompt Injection
本文对DeepSeek Harness (DSH) 这一大语言模型智能体框架进行了系统性的间接提示注入安全评估。研究团队使用自研的AI-Infra-Guard (A.I.G) 工具链构建测试用例，通过受控污点注入、执行DSH、采集执行轨迹并
Probing the Prefill: Detecting Code Vulnerabilities via Latent Activations
该论文研究一个核心问题：当大语言模型（LLM）读取一段C/C++代码作为上下文时，其内部隐藏激活（hidden activations）是否已经包含关于该代码是否存在漏洞的信号，从而可以在不运行额外静态分析工具或微调分类器的情况下，直接利用
CompoSkill: Compositional Skill Chain Attacks from Individually Scanner-Passing LLM Agent Skills
本文研究自主AI智能体在长时程任务中依赖市场技能（marketplace skills）的安全认证盲区。当前生态采用逐技能扫描（per-skill scanner）：每个技能单独通过安全检测即视为整体安全。作者指出该假设在技能组合（skil
Decorrelation Is Not Complementarity: Skill, Not Lineage, Governs Trusted-Monitor Ensembles
该论文研究可信监控器集成（trusted-monitor ensembles）中的核心问题：什么因素真正决定了集成性能？此前方法通过最小化平均成对相关性来构建多样化监控器面板，但未明确这种相关性的来源是技能还是谱系。作者研究了24个开放权重
Securing AI-Generated Code: A Just-in-Time Vulnerability Detection and Remediation Pipeline
本文针对 AI 辅助开发工具生成代码中普遍存在安全漏洞、却缺乏在开发速度下自动检测、富化、修复和验证安全问题的机制这一痛点, 提出并评估了一套即时 (Just-in-Time) 漏洞检测与修复流水线。该流水线由多个阶段组成: 首先从 LLM
Measuring Obedience to Authority Across Large Language Models with the Milgram Paradigm
这篇 arXiv 论文将社会心理学中经典的米尔格拉姆服从权威实验移植到大语言模型（LLM）上，系统测量了 LLM 在权威指令下会执行多大程度的有害行为。作者设计了一个完全脚本化、可复现的测试框架：模型扮演“教师”角色，一个确定性的测试环境扮
Coverage Is Not Containment: A Fundamental Limit of Admission-Time Defenses Against Coordinated Poisoning of Vector Retrieval
本文研究检索增强生成（RAG）系统中的投毒攻击与防御局限。RAG 通过从向量库检索段落作为上下文来回答问题，因此任何能够添加文档的人都有可能操纵答案。一种近期的防御方案是在文档摄入时进行过滤，拒绝任何行为类似“枢纽”的文档。作者证明这种过滤
Proof-of-Execution Memory: Defending LLM Agents Against Forged-Reasoning Attacks by Verifying What Actually Happened
该论文聚焦于 LLM Agent 的推理记忆（reasoning memory）被对抗性写入导致的安全问题。LLM Agent 本身是无状态的，需要依赖外部记忆在步骤间传递上下文，并默认信任记忆内容，因此攻击者若能写入该记忆即可操控 Age
SkillWatermark: An Embedded Skill Watermark of Progressive Privacy Inference via Benign Prompts
本文提出了一种名为 SkillWatermark 的新型攻击方法，针对大语言模型（LLM）智能体的技能模块。LLM 智能体的技能（skill）被广泛部署在各种应用场景中，但作者观察到，这些技能在执行过程中会产生特定的流量模式。基于此，他们设
Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias.
该论文题目为《Trust Me, I Know This Function: Hijacking LLM Static Analysis using Bias》，作者包括 Shir Bernstein、David Beste、Daniel
Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models.
该论文针对基于扩散模型的文生图模型，提出了一种名为 Nightshade 的提示词特异性投毒攻击方法。研究背景是：扩散模型通常在数十亿张图像上训练，传统的数据投毒攻击往往需要污染近 20% 的训练样本才能生效，因此被认为对这类模型几乎无效。
Conjunctive Poisoning in AI Supply-Chain Applications
该论文研究大型语言模型（LLM）和视觉语言模型（VLM）在实际部署中的一类新型安全风险。现代AI推理流水线通常包含提示包装器（如模板、后处理脚本）和配置元数据（如JSON/YAML文件），这些文本工件共同影响模型输出。尽管模型权重和二进制文
Bounded Agents: Delegation Security for Multi-Agent AI Systems
该论文聚焦于多智能体人工智能系统中的委派安全问题。基于LLM的智能体可以代表用户访问云服务、调用工具或调用其他智能体。在会话开始时，智能体的权限被设定，但随后保持静态，每个请求被独立评估，而不考虑先前的操作。在其权限范围内，智能体可能做出与
Assessing Attack Surfaces in Generative Search Engines through Publisher Attributes: A Case Study in Political Domains
本论文针对生成式搜索引擎（GSE）在面对投毒攻击时的攻击面进行了系统性评估，聚焦于政治领域，并从引用选择与个性化两个维度展开分析。生成式搜索引擎结合了网络搜索与基于大语言模型（LLM）的答案生成，能够根据用户偏好和背景提供个性化信息，已成为
Provenance, Not Behaviour: A Serialisation Artifact in Edge-IIoTset and a Leakage-Free Benchmark for Precision-Agriculture Intrusion Detection
本文指出工业物联网入侵检测领域广泛使用的基准数据集 Edge-IIoTset 存在严重的数据泄漏问题，导致基于该数据集报告的 99% 以上检测准确率并不可靠。作者发现数据集附带的数据预处理流程要求对七个类别型特征进行独热编码，其中四个类别特
Stateful Greybox Fuzzing.
本论文针对协议实现这类反应式系统中的状态相关（stateful）缺陷的模糊测试难题，提出了一种无需协议形式化规范即可自动识别状态变量并引导状态空间覆盖的灰盒模糊测试方法。作者观察到，在Top-50最广泛使用的开源协议实现中，所有实现都使用枚
Subpopulation Data Poisoning Attacks.
该论文提出了一类新型的数据投毒攻击，称为“子群体攻击”（Subpopulation Attack）。研究背景是机器学习模型在关键场景中部署时可能因训练数据被恶意篡改而在特定情况下产生错误预测。传统投毒攻击（如后门攻击）通常会在训练数据中植入
Chameleon: An Adaptive AI-Driven Honeypot Architecture Using Threat-Calibrated Particle Swarm Optimization and Semantic Deception Rapidly-Exploring Random Trees
该论文提出了一种名为 Chameleon 的自适应蜜罐架构，旨在解决传统蜜罐的两个核心缺陷：一是行为轮廓固定不变，熟练攻击者仅需少量诊断命令即可识别出蜜罐环境，从而限制其情报收集价值；二是高成本商业欺骗产品（年费约 10 万至 15 万美元