Automated Attack Synthesis by Extracting Finite State Machines from Protocol Specification Documents.
该论文提出了一种从协议规范文档（RFC）中自动提取有限状态机（FSM）的数据驱动方法，并将其应用于自动化攻击发现。网络协议的安全验证通常依赖攻击者合成或基于模型的模糊测试，但这些技术需要协议的正式表示，通常为FSM。然而，许多协议仅以英文散
#LLM
共收录 2152 条相关情报。
← 返回所有主题Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions.
该论文针对 GitHub Copilot 这一人工智能代码补全工具所生成代码的安全性进行了系统评估。研究动机在于，随着开发者越来越多地使用大语言模型（LLM）辅助编写代码，其输出可能隐含安全漏洞，而开发者往往因信任或疏忽而直接采用。作者构建
SENTINEL-RL: Offloading Topological Reasoning from LLM Agents in the Security Operations Center
该论文提出 SENTINEL-RL，一种用于安全运营中心（SOC）的智能体架构，旨在克服大型语言模型（LLM）智能体在自主威胁分析中的两个核心局限：有限上下文窗口难以承载大规模认证图，以及自由文本生成无法保证推荐动作与网络拓扑的一致性。SE
PatchBench: Evaluating AI Agents for Vulnerability Patching
本文针对基于大语言模型的AI智能体在自动化漏洞修复评估中存在的效度威胁问题开展研究。作者指出，现有评估方法通常仅通过让补丁接受原始PoC（概念验证）输入不再触发崩溃来判定补丁有效，但这种验证方式存在两个主要缺陷：一是智能体可能直接复现历史开
AI-Assisted Design of a Post-Quantum Cryptographic Accelerator: A Deployed-Silicon Case Study
该论文针对后量子密码（PQC）迁移中硬件实现的安全验证盲区展开研究。由于硅片一旦流片后无法远程修补，标准验收测试（如已知答案测试 KAT）的覆盖率不足可能带来致命缺陷。作者指出，在 ML-DSA 签名算法中，拒绝采样循环会根据输入消息动态调
A Black Box for Agentic Processes: Blockchain-Anchored Evidence for AI Agent Communication, Human Oversight, and GRC Audits
本文由 Arslan Brömme 撰写，是一篇立场与架构论文，针对自主AI代理在相互通信、调用工具、交换中间结果及请求人工审批等流程中产生的全新审计难题。核心背景是 2026 年 OpenAI/Hugging Face 事件所暴露出的痛点
A Blind Trust, the Bloody Thrust: When Attacker-Controlled Hook Updates Steer AI Agent Harnesses towards Malicious Behaviors
现代AI agent harness（智能体框架）通过“生命周期钩子”机制将Shell命令绑定到会话开始、工具调用和文件编辑等运行时事件。这些命令通常以宿主主机权限执行，但它们作为钩子配置分发，且可能在大型语言模型（LLM）从未感知的时刻被
Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
该论文提出了一种名为 Stateless Bernoulli Watermarking（SBW）的新型大语言模型（LLM）文本水印方法，旨在以极低的计算开销实现可靠的模型输出标记与检测。与现有方法如 KGW（基于词汇置换和固定大小绿名单）和
Inferring Hidden User Models from the Behavior of Personalized LLM Agents
该论文研究了个性化大语言模型（LLM）智能体的隐私泄露风险。随着LLM智能体将用户记忆转化为压缩或结构化表示（称为用户模型）以指导后续决策，尽管源文本在普通接口可达的状态中被移除，此类模型仍被视为具有更好的隐私保护性，因为直接的内存提取攻击
AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks
该论文针对大型语言模型（LLM）面临的越狱攻击问题，提出了一种名为 AlcaTRAz（Anchored Tree-Rule defense Against jailbreaks）的提示词级别防御方法。越狱攻击通过精心构造的输入绕过模型的安全
Mental Damage: Caption Poisoning Attacks on Retrieval-Augmented Text-to-Music Generation.
本文研究了检索增强式文生音乐（Retrieval-Augmented Text-to-Music, TTM）系统面临的一种新型数据投毒攻击。此类系统在用户提示词不明确时，会从音乐描述数据库中检索相关文字描述（caption）来增强提示，再交
Privacy in Urban Sensing with Instrumented Fleets, Using Air Pollution Monitoring As A Usecase.
本文围绕城市感知场景中的隐私保护问题展开研究。现实中有大量服务型公司（如网约车、电商物流、外卖配送）愿意利用其车辆装备传感器，以低成本、大规模地采集交通拥堵、行驶时间、路面质量、空气质量等城市数据。虽然这些细粒度数据具有巨大的分析价值，但原
NC-Max: Breaking the Security-Performance Tradeoff in Nakamoto Consensus.
该论文聚焦于 Nakamoto 共识（NC，最早由比特币实现）中固有的安全性与性能之间的权衡问题。尽管后续出现了众多替代共识协议，NC 仍是加密货币领域最具影响力的共识协议，但其安全性要求（如出块间隔、区块传播时间等）限制了系统的吞吐量和交
DNAS-Bench: Deterministic Nucleic Acid Screener Benchmarking.
本文提出并开源了一个名为 DNAS-Bench 的确定性基准框架，用于评估生物安全筛选软件（BSS）在核酸合成订单审查中的鲁棒性。研究背景是合成生物学和生物制造快速发展，恶意行为者可能利用商业 DNA/蛋白质合成管线获取受管控的遗传序列，从
Seeing Less Is Not Seeing Safely: Privacy Leakage from Task-Scoped Robot Perception Exports
本文研究家庭机器人在仅在本地位保留原始传感器数据的情况下，其导出的结构化感知表示仍可能造成隐私泄露的问题。作者指出，即使原始数据不出本地，机器人为了导航、规划、云服务、日志或学习而导出的结构化表示，仍可通过语义、几何、空间结构和任务目标等维
SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment
该论文提出 SafeEvolve，一种面向 LLM 智能体（agent）安全对齐的“经验驱动自进化”框架。研究背景是：基于 LLM 的智能体在完成任务时，其行为由基础模型与交互环境所用的“harness”（即外部工具/提示/技能编排层）共同
ACLE-MCP: Attested Capability Leases for Execution-Time Trust in Remote LLM Tool Use
本文针对远程模型上下文协议（MCP）服务中，大型语言模型（LLM）智能体调用外部工具时的信任缺口问题展开研究。传统上，服务依赖 OAuth 授权来允许智能体调用工具，但 OAuth 仅完成身份与授权层面验证，无法保证后续工具调用确实由依赖方
PrimSynth: An Agentic Approach to Discover, Validate, and Synthesize Exploit Primitives for Linux Kernel Vulnerabilities
本文针对 Linux 内核漏洞利用中抽象策略与具体技术操作之间存在概念鸿沟的问题，提出了一种系统化的漏洞利用原语表征与自动化合成方法。作者首先形式化定义了六类漏洞利用原语，从逻辑能力到可验证效果进行归类；随后提出一种扩展的利用策略表示，将原
Automated Vulnerability Injection in Smart Contracts Using Large Language Models
这篇论文提出了一种利用大型语言模型（LLM）自动向 Solidity 智能合约中注入漏洞的方法，旨在解决智能合约漏洞检测工具评估中“带真实标签数据集稀缺且人工构建困难”的问题。作者以 OpenSCV 分类中的 49 种漏洞类型为目标，对来自
A Finger on the Scale: Covert Policy Steering through Agentic Skills
该论文研究可复用智能体技能（agentic skills）带来的供应链安全风险。可复用技能为LLM智能体提供任务流程、工具使用指导和输出约束，但它们本质上是外部化的行为策略。论文提出一种名为SkillShift的黑盒攻击框架，能够在保持技能