Five Primitives for Governing Autonomous AI Agents at Runtime
该论文聚焦企业级自主AI代理（autonomous AI agents）的运行时治理问题。作者指出，当前企业部署自主AI代理时，沿用了为人类用户和长期服务设计的传统控制模型，但在三个关键方面不匹配：一是代理主体（principals）是临时
#cs.SE
共收录 457 条相关情报。
← 返回所有主题Unsaid, Unsafe? Implicit Security Obligations in LLM-Based RTL Code Generation
该论文针对大语言模型（LLM）生成的寄存器传输级（RTL）代码的安全性展开研究。与软件代码不同，RTL 代码一旦流片（tape-out）到硅片上便无法修补安全漏洞，因此其安全性至关重要。现有研究主要关注 LLM 生成软件代码的安全问题，而
Vulnerable Code Search: Transferable Attack for Code Language Models
本文研究神经代码语言模型（CLM）在代码检索任务中的脆弱性，提出一种与编程语言无关、可迁移的对抗攻击方法。现有代码搜索引擎依赖CLM将自然语言查询与代码片段映射到同一向量空间，但这类模型容易被针对非功能性文本元素的对抗扰动所欺骗。作者的核心
Beyond the Editing Canvas: Evidence Divergence in OOXML-to-LLM Ingestion
该论文研究大型语言模型（LLM）流水线在摄入 Office Open XML（OOXML）文档（Word、Excel、PowerPoint）时面临的一个关键安全与语义完整性问题。在金融、合规和检索增强生成等场景中，LLM 常将这类文档作为第
Closing the Gap: Automated Discovery of Secure Dockerfile Reference Standards via Semantic Clustering in Enterprise Inner Source
容器化已成为企业软件交付的主流方式，但用于构建容器镜像的 Dockerfile 常常包含安全配置错误和结构性技术债务。该问题在企业内部源（inner-source）环境中尤其缺乏研究，因为专有上下文和孤立的治理机制使得开源社区的发现难以直接
NeuronFuzz: Safety Neuron Guided Fuzzing for LLM Safety Evaluation
论文提出 NeuronFuzz，一个面向大语言模型（LLM）安全评估的白盒模糊测试框架。现有自动化越狱测试方法主要依赖响应级反馈：每个候选提示都需要目标模型生成完整回复才能评估攻击效果，这不仅计算开销大，而且在强对齐模型上反馈极其稀疏——大
Separating Disclosure from Authorization: Field-Tier Minimization for Agent Action Mediation
本文针对代理系统中动作授权与审计披露之间的根本冲突提出了一种新的架构设计。传统上，系统为了授权某个动作必须查看其原始参数，而为了审计又需要将这些参数记录在不可篡改的账本中，这导致敏感数据（如收件人、付款备注、记录标识符）被持久化存储，产生隐
ADeptS-Bench: Measuring the Trustworthiness of Computer Use Agents Across Devices
该论文提出了 ADeptS-Bench，一个针对计算机使用代理（CUA）的可信度评估基准。CUA 被越来越广泛地用于代表用户操作移动和桌面应用，但现有基准未能全面评估其在视觉界面中安全交互、处理模糊指令的能力。ADeptS-Bench 基于
FuzzingBrain-Bench V1: Evaluating Open-Ended Bug Discovery by LLMs
大型语言模型（LLM）在软件漏洞发现中的应用日益受到关注，但现有评估基准通常要求模型生成针对预定义目标的 PoC 输入，这种方式可能忽略模型发现的、与预期目标不一致但确属有效的崩溃，从而低估模型真实能力。针对这一问题，本文提出了 Fuzzi
Prompt Structure Redistributes, Not Reduces: An Empirical Analysis of Security-Weaknesses in LLM-Generated Python Code
本文针对大型语言模型（LLM）从自然语言提示生成代码时，提示工程如何影响生成软件安全性的问题展开实证研究。现有观点认为结构化、面向安全的提示可以促使模型生成更安全的代码，但作者指出，其影响不能仅通过检测到的弱点是否存在来衡量。为此，研究者使
Towards LLM-Enhanced Android Taint Analysis
该论文探讨了使用大型语言模型（LLM）增强 Android 应用污点分析的可能性。污点分析是检测敏感数据泄露的关键技术，但传统静态分析工具（如 FlowDroid）在准确建模 Android 框架时面临诸多挑战，导致漏报和误报。作者提出了一
Evaluating and Preventing Security Smells in AI-Generated Ansible Code
本文研究了AI编程助手生成的基础设施即代码（IaC）中存在的安全问题。以往研究大多关注AI生成代码的功能正确性，但对其安全性关注不足。作者指出，如果基础设施代码存在安全缺陷，会直接传播到部署的系统，导致不可信的基础设施。论文评估了16个AI
ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
本文（ToolMinimize）针对LLM智能体在工具调用中过度暴露隐私敏感数据（PSD）的问题开展研究。作者通过在GPT-4o、Claude 3.5 Sonnet和Llama-3.3-70B三个生产级大语言模型上的受控测量发现，在默认提示
The Evolution of Binary Decompilation in the Modern Era: A Taxonomy, Literature Review, and Future Perspectives
本文是一篇关于二进制反编译技术在现代计算环境中的系统性综述。反编译作为软件工程与安全分析的基础技术，旨在将机器码或二进制程序还原为高级语言表示，广泛用于恶意软件分析、漏洞挖掘、遗留代码维护和软件可追溯性验证。近年来，随着机器学习（ML）方法
SoK: ARCUS: On the Efficiency and Efficacy of Hardware Fuzzing
本文是一篇关于硬件模糊测试（Hardware Fuzzing）的系统性综述（SoK），旨在系统化梳理当前硬件模糊测试技术在三个主要抽象层次上的研究现状与挑战，这三个层次分别是指令集架构（ISA）、微架构（Microarchitecture）
KONTOGRAPH: Verified Point-in-Time Feature Consistency and Amortised Explanation for Real-Time Anti-Money Laundering under a 200 ms Decision Budget
欧盟法规 (EU) 2024/886 要求欧洲支付服务商在十秒内完成欧元信用转账结算，且全天候运行，这彻底取消了传统反洗钱（AML）分析所依赖的隔夜批处理窗口，也消除了结算延迟带来的追回可能，迫使检测、解释与决策必须在个位数秒级时间内完成。
Mitigating Error Propagation in Chain-of-Thought: A Tree-of-Thought Framework for Smart Contract Repair
本文针对智能合约修复中基于 AI 的现有方法依赖线性思维（如 Chain-of-Thought）导致错误累积、补丁不可靠的问题，提出了一种基于 Tree-of-Thought 框架的智能合约修复方法。智能合约一旦部署便无法修改，即使是小漏洞
CodeMechanic: Bug-Property-Guided Program Mitigation
本文提出 CodeMechanic，一个基于缺陷属性引导的程序缓解系统，旨在解决自动化测试发现内存损坏漏洞后，开发者来不及修复、导致已知漏洞长时间可利用的问题。现有基于大语言模型（LLM）的端到端修复代理虽然能缩短这一时间窗口，但会生成开放
How Reliable Are NVD CWE Labels? A Large-Scale Semantic Audit with Seclometry
NVD（美国国家漏洞数据库）中的 CWE 标签被广泛视为漏洞搜索、扫描器评估、基准构建、基于学习的安全工具以及漏洞优先级排序的“金标准”。然而，尽管业界对 NVD 的补录积压问题担忧日益加剧，且存在不少关于标签不准确、含糊或缺失的零散报道，
BeTaL-GBI: Admission-Aware Benchmark Tuning and Full-Stack Verification of Geometric Belief Interfaces
本文提出 BeTaL-GBI，一个面向“几何信念接口”（Geometric Belief Interfaces）的可信验证基座，核心目标是让企业级验证架构不仅能检查模型输出，还能暴露自身声明中的错误。作者首先指出先前版本 GBI-DCSE