Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems
本论文针对检索增强生成（RAG）系统中的安全性与可靠性缺口展开研究。RAG 通过引入外部知识来增强大语言模型（LLM）的输出，但现有系统往往盲目信任检索结果，导致高语义相关性并不保证事实真实性，从而形成安全-可靠性缺口。攻击者可利用知识投毒
#cs.SE
共收录 457 条相关情报。
← 返回所有主题The Software Supply Chain as a Market for Lemons: A Multivocal Review of Trust Signal Collapse
该论文研究开源软件依赖评估中的信任信号可靠性问题。实践者通常使用廉价信号（如星标数、下载量、贡献者活跃度）作为直接代码审查的替代，假设这些信号能反映软件包的真实可信度。既有研究已记录个别信号被操纵，但尚未全面考察所有依赖采纳信号的系统性崩溃
SiNMULI: Novel Signed Network Approach for Malicious URL Identification
本文提出一种基于符号网络（signed network）的恶意URL识别方法 SiNMULI。研究背景是：传统机器学习、深度学习和伪造网站检测方法大多依赖静态数据分析，难以应对恶意网站的动态演变和对抗性混淆。作者将恶意URL识别问题转化为一
SpecTrum: Specification-Guided Differential Fuzzing for Ethereum Consensus Clients
以太坊的共识安全依赖于多个独立实现的共识客户端在每个状态转换上保持一致。若实现差异导致分歧，网络可能分叉、最终性停滞，并引发严重攻击。为防止此类共识分歧，以太坊提供了 Python 参考实现（consensus-spec）作为规范，并附带手
Benchmarking Automated Security Patch Backporting: How Far Are We?
该论文研究了自动化安全补丁回溯移植（backporting）这一关键问题。安全补丁回溯移植是指将针对新版本软件的安全修复代码移植到旧版本或不同分支，以缓解N-day漏洞。以往研究的工具在各自数据集上宣称成功率超过80%，但这些评估往往局限于
Reproducibility is Not Enough: Artifact Verifiability in Decentralized-Build Package Ecosystems
该论文针对去中心化构建的包生态系统中工件可验证性问题展开研究。作者指出，可复现构建虽然能增强对分布式软件工件的信任，但仅靠构建确定性并不足以实现工件验证——验证者还必须能够恢复生成该工件所需的源代码状态、构建环境、依赖项和构建指令。而去中心
A Multi-Surface Consistency Audit of Software Citation Metadata
该论文针对研究软件项目元数据一致性问题展开系统审计。研究软件项目往往在多个位置同时描述自身，例如仓库中的引用文件（如 CITATION.cff）、归档存储、DOI 注册记录、包注册表以及 README 文本等。作者将这些机器可读的自描述视为
DCI: Dependency Confidence Index for Assessing Open-Source Dependency Trustworthiness
开源软件供应链安全中，选择可信赖的依赖项仍然是一个重大挑战。现有工具如 OpenSSF Scorecard 提供了安全评分，但往往忽视了软件开发过程中的多维度信任因素。为此，本文提出依赖置信指数（Dependency Confidence
Securing AI-Generated Code: A Just-in-Time Vulnerability Detection and Remediation Pipeline
本文针对 AI 辅助开发工具生成代码中普遍存在安全漏洞、却缺乏在开发速度下自动检测、富化、修复和验证安全问题的机制这一痛点, 提出并评估了一套即时 (Just-in-Time) 漏洞检测与修复流水线。该流水线由多个阶段组成: 首先从 LLM
WeSCE: A Benchmark for Measuring Security Drift in LLM-Driven Code Editing
本文提出 WeSCE，一个用于量化 LLM 驱动代码编辑过程中“安全漂移”的基准测试。在真实开发场景中，开发者常向 LLM 下达仅包含功能目标的编辑指令（如“增加一个排序功能”），并未显式提出安全要求，但代码修改可能引入或加剧安全漏洞。We
A Hybrid LLM-Based Framework for Automated Security Annotation Generation in Business Process Models
本文针对安全业务流程建模中安全注解生成高度依赖人工且易出错的问题，提出一种基于大语言模型（LLM）与规则混合的自动化框架。在业务流程建模中，BPMN 扩展如 SecBPMN2 为流程模型添加安全属性，但现有实践通常需要安全专家从自然语言的安
CoSA: Context-Aware Severity Assessment via Context Analysis with Large Language Models
该论文提出 CoSA，一种基于上下文感知的漏洞严重性评估方法，旨在利用大语言模型（LLM）从代码仓库级工件中自动推断 CVSS 基础指标。传统 CVSS 评估依赖人工分析，耗时且容易出错；现有自动化方法多局限于函数级分析，难以捕获仓库中分散
A Reproducibility Protocol for Cross-Implementation Evaluation of Post-Quantum ACVP Test Vectors
本文提出并实施了一套面向后量子密码学（PQC）标准 ML-KEM 的跨实现可复现性验证协议，旨在解决加密标准独立实现之间已知答案测试（KAT）一致性验证中因语料、版本、公共接口、排除规则和证据记录不一致而导致的验证结论不可靠问题。作者设计了
LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles
该论文研究利用大语言模型（LLM）自动化生成可执行的测试工件，以动态确认自动驾驶系统中可被攻击者输入触发的软件弱点。作者以开源自动驾驶栈 Autoware 为对象，首先执行编译器精确的静态分析，覆盖 185 个软件包，识别出 1,375 条
Does Fixing Break Security? An Empirical Study of Security Degradation in Iterative LLM-Driven Infrastructure-as-Code Repair
本文针对迭代式大语言模型（LLM）驱动的 Infrastructure-as-Code（IaC）修复过程中的安全退化问题进行了实证研究。研究背景是：当前主流做法采用迭代反馈循环来改进 LLM 生成的 IaC 配置，例如使用 Checkov
Smart Contract Invariants Protect Against Cybercriminals
本文针对区块链智能合约频繁遭受网络犯罪分子攻击、造成巨额资产损失这一严峻安全问题展开研究。作者指出，尽管区块链环境被认为是计算领域最具对抗性的环境之一，但现有技术和概念尚未能真正有效解决漏洞被利用的问题。为此，论文提出并系统验证了经典的程序
Dissecting Software Graphs: Structural Insights for Driver-Guided Fuzzing
本文是一项关于多驱动模糊测试（multi-driver fuzzing）的实证研究。许多软件通过命令行选项、子命令和配置标志暴露多种执行模式。对于这类程序，模糊测试同时依赖于变异的输入和所调用的模式，但现有评估主要关注覆盖率和 bug 数量
VICBench: A Multi-Language Benchmark for Code Vulnerability Detection
在软件安全领域，准确评估漏洞检测工具的效果高度依赖于包含“漏洞诱导提交”（Vulnerability-Inducing Commits, VIC）的基准数据集——即首次将漏洞引入代码库的提交。VIC 对于确定受影响的软件版本范围、追踪漏洞演
Instruction Alignment for Binary Code Representation Learning
二进制代码表示学习是软件安全与逆向工程中的基础性难题，其目标是为二进制函数生成可供机器学习算法使用的嵌入表示。现有主流方法通常聚焦于函数级嵌入，通过对比学习或分类任务捕获不同函数之间的粗粒度语义相似性，但忽视了指令级粒度的对应关系。这种粒度
The Next Challenge for Agentic Cybersecurity: A Realistic, Contamination-Free Reverse Engineering Benchmark
这篇论文针对 AI 智能体在网络安全领域的逆向工程（RE）能力评估问题，提出了一个全新且严格的基准测试 SRE-Bench。研究背景是：AI 智能体在源代码可用时已展现出强大的安全分析能力，但实际中许多关键软件（如恶意软件、固件、专有应用）