RTLGuard: A Lightweight Teacher-Student Defense for Poisoned RTL Code Generation Models
随着大语言模型（LLM）在硬件设计领域的应用，寄存器传输级（RTL）代码的自动化生成成为趋势，设计者可以利用LLM将高层级规范转换为可综合的硬件描述。然而，这类模型通常基于第三方预训练模型进行微调，其训练数据和适配过程不透明，导致供应链中存
#LLM
共收录 2152 条相关情报。
← 返回所有主题Vulnerable Code Search: Transferable Attack for Code Language Models
本文研究神经代码语言模型（CLM）在代码检索任务中的脆弱性，提出一种与编程语言无关、可迁移的对抗攻击方法。现有代码搜索引擎依赖CLM将自然语言查询与代码片段映射到同一向量空间，但这类模型容易被针对非功能性文本元素的对抗扰动所欺骗。作者的核心
A Self-Evolving Multi-Agent Framework Defense against LLM Jailbreak Attacks
本文针对大型语言模型（LLM）面临的越狱攻击防御问题提出了一种自进化的多智能体框架。当前LLM虽经过安全对齐，但仍易被角色扮演、混淆、代码转换、多步间接等越狱技术诱导产生有害输出。现有防御多为静态部署，无法根据新出现的攻击积累经验或自适应调
Beyond the Editing Canvas: Evidence Divergence in OOXML-to-LLM Ingestion
该论文研究大型语言模型（LLM）流水线在摄入 Office Open XML（OOXML）文档（Word、Excel、PowerPoint）时面临的一个关键安全与语义完整性问题。在金融、合规和检索增强生成等场景中，LLM 常将这类文档作为第
SkillShield: Prompt-Space Security Skills for LLM Coding Agents
本文针对LLM编程智能体（coding agent）的安全防护问题展开研究。编程智能体能够以开发者的权限编辑文件、执行shell命令，因此恶意请求可能被直接转化为有害操作或功能性恶意软件。现有防御手段存在互补性局限：基于权重对齐的微调方法不
Closing the Gap: Automated Discovery of Secure Dockerfile Reference Standards via Semantic Clustering in Enterprise Inner Source
容器化已成为企业软件交付的主流方式，但用于构建容器镜像的 Dockerfile 常常包含安全配置错误和结构性技术债务。该问题在企业内部源（inner-source）环境中尤其缺乏研究，因为专有上下文和孤立的治理机制使得开源社区的发现难以直接
EVOMAL: Self-Poisoning in Self-Evolving Coding Agents
本文由多所高校和机构的研究人员提出，关注自我进化的大语言模型（LLM）编码代理的安全漏洞。此类代理能够从共享技能库中检索示例，并通过模仿这些示例来自动编写新技能。研究人员发现，这一自我进化过程中存在一种可被利用的“自我投毒”（self-po
From Verdict to Diagnosis: Attributable Security Review of Pull Requests
本文针对自动化代码审查工具在拉取请求（PR）安全把关中的评估缺陷展开了研究。作者指出，现有的评估指标只关注审查器是否“阻止”了恶意PR，却忽略了阻止的原因可能与该PR真正存在的漏洞无关。这种“审查结论”与“缺陷诊断”之间的不一致被称为Ver
Are LLM-Enhanced GNNs Privacy-Safe?
本文系统评估了由大语言模型增强的图神经网络（LLM-enhanced GNNs）在隐私安全方面的风险。近年来，LLM 通过丰富节点表示的语义信息显著提升了 GNN 的性能，但这类模型面对隐私攻击时的脆弱性尚未被充分研究。为此，作者提出了一个
LMSM: LLM Security Framework Inspired by Linux Security Modules
本文提出了一种名为 Language Model Security Modules (LMSM) 的安全框架，受 Linux 安全模块 (LSM) 的架构启发，旨在解决大型语言模型 (LLM) 部署中分层防御仍可能被恶意提示绕过的问题。研究
AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation
本文是一篇针对大语言模型（LLM）在漏洞评估中产生“AI 垃圾内容”（AI Slop）及幻觉问题的系统性综述。研究背景是：LLM 被广泛集成到网络安全漏洞评估流程中，显著提升了自动化水平，但同时也引发了可信性危机——模型会生成幻觉漏洞、看似
Separating Disclosure from Authorization: Field-Tier Minimization for Agent Action Mediation
本文针对代理系统中动作授权与审计披露之间的根本冲突提出了一种新的架构设计。传统上，系统为了授权某个动作必须查看其原始参数，而为了审计又需要将这些参数记录在不可篡改的账本中，这导致敏感数据（如收件人、付款备注、记录标识符）被持久化存储，产生隐
MACGen: Toward Functionally Correct and Secure Code Generation via Multi-Agent Collaboration
本文针对大型语言模型（LLM）在代码生成任务中虽然能实现功能正确性，却常常产生包含安全漏洞的代码这一问题，提出了一种基于多智能体协作的代码生成框架 MACGen。作者指出，安全代码生成本质上是一个多目标优化问题，需要同时兼顾功能正确性与安全
Here is a GIFT: Enforcing User Data Isolation in LLM Serving via GPU Information Flow Tracking
本文针对大语言模型（LLM）服务框架在共享基础设施上处理大量含敏感用户数据时的隔离问题展开研究。现有LLM服务通常将CPU侧框架与GPU加速器结合使用，但同一服务框架内的不同用户之间，以及用户与GPU上的LLM操作者之间，缺乏强隔离机制，可
LLMscope: Extracting LLM Assets from Edge AI Chips via Optical Probing
本文研究了大语言模型（LLM）推理迁移到边缘AI加速器后引入的新型物理安全威胁。在执行推理时，模型参数和中间推理状态会被反复加载到芯片上处理，这使得它们容易受到物理侧信道攻击。作者提出并演示了一种基于激光电压成像（Laser Voltage
Screen Gleaning: A Screen Reading TEMPEST Attack on Mobile Devices Exploiting an Electromagnetic Side Channel.
本文提出了一种名为“屏幕窃读”（Screen Gleaning）的新兴TEMPEST攻击方法，该攻击能够在不具备视觉视线的情况下，读取移动设备屏幕上显示的内容，从而泄露诸如短信验证码等敏感信息。攻击者利用天线和软件定义无线电（SDR）捕获设
LazyTAP: On-Demand Data Minimization for Trigger-Action Applications.
该论文提出 LazyTAP，一种面向触发动作平台（TAP）的按需数据最小化新范式。当前主流 TAP（如 IFTTT）采用“推送全部”模式，无论应用逻辑是否需要，触发服务都会将大量敏感数据推送到平台，这违背了数据最小化原则。此前的方法（如 m
ADeptS-Bench: Measuring the Trustworthiness of Computer Use Agents Across Devices
该论文提出了 ADeptS-Bench，一个针对计算机使用代理（CUA）的可信度评估基准。CUA 被越来越广泛地用于代表用户操作移动和桌面应用，但现有基准未能全面评估其在视觉界面中安全交互、处理模糊指令的能力。ADeptS-Bench 基于
FuzzingBrain-Bench V1: Evaluating Open-Ended Bug Discovery by LLMs
大型语言模型（LLM）在软件漏洞发现中的应用日益受到关注，但现有评估基准通常要求模型生成针对预定义目标的 PoC 输入，这种方式可能忽略模型发现的、与预期目标不一致但确属有效的崩溃，从而低估模型真实能力。针对这一问题，本文提出了 Fuzzi
CA-less Mutual Co-Signing of Documents over a Unidirectional Visual Channel with Transported Hardware Attestation
该论文提出并分析了一种无需证书颁发机构（CA）的文档共同签名协议，允许两台移动设备仅通过单向、有损、低带宽的视觉信道（动画屏幕码被对方摄像头读取）进行协作签名，且信任路径上无中间服务器。协议的核心在于：信任不再依赖证书颁发机构，而是基于平台