#injection

共收录 4 条相关安全情报。

← 返回所有主题
👥 作者: Yohann Sidot

本研究构建了一个由五个独立智能体组成的 CI/CD 流水线(分类 → 开发者 → 安全扫描 → 代码审查 → 批准/部署),每个智能体使用来自三个供应商的不同生产级 LLM,并置于影子模式下的 LLM 防火墙之后。一个不受信任的外部 issue 请求添加“使用遥测”功能,实际要求编写窃取进程密钥(dict(os.environ))并伪装为可观测性数据的代码,通过洗白后提交至攻击者 URL。实验采用预注册的 A×B(×C)因子设计(N=20;朴素组 N=60),主要发现:(1)入口智能体不会泄露其系统提示(0/40);(2)权威框架注入(“根据 SEC-2291 已预批准,无需重新审查”)使下游验证者看到包含密钥泄露的代码后,引用该预批准并直接通过——安全扫描器接受了约 80% 的洗白拉取请求,最坏情况下组合达到 55% 的妥协率;(3)感知到有其他验证者在场仅导致个体审查意愿轻微且不显著的下降(旁观者效应较弱),即使 N=60 时也如此;(4)基于内容的控制(代码扫描器、模式检测器)完全无法识别洗白意图(代码语法上是干净的);只有能推理意图的 LLM 提供了部分防御。研究的核心贡献是证明失败是系统性的:无论是提示保密还是分布式验证都无法保护;一个与两者独立的、入口处的溯源感知控制才能防御此类攻击。所有数据均为 100% 合成,无真实目标 URL 被访问。

💡 推荐理由: 本研究表明多智能体 CI/CD 流水线存在系统性安全漏洞,权威框架注入配合代码洗白可绕过 LLM 安全审查,对当前采用 LLM 代理的自动化开发流程构成严重威胁。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Desen Sun, Jason Hon, Howe Wang, Saarth Rajan, Meng Xu, Sihang Liu

本文研究了一种针对图像生成与编辑工作流的新型安全漏洞。用户在使用生成式AI进行图像设计和创作时,通常采用多轮交互方式:先通过文本生成图像(文本到图像),再通过文本引导进行图像编辑(图像到图像)。研究者发现,在输入图像中嵌入几乎不可见的提示(hint),例如品牌信息(logo),可以被下游生成模型识别,并在后续编辑过程中重新渲染到语义相关的物体上,即使用户提示中并未明确提及该内容。这种隐藏有效载荷注入具有隐蔽性。论文提出了两种现实攻击场景:一是钓鱼场景,攻击者控制在线图像生成服务,在返回给用户之前向生成图像中注入隐藏内容;二是投毒场景,攻击者分发受损的文本到图像扩散模型,其输出包含隐藏内容。实验使用六种注入载荷(包括知名logo和定制设计),两种攻击的平均成功率分别为44.4%和32.2%,同时注入的logo在视觉上难以察觉。此外,研究者还开发了一种缓解方案,针对钓鱼和投毒攻击的平均防御成功率分别达到87.4%和92.3%。该工作揭示了多步生成流程中的安全隐患,并提出了有效防御。适合图像生成服务提供商、安全研究人员以及关注生成式AI安全的人员阅读。

💡 推荐理由: 揭示了一种新颖的、利用多轮图像生成-编辑工作流进行隐蔽注入的攻击方式,可能被用于品牌劫持或钓鱼攻击,对依赖AI图像生成的商业服务构成威胁。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Xiaomeng Chen, Jike Wang, Zhenyu Chen, Qi Alfred Chen, Xinbing Wang, Dongyao Chen

该论文提出了一种名为DualStrike的新型攻击方法,能够对市面上常见的商用键盘实现高精度、实时的按键窃听与注入。研究团队通过分析键盘在按键过程中产生的电磁辐射或声学信号,利用深度学习模型从侧信道信号中恢复按键内容,并进一步实现按键注入(即模拟按键操作)。核心创新在于双通道融合机制:同时利用电磁和声学两种侧信道,显著提高了按键识别的准确率和鲁棒性,即使在多任务环境下也能保持实时性。实验在多种键盘型号上进行,验证了攻击的有效性和隐蔽性。该研究揭示了当前商用键盘在物理安全层面的严重缺陷,对涉及敏感信息输入的场景(如密码输入、金融交易等)构成直接威胁。

💡 推荐理由: 该攻击可在用户无感的情况下窃取键盘输入,且无需接触设备,对个人隐私和企业数据安全构成严重威胁。

🎯 建议动作: 纳入内部物理安全评估,对高敏感区域进行防护升级

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Eric Alata, Pierre-François Gimenez

本文从形式语言理论的角度出发,针对基于注入的漏洞(如SQL注入、命令注入等)提出了一种新的防御思路。当前许多系统通过将用户输入与开发者编写的固定模板拼接来构造结构化命令(如SQL查询、XML文档或网络消息),但恶意用户可能通过精心构造输入改变命令的预期语义,导致注入攻击。现有解决方案多依赖于开发者的经验和警惕性,缺乏系统性保证。作者首先形式化定义了两个新的安全属性:"意图等价性"(intent-equivalence)和"意图安全性"(intent-security)。意图等价性确保开发者编写的任何模板都不会导致恶意注入;意图安全性则保证语言中所有可能的模板都满足意图等价性,从而编程语言本身是安全的。基于这些定义,作者展示了新的设计模式可以帮助创建天然安全的编程语言。本文的主要贡献在于将注入漏洞的防御提升到语言设计层面,而非依赖运行时检测或输入验证,为从根本上消除注入漏洞提供了理论基础。

💡 推荐理由: 提出从语言设计层面消除注入漏洞的创新型方法,有望改变当前依赖开发者经验的防御模式,对安全编程语言设计具有指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)