Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
本文研究针对大型语言模型(LLM)的自检防御(self-check defense)的脆弱性。自检防御是一种在模型回答请求前要求模型自我评估请求安全性的机制,其中SAGE防御报告了平均99%的防御成功率。作者提出通过组合两种已知攻击——代码
今日共收录 1598 条安全情报,包含 743 个 CVE,444 篇安全通告,以及 115 篇研究论文。
← 返回归档列表本文研究针对大型语言模型(LLM)的自检防御(self-check defense)的脆弱性。自检防御是一种在模型回答请求前要求模型自我评估请求安全性的机制,其中SAGE防御报告了平均99%的防御成功率。作者提出通过组合两种已知攻击——代码
随着组织数字化进程加速,网络安全风险日益凸显,恶意软件已成为一种普遍且极具破坏性的威胁。现有基于字节的机器学习检测方法容易受到逃避行为(如操纵原始字节)的影响,而基于图的方法将软件表示为程序图以捕获执行行为,对这类操纵相对不敏感。然而,当前
本文研究量子计算中的“酉合成问题”(unitary synthesis),该问题由Aaronson和Kuperberg在2007年提出,询问是否每个n量子比特酉算子U都能被高效的量子电路相对于某个依赖于U的经典预言机f_U计算。最近,Lom
该论文针对安全开发场景中需要将目标映射为有序、可检查的计划的问题,提出了一种低秩分解适配器(low-rank decomposition adapter),并发布了包含24个卫星安全案例的分解方案和83个下一步示例的数据集(case-dis
该论文研究了一个经典数学问题——字问题(Word Problem)在密码学中的安全影响。字问题已有一个多世纪的研究历史,近年来成为后量子密码学(PQC)的基础硬度假设之一。虽然一般情况下字问题不可判定,但某些无限非交换群族具有可解或算法快速
本文针对去中心化自治组织(DAO)的治理合约设计进行了系统性研究。DAO通过智能合约管理基于区块链的协议,其治理合约明确规定了利益相关者如何制定和执行决策。治理合约的设计对DAO及其利益相关者管理的智能合约的安全(信任)和隐私(透明度)有着
在基于领导者的拜占庭容错(BFT)协议中,交易的最终确定依赖于领导者:如果领导者崩溃或缓慢,则无法最终确定任何交易,而终结超时的设置也面临困境。保守的超时会导致每次领导者崩溃时出现长时间停滞,而激进的超时则会浪费那些仅因缓慢而失效的视图。无
本文描述了团队'Go To Germany'在ImageCLEF 2026深度伪造检测与生成任务中的参赛方案。在图像生成任务中,团队采用FLUX.1-dev与PuLID进行身份保留的人脸合成,并设计了一种针对12个检测器的多模型PGD对抗攻
该论文系统评估了五种最先进的阿拉伯语语言模型(包括MARBERT、AraBERT等)在多种对抗攻击下的鲁棒性。攻击粒度涵盖字符级、词级和句子级,并采用不同的示例生成策略。实验发现:字符级插入变音符号(diacritics)可在保持较低扰动距
该论文针对当前网络安全实践研究中的一个核心矛盾:尽管许多组织部署了相似的控制措施,但其安全韧性(resilience)却差异显著。现有理论往往只局限于单一组织层面(如个体、团队或企业),无法解释这种跨组织、跨层级、跨主体(人类与算法)的复杂
量子误差缓解(QEM)是当前减轻量子硬件噪声、避免空间开销的关键技术,但其可靠性高度依赖建模、校准与实现过程,导致在不可信量子硬件上执行委托量子计算时缺乏端到端安全性。针对这一问题,本文提出可验证盲化概率误差消除(VBPEC)协议,这是首个
去中心化制造面临一个预签约困境:供应商无法在不检查设计文件的情况下准确报价,但消费者又无法在不暴露知识产权的情况下共享文件。本文提出乐观可验证声明(Optimistic Verifiable Claim, OVC)协议,允许消费者发布一个关
本文针对神经网络后门攻击提出了一种训练阶段的防御方法。作者将防御策略形式化为核心集选择问题,即从被污染的训练数据中隔离出一个良性子集,并仅用该子集训练模型,从而消除后门。与现有方法不同,本文的核心创新在于使用累积熵作为选择准则。累积熵能够追
本文提出LEAKFORGE框架,针对智能手机加速度计侧信道窃听问题,将跨设备窃听转化为物理引导的数据生成任务。核心创新在于:不同智能手机的加速度计泄漏并非随机,其差异主要源于音频到加速度计的传递函数(包括机电转换、结构共振、滤波、混叠等效应
该论文提出SafeStats,一个专为安全两方计算(2PC)环境下数据统计函数设计的高效协议工具包。研究背景指出,在医疗记录、金融交易等敏感数据集上进行统计分析对决策至关重要,但现有2PC工作主要关注通用安全原语(如加法、乘法)或机器学习相
本文研究了机器学习模型后门攻击中的一个新问题:训练时使用的触发器是否可以泛化到推理时未见过的触发器家族。现有的后门攻击研究大多假设训练和推理使用相同的触发器,或仅考虑预定义变换下的变体,忽略了触发器家族泛化的可能性。为此,作者提出了Lili
多智能体系统通过任务分解和角色专业化提升能力,但这也引入了一个重要的安全盲点:有害目标可以被分解为局部合理的子任务,使得恶意意图能够规避单个智能体的检测。这种失效模式在涉及敏感信息或关键工具的场景中尤为危险,可能导致未授权披露或危险操作。本
本文针对基于环误差学习(RLWE)问题的同态加密(HE)方案在安全计算中的广泛应用,提出了一种面向RLWE密文的水印技术。现有HE方案主要关注计算可行性与效率,忽略了密文版权保护、来源认证和计算监管等实际需求。作者利用RLWE多项式的代数结
该论文提出了一种名为MOSAIC-FL的微服务架构隐私保护联邦学习框架,重点面向基因组学等敏感数据领域。框架采用模块化设计,集成gRPC高效通信层和有限状态机以确保组件同步和威胁检测;核心安全机制基于CKKS同态加密的阈值变体实现容错安全聚
本文针对基于广义Reed-Solomon(GRS)码的高速率McEliece密码系统变体提出攻击。由于直接使用GRS码的McEliece系统已被证明不安全,研究者提出了多种变体,将置换矩阵替换为行和列权重更大的矩阵M,但许多变体仍以GRS码