#tamper-detection

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Xiaoyan Feng, Yanjun Zhang, He Zhang, Leo Yu Zhang, Shirui Pan

本文针对大语言模型(LLM)生成文本的溯源与篡改检测问题,提出了一种新型互补水印方法。现有水印技术通常对文本编辑具有鲁棒性,能够保持溯源属性,但这种鲁棒性也带来安全漏洞:攻击者可以在保留水印归属的同时对关键内容进行篡改,即所谓的“piggyback spoofing”(搭便车欺骗)。为此,作者设计了一种同时提供溯源证据和篡改证据的水印方案。该方法在每个生成的token中共同嵌入两种信号:一种鲁棒信号和一种脆弱信号。两种信号共享相同的机制(无偏锦标赛重加权),但使用独立的密钥以及不同的基于归一化文本的种子窗口,从而使鲁棒信号对编辑不敏感,而脆弱信号对读者可见的改动敏感。通过多轮无偏锦标赛重加权保持预期的生成分布,并采用周期性的轮次分配模式来调节两种信号之间的权衡。在检测阶段,两种信号的得分构成二维空间,支持三种决策结果:完整(Intact)、被篡改(Tampered)和无水印(No-Watermark)。在两个大语言模型和两个提示数据集上的实验表明,该方法在评估的各类方法中取得了最高的篡改检测率,同时保持了具有竞争力的溯源鲁棒性和困惑度(perplexity)。消融研究进一步证明,可靠的三态检测需要明确定义的“完整性”概念、两种信号的共同嵌入以及对编辑的互补敏感性。本文适合关注LLM内容安全、模型溯源、数据完整性验证的研究人员与安全工程师阅读,为在开放环境中防止内容被恶意篡改同时保留责任归属提供了新思路。

💡 推荐理由: 该研究直接针对LLM输出水印的现有安全缺陷(piggyback spoofing),在不牺牲溯源鲁棒性的前提下实现篡改检测,对AIGC内容完整性验证和责任追溯具有重要价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Himanandhan Reddy Kottur, Pavanbabu Arjunamahanthi, M. Shafkat M. Khan, Liton Kumar Biswas, Nitin Varshney, Navid Asadizanjani

本文探讨了纳米机电系统(NEMS)作为一种新兴硬件安全原语在先进封装和半导体制造中的应用。随着硬件安全威胁(如篡改、伪造和供应链渗透)不断升级,现有数字安全方法面临逆向工程、侧信道攻击和环境退化等挑战。作者提出利用NEMS的机械不可预测性和制造诱导的纳米尺度变异性,构建物理不可克隆函数(PUFs)、形状记忆材料、基于共振的指纹和物理解锁架构等安全机制。这些系统能够在器件层面实现物理保证、篡改检测和身份认证,具有低功耗、抗逆向工程和侧信道攻击的优势,并且可无缝集成到标准半导体制造流程中。论文通过理论分析和案例研究展示了NEMS在国防、航空航天、关键基础设施和消费电子等领域的可扩展、可验证安全解决方案潜力。核心贡献在于提出将NEMS从传统MEMS领域拓展至硬件安全,为抵御物理攻击提供了一种鲁棒且低功耗的替代方案。

💡 推荐理由: 硬件安全威胁日益严峻,传统数字方法存在局限,NEMS提供了基于物理不可克隆性和纳米机械特性的新防御维度,值得硬件安全从业者关注其防篡改和认证能力。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)