#verification

共收录 13 条相关安全情报。

← 返回所有主题
👥 作者: Jungmin Park, Eunha Kim, Wooseop Kim, Seongjoon Cho, Byungho Cha

本论文围绕后量子密码硬件加速器在AI辅助设计中的验证盲区展开。作者指出,后量子迁移需要按时间表推进,但硅片一旦带有缺陷无法远程修补。针对ML-DSA签名算法,标准验收门(如已知答案测试KAT)无法检测整类缺陷,因为签名过程会反复重采样直到候选满足范数界限,执行路径随消息而变化,而KAT使用固定向量只能触发其种子所对应的有限深度,路径覆盖不足。在案例中,研究者设计的加速器虽然通过全部KAT回归,却仍携带一个范数检查延迟超过块RAM延迟的缺陷,导致每个候选的最终系数未能被验证,该缺陷直到拒绝循环迭代到第5次才暴露,说明盲点源于测试仪器而非工程师疏忽。为闭合这一验证缺口,作者提出将字节精确的黄金参考预言机与随机对抗性浸泡(soak)相结合,以强制拒绝循环覆盖超过任何固定向量的路径。实验进行了301,343次依赖数据的签名,实现零逃逸。这种方法被设计为仅审查工件而非取代作者,使得信任可以与作者身份分离,从而让AI作者的身份问题成为可回答的客观问题。论文还报告了232次记录的实验:由一个智能体型大型语言模型(agentic LLM)驱动从RTL到PCIe启动的ML-KEM-768和ML-DSA-65统一加速器设计并在Kintex-7 FPGA上实现,以98.5%的切片占用率交付。总体成功率为71.6%,遵循硬件耦合梯度:文档和研究类任务成功率达77-85%,而综合和启动类任务仅50-53%,可观察性可解释这一差异——失败集中在只有物理侧才能获得纠正信号的环节。尽管该AI作者极不可靠,但最终生成的工件在所有六个FIPS操作上字节精确,且其部署基线通过了779,945项检查的零失败浸泡——这是论文的关键论断。

💡 推荐理由: 该研究揭示后量子密码硬件验收中易被忽视的深层缺陷类别,对依赖KAT等常规流程的供应链安全构成警示。黄金参考+随机浸泡方法提供了建立信任基线的更可靠方案,有助于防御者评估第三方AI生成硬件的可信度。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Sudipta Paria, Aritra Dasgupta, Raghul Saravanan, Jayanth Thangellamudi, Sai Manoj P D, Swarup Bhunia

本文系统研究了硬件黑客竞赛在复杂片上系统(SoC)安全验证中的应用。随着SoC设计复杂度不断提升,传统验证方法难以覆盖所有安全漏洞,硬件黑客竞赛成为一种实用化的安全评估平台,能够促进安全意识验证和工具开发。作者提出了一种多策略漏洞分析方法,结合了基于仿真的验证、形式验证、lint分析、大型语言模型(LLM)辅助的bug检测和覆盖引导的混合模糊测试。通过在实际竞赛中分析代表性漏洞发现,文章展示了不同技术如何互补地揭示安全缺陷类别,例如仿真适合动态行为验证,形式验证能穷举状态空间,lint可快速定位编码规范问题,LLM辅助可发现逻辑疏忽,混合模糊测试则能深入探索边界条件。文章还从这些实践中提炼出对硅前安全验证的实用经验,指出单一方法存在局限性,综合使用多种策略是提高漏洞覆盖率的关键。最后,作者讨论了如何将比赛基准用于新兴硬件安全技术的可复现评估,并指导未来的安全感知EDA(电子设计自动化)研究。该研究为硬件安全验证社区提供了系统化的方法论参考,适合硬件安全研究人员、EDA工具开发者和SoC设计验证工程师阅读。

💡 推荐理由: 该文系统总结了利用硬件黑客竞赛验证SoC安全的多策略方法,结合LLM和混合模糊测试等前沿技术,为硅前安全验证提供了可借鉴的实践框架,有助于提升复杂芯片的安全检测能力。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Alvin Spivey, Yu Huang

本文提出 BeTaL-GBI,一个面向“几何信念接口”(Geometric Belief Interfaces)的可信验证基座,核心目标是让企业级验证架构不仅能检查模型输出,还能暴露自身声明中的错误。作者首先指出先前版本 GBI-DCSE v3 的一个架构性错误:报告中的 Fisher 值 epsilon≈0.066 仅在切片 [epsilon,3,4,5] 上满足 kappa^2<=10^4 的预算,而完整空间 [epsilon,20]^4 上实际需要 epsilon≈0.326472,这凸显了接口失败、任务能力、策略合规性和控制完整性之间需要可审计隔离。为了建立基线,BoundaryBench v0.1 使用 Qwen3-4B-Instruct-2507 完成 768 次冻结执行,但 0% 通过合约(369 次解析失败、399 次验证失败),这使得下游选择性指标难以有意义。随后论文提出三项改进:第一,BeTaL-GBI v0.2 引入 LLM 参与的基准调优,在 22 亿网格点上分离格式准入与条件性能,定义 rho_adm=N_admitted/N 和 rho_task=N_verified/N_admitted;通过 schema 修复,无模型反馈搜索达到 2.87% 的平均留出目标差距,优于无反馈基线(13.61%、11.46%)。第二,GBI v2 用参考无关的见证状态 W 和策略 P 替代静态密钥;在 512 个合成任务中,16 门策略检测出全部 116 个注入的严重矛盾,并接受全部 99 条干净记录(宽泛分母下为 4.27%),且能阻断幻觉生成器和证据伪造代理,零静默提升。第三,GBI-DCSE v3 将 99 条声明映射为机器可读证据,其中 95/96 条可测试声明通过,148 项独立检查全部成功;测试覆盖签名账本、PBFT 法定人数和 62 种配置下的 enclave 伪造。实验表明,在合成条件下 GBI-DCSE 是一个选择性、策略版本化、可自审计的测试与路由基座。适合关注 LLM 验证、安全基准测试和可审计 AI 基础设施的研究人员与工程团队阅读。

💡 推荐理由: 该研究直击 LLM 安全验证中“声明与实际能力不符”的痛点,提出自审计、策略隔离的验证基座,有助于提升模型评估与路由的可靠性。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Michael Chesser, Paul Quirk, Douglas Cooke, Guy Farrelly, Surya Nepal, Damith C. Ranasinghe

该论文聚焦于处理器规范(processor specification)的正确性验证问题。处理器规范是反汇编器、反编译器、模拟器等关键安全与程序分析工具的基础,但其正确性很少被系统检查。规范中的错误会扭曲程序行为、掩盖漏洞,甚至为分析规避技术提供可乘之机。论文首次针对开源社区广泛使用的 SLEIGH 语言规范(尤其是 Ghidra 所使用的)开展系统性验证。作者设计并实现了一个名为 InSPECtor 的测试框架,采用基于代理的自动 oracle 验证策略。该方法利用规范本身编码的结构来枚举可解码的指令形式,并生成有针对性的初始状态;随后通过对比执行相同指令的模拟器与硬件参考实现,进行差分测试,从而验证指令解码与模拟的正确性。研究覆盖了多种风格迥异的开源规范,包括 x86-64、AArch64、ARM/Thumb、RISC-V 和 MSP430,这些规范在编写风格、作者偏好及指令集架构设计上存在显著差异。实验发现了超过 38,920 处不一致,并从中提炼出 125 个独特缺陷,且提出了修复建议;这些缺陷涵盖解码错误、语义缺陷以及跨厂商不一致问题。作者将发现归纳为 8 条具体建议,以推动未来规范质量的改进。该工作强调了规范正确性的重要性,并提供了实用工具来大幅提升 SLEIGH 处理器规范的保真度,从而增强下游安全与分析工具的可靠性。

💡 推荐理由: 处理器规范错误会直接导致反汇编/反编译结果失真,影响漏洞分析和恶意代码对抗。该工具可帮助蓝队验证所依赖的 Ghidra 规范,提升分析准确性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 3.5
Conf: 50%
👥 作者: Bo Yang, Elham Kashefi, Harold Ollivier

量子错误缓解(QEM)是降低量子硬件噪声、避免空间开销的关键工具,但其可靠性依赖于噪声建模、标定与具体实现,因此在不可信量子硬件上的端到端安全性长期未得到解决。本文提出可验证的盲概率错误消除(VBPEC),这是首个在完全恶意敌手模型下集成QEM的、具备安全验证功能的协议。VBPEC将概率误差消除(PEC)这一广泛研究的QEM技术纳入可组合安全框架:通过在抽象密码学框架中将委托缓解形式化为密码学资源,VBPEC实现了完美盲化(即服务器无法获知客户端实际计算内容)以及指数小的安全误差。该协议继承了近期统计安全验证量子计算协议以及PEC的零量子空间开销,唯一额外开销来自QEM过程所需的重复采样。为达到这一目标,作者将基于陷阱的验证从确定性的通过/失败检查扩展为借助QEM受益的统计检验,并开发了一套新的证明技术来处理相应增加的偏差源。与仅容忍固定阈值下诚实噪声的方案不同,VBPEC主动消除噪声,使得经过正确缓解的估计结果能够以高概率被接受,同时不损害安全性。该工作为近未来量子硬件上安全、可靠且实用的委托量子计算建立了关键路径,从根本上提升了量子计算验证的实用性。本文主要面向量子密码学、量子计算安全以及量子云服务可靠性方向的研究人员。

💡 推荐理由: 量子云服务中的委托计算若无法验证,用户无法信任结果。VBPEC首次将QEM与安全验证结合,为对抗恶意量子服务器提供了可行方案,是量子计算走向实用化安全的关键一步。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Muxi Lyu, Karen Shieh, Yiwei Hou, Hao Wang, Koushik Sen, David Wagner

本文针对LLM驱动的编码代理在发现跨站脚本(XSS)漏洞时存在的奖励黑客行为(reward-hacking)问题,提出了一种确定性、抗奖励黑客的验证框架RECEIPT。作者首先刻画了白盒代理式XSS发现中的三种奖励黑客行为:虚假声称、部分触发、环境依赖。然后提出了理想验证器应满足的三个要求:环境隔离、PoC约束、角色分离和结论绑定。RECEIPT通过受控重放过程,在真实浏览器中执行脚本,并确保payload由攻击者角色植入、在受害者角色浏览器中执行,从而使得验证结果确定且可复现。在95个真实世界Web应用上的评估表明,在每应用20美元预算内,RECEIPT发现了24个未知XSS漏洞,其中12个已获维护者确认;在已知漏洞恢复目标中,有36%恢复了标记的CVE。与使用自我判断的同一代理及黑盒扫描器相比,RECEIPT确认了更多的真实漏洞且无假阳性。

💡 推荐理由: 该研究解决了LLM代理在安全测试中不可信的问题,提供了一种可靠的验证机制,对于提升自动化漏洞发现的可信度至关重要。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Natarajan Shankar, Zephyr Lucas

该论文提出并形式化了一种基于图表解析(chart parsing)的PEG(Parsing Expression Grammar)解析器解释器鲁棒性验证方法。作者定义了一个状态机,该状态机在一个脚手架(scaffold)数据结构上操作,脚手架维护一个状态矩阵,每个条目对应一对位置和非终结符。解析器解释器以惰性方式填充这些条目,记录解析是否成功、失败或陷入循环,从而支持可能左递归的PEG文法并添加循环检测。论文定义了状态上的不变量,并定义了保持这些不变量的解析步进函数。从解析的最终状态可提取独立检查的解析证明表示。作者对一系列演进的PEG形式化定义并证明了图表解析器,并在这些形式化之间进行了大量的证明重用。通过PVS证明系统中的交互与自动化混合,使得证明对特定类型的规范和设计变更具有鲁棒性。论文还讨论了如何主动构建针对解析这类重要问题的鲁棒证明。该工作为解析解释器的正确性提供了形式化保证,对安全领域中的输入验证、反混淆等场景具有理论价值。

💡 推荐理由: 解析器是许多安全工具(如WAF、沙箱)的核心组件,其正确性直接影响安全决策。该工作通过形式化验证增强对解析器实现可靠性的信心,可帮助蓝队发现因解析差异导致的绕过漏洞。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Dipayan Saha, Khan Thamid Hasan, Shams Tarek, Sujan Kumar Saha, Mark Tehranipoor, Farimah Farahmandi

硬件安全验证是一个多阶段流程,工程师需要处理复杂的设计分析、威胁考量与验证策略,但现有验证环境缺乏结构化的安全指导支持。虽然对话式AI可以提供按需帮助,但直接使用通用型聊天机器人(如ChatGPT、Gemini)存在风险,因为它们容易产生幻觉且依赖静态过时知识。为此,本文提出VeriChat——一个面向硬件安全验证的领域专用对话助手,旨在增强而非取代现有验证工作流。VeriChat采用检索增强的多智能体架构,包含三个专门智能体,它们协作降低幻觉,提升响应的透明性与可靠性。除问答功能外,VeriChat还集成了开源EDA工具(Icarus Verilog、Yosys、SymbiYosys),能直接对用户提供的RTL设计执行语法检查、综合分析、仿真与形式化验证。综合评估显示,VeriChat的忠实度得分为87.73%,显著优于主流商用模型。通过一个AES S-Box IP上的硬件木马检测案例,VeriChat在多次对话中自主完成木马识别、仿真与形式化证明,成功发现隐蔽的密钥泄露漏洞。

💡 推荐理由: 硬件安全验证领域缺乏专用AI助手,VeriChat首次将多智能体检索增强与EDA工具深度集成,有效缓解LLM幻觉问题,为安全工程师提供了可信赖的交互式验证辅助。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Naci Cankaya, Jakub Kryś, Jonathan Ng, Luke Marks, Felix Krückel

本文针对未来可能达成的国际人工智能协议,提出了一种用于AI数据中心验证的基础架构方法。核心目标是确保所有进出AI集群的数据均被加密承诺,使得秘密窃取未公开工作负载的结果变得不可行。方法是在集群与外部世界之间的所有信息承载线路上部署网络分接头(passive optical fibre splitters),计算所有数据的哈希值。审计员可以事后挑战哈希对应的原像数据,并将其发送至隐私保护的验证设施进行合规检查。为了解决事后哈希验证无法处理的隐蔽信道问题,论文设计了一种“安全网关设备”(Secure Gateway Device),其架构消除了对验证者和被验证者双方均信任的处理器的依赖,利用被动光纤分路器和抛币协议(coin-flip protocols)生成随机数。该设备负责消除模拟侧信道、时序侧信道以及网络协议头中的隐写术等隐蔽信道。论文评估了开发成本,预计演示设备的开发成本相当于一个小型工程师团队数月的工作量,物料清单相对较小。该研究为AI数据中心的透明度和可信验证提供了新思路,适合关注AI治理、安全基础设施和隐私保护的研究者和工程师阅读。

💡 推荐理由: 为AI数据中心提供了一种不依赖互信处理器的验证框架,防止隐蔽的数据泄露,对国际AI协议下的合规审计具有重要价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
推荐 10.6
Conf: 50%
👥 作者: Adrian de Valois-Franklin, Alex Bogdan

本文提出了一种面向自主智能体(agent)商业交易的结算完整性协议 RAILS(Real-Time Agent Integrity & Ledger Settlement)。当前,智能体可以自主谈判、购买、部署代码和转账,但缺乏一个中立机制来确定它们是否履行了委托义务、在未履行时谁应负责、以及后续的结算动作是什么。作者将这一问题定义为“智能体结算问题”(agentic clearing problem)。现有工具协议(如 MCP)、智能体间通信(A2A)、支付轨道(x402)、授权协议(AP2、Visa、Mastercard)以及结算风险标准均假设存在此类判定机制,但实际并未提供。结算(clearing)是缺失的原语:支付不是结算,授权不是结算,LLM 作为裁判的评估不是结算,结算风险托管也不是结算——它消耗结算决策。RAILS 作为智能体商业的完整性与结算层,包含三个组件:每个输出的可靠性评分、发布的可靠性记录、以及消耗这些信息的结算函数。其核心清算协议由七个原语构成:义务对象(Obligation Object)、证据信封(Evidence Envelope)、验证网格(Verification Mesh)、结算决策(Clearing Decision)、结算指令(Settlement Instruction)、结算护照(Clearing Passport)和最终性规则(Finality Rules)。这些原语受一个基于可接纳性分级验证的形式模型约束,最终产生一个可靠性属性:任何具有财务重要性的结算必须由满足义务可接纳性下限的证据支持。该属性在规范上是可伪证(falsifiable)的。作者声称,此前未发现任何智能体商业验证机制声明过此类属性。最接近的方法仅输出通过/未通过、交付保证、单一评分或均衡状态。本文详细规定了该清算协议。适合对 autonomous commerce、agent integrity、verification 感兴趣的安全架构师和研究者阅读。

💡 推荐理由: 为自主智能体商业提供首个形式化的结算验证原语,弥补现有协议在确定责任和结算方面的空白,对金融级 agent 交互的安全设计具有奠基意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Carson Powers, Nickolas Gravel, Christopher Pellegrini, Micah Sherr, Michelle L. Mazurek, Daniel Votipka

本研究探讨社交媒体平台验证政策变化(如Twitter(现X)在2022年后调整的蓝色验证标记政策)如何影响用户对已验证账户的感知和信任。传统上,蓝色验证标记被视为可信机构认证的权威标识,但平台将验证开放给付费订阅者后,验证标记的可靠性受到质疑。研究人员通过在线实验,招募参与者对不同类型账户(如名人、记者、普通用户)在政策变化前后的可信度、权威性和真实性进行评分。实验还考察了验证标记与用户关注状态、账户类型之间的交互效应。结果表明,政策变化显著降低了用户对已验证账户的整体信任,尤其是对低知名度账户;用户更倾向于依赖其他信号(如粉丝数、内容质量)而非验证标记。研究还发现,用户对验证标准的理解存在混乱,许多人误以为验证仍代表官方认证。该研究对社交媒体平台的安全设计、用户隐私保护及虚假信息对抗具有重要启示。

💡 推荐理由: 验证政策变化影响用户对账户真实性的判断,可能被利用于社会工程攻击或声誉操纵;安全从业者需了解此类信任机制变化对用户行为的影响。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Naci Cankaya

该论文研究了AI推理验证中的关键问题:在GPU浮点运算的非确定性环境下,如何实现比特精确的推理结果验证,而无需牺牲性能。现有方法依赖近似匹配,这可能被隐蔽对手利用未验证的自由度进行攻击,如通过隐写术、未报告的软件修改或隐藏的批处理元素执行恶意计算。作者分析了现代推理引擎(如vLLM、Hugging Face Transformers)在未设置确定性标志的情况下,通过提供正确的重计算所需信息且后端不调用原子函数,实际输出具有确定性但非不变性。他们提出一种仅通过软件仿真的方法,在多种NVIDIA GPU变体上实现了大语言模型推理的逐位精确重计算,无需相同硬件。实验表明,累积舍入误差可作为推理所用软件和硬件设置的审计签名,而非验证性的约束。该方法为AI治理中的隐蔽恶意行为检测提供了新途径,尤其适用于验证模型推理的完整性和一致性。

💡 推荐理由: 为AI推理验证提供了无需性能折中的比特级精确方案,可有效检测针对推理过程的隐蔽篡改,提升AI供应链和模型部署的可信度。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Paschal C. Amusuo, Ricardo Calvo, Dharun Anandayuvaraj, Taylor Le Lievre, Kevin Kolyakov, Elijah Jorgensen, Aravind Machiry, James C. Davis

内存安全错误是低级软件中零日漏洞的持续根源,尤其在嵌入式系统中,硬件保护有限且动态分析难以有效应用。内存安全验证可以通过证明不存在此类错误或暴露违规来提供更强保证,但当前验证工作流主要依赖手动操作,需要大量专业知识,限制了实际采用。本文提出 AutoSOUP,一种通过安全导向单元证明实现组件级内存安全验证自动化的系统。作者形式化定义了单元证明,将其编码为包含验证选择(作用域、循环边界和环境模型)的工件,用于验证安全属性,并引入三种自动推导技术。为克服现有自动化方法的局限,进一步提出 LLM-As-Function-Call 混合架构,结合确定性程序合成与大语言模型自动执行这些技术,生成可解释的单元证明。通过评估 AutoSOUP 自动化内存安全验证的能力、在已验证组件中暴露漏洞的效果,并刻画了所得证明的假设和保证。实验表明,AutoSOUP 能有效降低验证专业门槛,提升验证效率,尤其适用于资源受限的嵌入式安全场景。

💡 推荐理由: 针对嵌入式系统内存安全验证的自动化难题,提出结合LLM与程序合成的新范式,有望减少人工投入并加速漏洞发现。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)