#rtl-verification

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Hang Xiao, Chuhong Xu, Kainan Zhou, Gangzhen Qian, Lu Yi

该论文研究 AI 生成 RTL 验证计划在硬件安全场景下的可信度问题。作者指出:大模型生成的验证计划即使通过了服务商(provider)的响应 schema 校验,也可能在进入可信执行环节时失败,即「schema 合规」不等于「执行有效」。为此他们构建了 SecTB-RTL——一个可审计的评测框架,包含 31 项任务与 124 个由人工撰写的硬件安全回归项(security regression),用于在受控条件下评估 AI 生成的验证计划能否真正触发并检出安全问题。作为参照,一个确定性的非 AI 基线在不同资源上限下分别杀死 36、75、78 个变异体(mutant),说明该基准本身具备判别力。随后开展预注册的确证性实验:第一轮 C1-R2 在模型尚未执行前即告失败,原因是服务商拒绝了其响应 schema;作者在不查看结果的前提下只做 schema 层面的修复,再冻结并运行后续实验 C1-R3,共发起 1,860 次调用,服务商接受了其中 1,857 条响应,但最终仅 9 条通过生产环境的语义校验器——生成阶段的规则与执行阶段的规则并不匹配。因此作者未把该轮结果当作提示词效果的证据,而是将其保留为一次「测量仪器有效性事故」(instrument-validation incident),并明确不报告任何 prompt 效应估计。核心结论是:服务商或 schema 层面的「接受」不能确立执行有效性;编译通过与覆盖率只是诊断指标,只有被精确保存的产物本身走通完整生产路径才算有效。作者还公开了基准、失败保留契约(failure-preserving contract)、事故溯源与治理控制措施,以防止把基础设施自身行为误报为模型行为;另一个后续实验因未满足预注册的证据完整性门槛被排除,仅列为未来工作。

💡 推荐理由: 提醒安全团队:把 LLM 生成的验证/检测产物接入流水线时,服务商 schema 校验通过几乎不构成质量保证,必须让最终落盘产物跑通生产语义校验;同时也揭示了预注册评测中基础设施故障被误读为模型结论的常见风险。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)