#dnn-reverse-engineering

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Ruoyu Wu, Muqi Zou, Arslan Khan, Taegyu Kim, Dongyan Xu, Dave (Jing) Tian, Antonio Bianchi

本文针对边缘设备上部署的深度神经网络(DNN)面临模型逆向工程风险这一问题,提出并实现了一种基于动态分析的模型重构框架,称为 NeuroScope。在现实生活中,智能摄像头、智能音箱、工业控制器等边缘设备往往依赖第三方深度学习模型完成推理任务,这些模型承载着厂商的知识产权与核心算法,但设备本身可能被攻击者物理获取或通过固件提取等方式全面接触。论文希望回答一个关键问题:在没有内部架构信息、没有专用调试接口的条件下,能否通过观测设备在运行期间的动态行为来还原模型结构?NeuroScope 将运行中的 DNN 推理进程视为黑盒,通过插桩与轻量级监控采集到内存缓冲区的读写模式、函数调用路径、系统调用序列以及指令流特征,并以此推断网络各层之间的连接关系、层类型、卷积核尺寸、步长、全连接层神经元数量等结构信息。该工具针对边缘设备普遍使用的 ARM 等资源受限架构进行了优化,构建了一套自动化分析流水线,可以逐层解构模型内部计算图的拓扑结构。作者在多种代表性硬件平台上评测了 NeuroScope,覆盖图像分类、目标检测等典型任务中使用的多种常见 DNN 结构,实验结果显示该方法能高保真地重建网络整体结构,且对内存开销与运行干扰控制在可接受范围。这项研究的核心贡献在于从攻击面角度验证了边缘设备上的模型保密性假设并不充分;同时,其分析框架也可以被防御者用于合规审计、恶意模型检测或模型水印验证,具有双向的技术价值。尽管本摘要基于公开标题与领域知识进行归纳,原始论文的具体实现细节和量化指标需以正式出版版本为准。

💡 推荐理由: 该研究揭示攻击者可仅通过动态观测从边缘设备中逆向提取 DNN 结构,直接威胁模型知识产权和设备安全防护;蓝队需要意识到封闭式部署并非安全边界,以便提前设计混淆与运行时保护。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)