#survey

共收录 40 条相关安全情报。

← 返回所有主题
👥 作者: Swapnil Vishwas Baviskar, Sanoj R, Hiran V Nath

该论文是一篇系统性综述,聚焦云计算多租户共享物理硬件所导致的隔离边界失效问题。作者收集并分析了 2008 至 2025 年间超过 120 篇安全文献,覆盖虚拟机隔离与容器隔离两条主线。论文考察的威胁类别包括:虚拟机逃逸(guest 突破 hypervisor 边界)、虚拟机跳转/跨租户 VM hopping、CPU 缓存侧信道(利用缓存时序跨租户泄露数据)、容器逃逸(突破 namespace 与 cgroup 等隔离机制)、存在漏洞或污染的容器镜像(涉及镜像供应链),以及分布式拒绝服务(DDoS)攻击。作者围绕三个核心研究问题对这些威胁及其对应对防御手段进行结构化评估,以回答攻击面如何演化、现有防御覆盖到什么程度、还有哪些空白。为便于横向比较不同防御方案,论文提出量化评分框架 ADPO,从准确性(Accuracy)、部署难易度(Deployment ease)、性能影响(Performance impact)、运维开销(Operational overhead)四个维度给出 0 到 3 的评分;同时将攻击影响映射到机密性、完整性、可用性(CIA)三元组上的 1 至 5 级严重度刻度。论文最后讨论了安全性与系统性能之间的固有权衡,并列出开放挑战,包括构建低开销的入侵检测机制,以及构造真实、可复现的测试数据集。整体上,这是一份面向云基础设施隔离攻防的综述与评估方法论工作,适合云平台安全架构师、hypervisor 与容器运行时研究者、以及负责云检测工程的 SOC 人员阅读。

💡 推荐理由: 云工作负载普遍依赖 VM 与容器隔离,隔离边界一旦被突破即演变为跨租户横向移动与数据泄露。该综述把近 17 年的攻击面、防御手段与量化评分框架整理为统一视图,可直接用于威胁建模、隔离方案选型与检测能力差距分析。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Ruiyi Yan, Chenhui Chu, Zhongliang Yang, Yugo Murawaki

本文是一篇关于语言学隐写术(linguistic steganography)的综合性综述,系统梳理了该领域在大型语言模型(LLM)时代的最新进展。隐写术旨在将秘密信息隐藏在看似正常的自然语言文本中,以规避检测。随着LLM的兴起,文本生成方式发生根本性变化,隐写方法也经历了深刻变革。作者沿四个维度展开分析:148种隐写方法、60种语言学隐写分析(steganalysis)对策、23种评估指标、9个开放挑战,并为每个维度提供了详细的分类法、综述和采用率分析。在此基础上,作者识别出LLM时代五个具体的范式转移:(1)从对载体文本的修改转向仅通过提示(prompt)生成隐写文本;(2)从基于启发式的方法转向可证明安全性;(3)从白盒对称语言模型访问转向黑盒或非对称访问;(4)从仅关注安全性的设计转向安全性与文本质量、实用性等的联合优化;(5)从关注文本质量转向工程化问题(如成本、延迟、系统集成)。该综述的目标是为LLM时代的实践性和负责任的语言学隐写术提供参考和路线图,既涵盖技术原理,也讨论对抗检测和伦理边界。适合自然语言处理、信息隐藏、网络安全等方向的研究者阅读,以快速把握领域全貌并定位关键研究方向。

💡 推荐理由: LLM时代文本隐写技术迎来范式级变化,蓝队需理解其原理与检测缺口,以便在恶意内容审查、数据泄露防护和深度伪造文本识别中采取对应措施。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Prachi Chaturvedi, Shahnawaz Ahmad, Ehsan Nowroozi, Muhammad Waqas, George Loukas, Alireza Jolfaei, Lucas Cordeiro, Pierre Dantas

该论文针对大型语言模型(LLM)在医疗、司法、金融和公共服务等高风险领域应用中出现的责任归属问题,提出了一种分层责任架构框架(LAAF)。研究背景是:LLM 在这些场景中即使输出缺乏依据或内容错误,也常被当作权威信息,一旦造成损害,难以明确谁应负责以及通过何种机制进行追溯、解释和处置。作者遵循 PRISMA 指南,检索了 2022 年 1 月至 2026 年 3 月间的五个数据库,围绕四个综述问题,从 4512 篇记录中筛选出 122 项主要研究,并纳入 12 份监管与标准文件作为一手资料进行分析。综述将责任概念整合为一种社会技术视角下的“行为者-论坛”关系,分解为五个维度,并从四类机制(技术控制、人类监督、组织治理、文档与可追溯性)中综合出具体做法,同时评估了各类机制的成熟度。作者提出了一个四层分类模型,涵盖来源/出处、应用逻辑、人类监督、治理与救济,并与可追溯性、角色清晰度和持续监控等横切维度相结合。该模型被映射到欧盟《人工智能法案》(高风险义务自 2026 年 8 月 2 日起适用)、NIST AI RMF 及其生成式 AI 配置文件、ISO/IEC 42001 以及医疗、消费金融、教育和公共部门的行业指南上。分析揭示了四个持续存在的差距:人类监督的规范不足、缺乏共享的责任度量指标、学科之间脱节、实证评估有限;同时指出了五个测量工具均未解决的结构性张力。最后,作者将分类模型整合为 LAAF 框架,并将网络安全维度与 OWASP LLM Top 10(2025)对齐。论文明确指出 LAAF 是对现有证据的综合而非经过验证的工件。适合关注 AI 治理、负责任 AI、LLM 安全性和监管合规的研究者、政策制定者及安全架构师阅读。

💡 推荐理由: 该综述系统梳理了 LLM 应用中的责任追踪与治理机制,并映射到 EU AI Act、NIST AI RMF 等关键法规,为安全团队理解合规要求、设计可追溯审计链路提供了结构化参考,是连接 AI 安全与组织治理的实用框架。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Minh Tran, Cuong Dang, Tuc Nguyen, Khanh-Tung Tran, Minh Huynh Nguyen, Trinh Chau, Kien Le, Do Xuan Long, Jiahao Zhang, Fali Wang, Hoang D. Nguyen, Thanh Le, Suhang Wang

该论文是一篇关于检索增强生成(RAG)安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型,能够提升事实性和减少幻觉,但与此同时,检索-生成流水线也引入了新的安全风险,例如语料库投毒(corpus poisoning)、后门攻击(backdoor attacks)、隐私泄露(privacy leakage)以及公平性破坏(fairness violations)。现有综述在攻击者目标、威胁模型和分阶段防御的覆盖上存在局限。为此,本文提出了一种统一的、面向流水线的 RAG 鲁棒性研究框架。作者首先对语料库、检索器和生成器分别形式化定义了威胁模型,并将攻击归纳为三大目标:准确性(accuracy)、隐私(privacy)和公平性(fairness)。随后,他们从流水线视角系统梳理了防御措施,覆盖检索(retrieval)、重排(rerank)、生成(generation)和追踪(traceback)等阶段。此外,文中还总结了用于评估和解释 RAG 鲁棒性的基准测试(benchmarks)与可解释性方法(explainability methods)。该综述的贡献在于提供了一个统一的、按流水线阶段和组织目标分类的攻击与防御全景,弥补了现有研究在系统性上的不足。适合关注大模型安全、RAG 应用防护以及可信 AI 的研究人员和工程师阅读。

💡 推荐理由: RAG 已广泛用于企业知识库问答等场景,但其流水线引入的投毒、后门、隐私泄露等风险尚未被多数安全团队充分认识。该综述提供了体系化的威胁建模与防御视角,有助于蓝队提前识别和缓解 RAG 特有攻击面。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Omar Abusabha, Sungjae Hwang

本文是一篇关于二进制反编译技术在现代计算环境中的系统性综述。反编译作为软件工程与安全分析的基础技术,旨在将机器码或二进制程序还原为高级语言表示,广泛用于恶意软件分析、漏洞挖掘、遗留代码维护和软件可追溯性验证。近年来,随着机器学习(ML)方法的引入,反编译技术取得了显著进展,但也面临新的挑战。本文首先回顾了过去数十年间发表的反编译研究,并对当前研究方法进行了全面的分类学梳理,构建了一个包含静态分析、动态分析、语义恢复、类型推断、结构化重建以及基于神经网络的端到端反编译等类目的分类体系。随后,论文系统检视了评估指标、常用工具和基准数据集的使用趋势,揭示了当前评估实践中缺乏可靠真值(ground truth)和标准化基准的问题,这导致不同方法之间难以进行公平、可复现的比较。本文还讨论了现代反编译系统在指令集多样性、代码混淆、编译器优化差异等方面的鲁棒性痛点。最后,作者基于对现有文献的分析,指出了未来研究方向,包括构建统一基准、融合人工先验与神经模型、提升跨架构泛化能力,以及将反编译与程序修复、代码克隆检测等下游任务结合。对于安全工程师、二进制分析工具开发者以及从事软件逆向工程的研究人员而言,这篇综述提供了清晰的领域全景和关键开放问题的梳理,有助于理解该领域的技术演化和潜在突破口。

💡 推荐理由: 反编译是恶意软件分析和漏洞挖掘的关键环节。该综述系统梳理了从传统方法到ML驱动反编译的演进路径,对蓝队人员评估工具能力、选择技术路线以及理解神经网络反编译的可靠性边界具有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Lea Gröber, Simon Lenau, Rebecca Weil, Elena Groben, Michael Schilling 0001, Katharina Krombholz

本文是一篇针对私有云托管现状与管理员特性的代表性调查研究,旨在探讨私有云环境中的隐私与安全问题。研究背景在于,随着云计算的普及,私有云被许多组织视为比公共云更安全、更可控的选项,但实际上私有云的安全状况在很大程度上依赖于管理员的配置和操作。论文通过系统性的调查方法,收集了私有云托管服务的公开数据,分析了私有云的实际部署规模、托管服务商的分布、以及管理员的典型特征(如技术水平、安全实践、配置习惯等)。研究者采用代表性抽样和统计分析方法,揭示了私有云环境中普遍存在的安全隐患,包括但不限于默认配置未更改、暴露面过大、缺少必要的安全补丁、以及管理员安全意识不足等问题。文章的核心贡献在于:第一,提供了关于私有云托管现状的量化数据,填补了该领域实证研究的空白;第二,识别了私有云管理员在安全实践中的常见误区,为后续的安全培训和工具设计提供了依据;第三,讨论了私有云与公共云在安全责任模型上的差异,强调了管理员角色在私有云安全中的关键地位。适合云安全研究人员、私有云部署者、以及企业安全决策者阅读,以了解私有云的真实风险状况并改进自身部署策略。由于本文仅基于摘要信息,具体实验细节和统计结果需查阅全文。

💡 推荐理由: 私有云常被视为更安全,但实际风险高度依赖管理员实践。该调查提供了真实世界的部署与管理员行为数据,有助于蓝队理解私有云常见弱点,并为审计和加固提供参考。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kathrin Grosse, Lukas Bieringer, Tarek R. Besold, Alexandre Alahi

本文针对人工智能安全研究中威胁模型与工业实践脱节的问题进行了系统性分析。作者指出,近年来学术研究关注的 AI 安全威胁往往不能反映实际部署场景,例如模型在真实环境中通常不是孤立运行的,而是作为更大机器学习流水线的一部分;同时,学术攻击所依赖的对抗扰动条件在实际中难以满足。为量化这一差距,作者回顾了 AI 安全研究中最常被研究的六类攻击(如对抗样本、数据投毒、模型窃取等)的威胁模型,并通过一项包含 271 名工业从业者的问卷调查,将这些威胁模型与实际的 AI 使用情况进行匹配。研究主要发现:第一,现有威胁模型均可在现实场景中找到对应实例,并非完全脱离实际;第二,研究设定与工业实践之间存在显著错配——学术研究常常赋予攻击者过多能力,例如假设攻击者能够访问到真实环境中很少能获取的信息或控制权限。通过揭示这些差距,本文呼吁 AI 安全社区应转向更贴近实际部署条件的威胁模型,以提升研究的实用性和可迁移性。该论文适合 AI 安全研究人员、工业界安全工程师以及制定 AI 安全标准的从业者阅读,有助于重新审视研究优先级,并推动更具现实意义的攻防研究。

💡 推荐理由: 本文首次通过大规模工业调研量化了 AI 安全学术研究与实际场景的差距,为蓝队和安全评估者提供了调整威胁建模优先级的参考依据,避免过度关注不切实际的攻击场景。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
推荐 3.5
Conf: 50%
👥 作者: Georgios M. Nikolopoulos

本文是一篇关于量子单向函数及相关量子态原语的综述性论文,由Georgios M. Nikolopoulos撰写,属于量子物理与数学物理交叉领域。论文指出,在经典密码学中,单向函数几乎支撑了所有标准密码协议,但量子密码学中除密钥分发外的原语研究尚不成熟。作者系统回顾了量子单向函数及其密切相关的量子态原语,包括单向态生成器(one-way state generators)、伪随机量子态(pseudorandom quantum states)以及高效不可区分态对(efficiently indistinguishable pairs of states)。论文详细讨论了量子单向性的计算复杂性与信息论两种定义,强调不同构造背后的对抗模型和安全假设差异;对比了各类提出的原语,并厘清了它们之间的概念关系。特别关注物理可实现性、实验可行性和噪声鲁棒性等实际问题。最后,论文列出了开放问题与未来方向,旨在推动密钥分发之外的实用量子密码原语发展,并构建更广泛的量子密码生态系统。该综述适合量子信息、密码学理论以及量子安全领域的研究人员阅读,有助于理解量子单向函数的研究现状、核心挑战和潜在应用。由于仅基于摘要,本条目只能代表作者在摘要中呈现的核心观点。

💡 推荐理由: 为量子密码学中除密钥分发外的原语奠定理论基础,帮助安全社区理解未来量子安全体系可能依赖的新假设与构造,提前布局后量子密码研究。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Anadi Goyal, Nandish Chattopadhyay, Anupam Chattopadhyay, Chandan Karfa

本文对视觉 Transformer(ViT)在输入自适应推理机制下的对抗性效率下降攻击进行了系统综述。近年来,ViT 为满足能源与延迟约束,广泛采用 token 剪枝、提前停止等输入自适应技术,但这些优化同时引入了新的攻击面。攻击者可通过精心构造的输入扰动,迫使模型保留更多计算开销,从而导致推理效率显著下降,而无需牺牲分类精度。该综述统一比较了两种代表性攻击:SlowFormer(通用对抗补丁)与 DeSparsify(逐图像扰动),并分别在三种主流 token 剪枝框架(A-ViT、ATS、AdaViT)下进行实验评估。为了标准化评估,作者采用 GFLOPs、准确率损失以及攻击成功率(AS)指标衡量攻击所移除的模型计算节省比例。通过回答三个核心问题,即输入自适应优化如何构成攻击面、攻击在实际中如何运作且哪些优化最脆弱、以及现有防御能否在攻击下有效恢复效率,本文梳理了攻击与防御的当前研究格局。结果表明,效率下降攻击对依赖动态计算的部署场景构成实际威胁,尤其对移动和嵌入式等低功耗设备影响显著。文章同时指出,设计轻量级且有效的防御策略是重要且亟待解决的研究方向,为后续工作提供了理论框架和建议。

💡 推荐理由: 该综述揭示了针对 ViT 动态推理机制的新型攻击面,这类攻击不必破坏精度,仅通过增加计算开销即可造成拒绝服务或能源浪费,对边缘智能设备的安全部署构成实际威胁。安全从业者需理解此类攻击原理,以便在模型设计和部署中纳入相应防护。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Junjie Xiong, Zhengyuan Jiang, Xiaoran Xu, Chi Zhang, Changjia Zhu, Ning Wang, Mingkui Wei, Zhuo Lu, Yao Liu, Lingyao Li

本论文是一篇系统性的文献综述,关注大语言模型(LLM)在社交媒体信息完整性中的双重角色。随着LLM的快速发展,其在内容生成和语义理解上的能力深刻影响了虚假信息、错误信息、假新闻、社交机器人和隐私保护等挑战。作者对2019至2024年间发表的1048项研究进行了筛选,并深入分析了215篇代表性论文,采用系统性文献综述方法,从多个数据库综合证据,归纳了LLM在信息完整性领域的主要模式。研究发现,LLM一方面能够增强恶意内容的检测能力,支持更复杂的防御机制,例如通过语义分析识别虚假信息或社交机器人;另一方面,LLM也带来了新风险,使其能够生成高度可信、具有欺骗性的内容,加剧了信息操纵的可能性。文章从技术能力、伦理影响和隐私关切多个维度对信息完整性问题进行分类分析,揭示了当前方法在跨语言检测、实时监控和隐私保护实现方面的关键缺口。最后,作者提出了未来研究方向,并为利益相关方(如平台、政策制定者和研究人员)提供了如何利用LLM同时减轻其在社交媒体信息完整性方面风险的建议。该综述为安全从业者提供了宏观视角,理解LLM如何在社交媒体生态中既成为风险放大器又成为防御工具,并指出了实际部署中需要解决的技术和伦理挑战。

💡 推荐理由: LLM正在重塑社交媒体信息战格局。蓝队需了解LLM既能提升恶意内容检测,也可能被用于大规模生成误导信息。这篇综述系统梳理了机遇与挑战,帮助安全团队制定更全面的信息完整性策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jiaming Zhang, Boyang Chen, Zherui Li, Fuyao Zhang, Xinyu Yan, Hong Xi Tae, Wenwen He, Xuan Wang, Siqi Guo, Junhao Dong, Kun Wang, Hanxun Huang, Yige Li, Xingjun Ma, Yang Cao, Lingjuan Lyu, Wei Yang Bryan Lim

这篇综述论文提出并系统梳理了“为善的对抗性攻击”(Adversarial Attacks for Good)这一新兴研究范式。其核心背景是:视觉内容一旦进入AI管线,所有者便很难再对内容被如何使用进行技术控制;虽然法律和监管手段可以应对滥用,但许多技术干预必须在内容发布或访问时就更早地实施。论文指出,五个研究方向虽然彼此独立发展,却都采用了同一思想——将长期用于攻击机器学习模型的扰动和结构化信号,反向应用于数据所有者、创作者、平台或审计方,以破坏未经授权的自动化处理或为后续问责提供支持。这五个方向覆盖了视觉资产生命周期的不同阶段:1)隐私过滤器,针对分享时的未经授权识别;2)不可学习示例,防止未经授权的模型训练利用;3)生成式安全防护,防止恶意的图像编辑或模仿;4)对抗性CAPTCHA,作为访问控制以阻止自动化代理;5)溯源机制,用于传播后的归属和追踪。论文指出,这些方法虽然在不同场合提出、成功标准各异,但都利用了人类感知、语义理解与机器推断之间持久存在的差距;随着视觉管线向多模态模型和自主代理演进,这一范式仍将具有现实意义。为了让不同工作的结论可比,论文从可迁移性、适应性和部署就绪度三个共同维度对五个方向的代表性方法进行了评估。总体发现是:大多数现有防护仍主要针对静态或弱自适应攻击者进行验证,在受控基准之外的实证证据稀缺。论文最后汇总了跨阶段的对抗措施和开放问题,呼吁构建鲁棒、可组合、可部署的所有者侧防护方案。该研究适合AI安全、隐私保护、内容溯源和对抗机器学习领域的研究人员与从业者阅读。

💡 推荐理由: 该综述将分散的“以攻为守”技术统一为生命周期防护框架,为数据所有者、平台和审计方提供了主动对抗AI滥用(如未经授权识别、训练、编辑和访问)的技术路线参考,值得安全从业者跟进以评估自身内容保护策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Nissy Sombatruang, Tristan Caulfield, Ingolf Becker, Akira Fujita, Takahiro Kasama, Koji Nakao, Daisuke Inoue

该论文对互联网服务提供商(ISP)和个人用户在保护物联网(IoT)设备安全方面的态度、障碍和激励因素进行了系统性研究。作者来自日本和英国的研究机构,通过问卷调查、访谈或实证数据分析等方法,收集了 ISP 和家庭用户对 IoT 安全责任划分、可实施的安全措施以及经济激励机制的认知与偏好。研究旨在揭示 ISP 在协助家庭用户提升智能设备安全性方面所能发挥的作用,以及个人用户在实际操作中遭遇的技术门槛、成本顾虑、知识缺失等核心障碍。主要贡献包括:(1)提出一个多维分析框架,用于分类 ISP 和个人在 IoT 安全生态中的角色、责任与激励来源;(2)基于实证数据识别出阻碍 IoT 安全实践落地的关键因素,如用户教育不足、设备管理界面复杂、缺乏统一安全标准等;(3)探讨了从政策、市场和服务设计层面改善IoT安全现状的可行建议,包括 ISP 提供安全增强服务、设备制造商优化默认安全配置、以及建立面向用户的安全激励计划。该研究为理解智能家居安全中“人的因素”和“服务商责任”提供了有价值的第一手证据,适合物联网安全产品经理、网络服务提供商的安全策略制定者以及安全行为研究人员阅读参考。

💡 推荐理由: 帮助蓝队和安全团队理解智能家居攻防中的人为与环境因素,为设计用户安全教育、ISP 安全增值服务及设备安全默认策略提供实证依据。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Lisa Geierhaas, Florin Martius, Arthi Arumugam, Matthew Smith 0001

本论文研究客户端扫描(Client-Side Scanning, CSS)技术在安全隐私研究人员和美国普通公众中的态度差异。客户端扫描是一种在用户设备上自动扫描内容(如图片、消息)以检测非法材料(如儿童性虐待材料)的技术,但其对隐私和信任的潜在影响引发争议。研究通过两个调查:一个针对安全隐私研究人员(171名受访者),另一个针对美国人口样本(1000+名受访者),收集他们对CSS不同维度的看法,包括可接受性、隐私权衡、信任影响等。结果显示,研究人员普遍对CSS持谨慎态度,强调隐私风险和滥用可能性;而普通公众则表现出更高的接受度,尤其是当CSS被用于保护弱势群体时。研究还发现,对CSS的支持性受信息呈现方式(如强调隐私保护或公共利益)的影响。主要贡献在于:首次系统比较了专家与公众对CSS的态度,揭示了认知差距;为政策制定者和技术开发者提供了关于CSS社会接受度的实证数据;强调了在设计CSS系统时需平衡安全与隐私。

💡 推荐理由: 客户端扫描技术正被多国考虑部署,但其对用户隐私和信任的冲击需要被充分理解。该研究揭示了安全专家与公众之间的态度分歧,有助于安全从业者基于实证数据参与政策讨论,并设计更符合伦理和公众期望的扫描方案。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Tristan Bilot, Baoxiang Jiang, Zefeng Li, Nour El Madhoun, Khaldoun Al Agha, Anis Zouaoui, Thomas Pasquier

本文对当前最先进的基于溯源的入侵检测系统(PIDS)进行了全面分析。研究背景是,尽管PIDS在检测复杂攻击方面表现出色,但其方法日益复杂,导致部署和解释困难。核心问题是:现有复杂方法是否真正优于更简单的替代方案?作者选取了多个代表性系统(如StreamSpot、Sleuth、Unicorn等),从检测精度、运行效率、可解释性等方面进行系统比较,并引入了一种简化的基线方法。实验证明,该简化方法在多个数据集上取得了相当甚至更优的性能,且开销显著降低。主要贡献包括:1)首次系统化比较多种PIDS的设计权衡;2)揭示过度复杂化可能带来边际收益递减;3)提出并验证了优先考虑简洁性的设计原则。适合安全研究人员和SOC分析师阅读,以在部署PIDS时做出更务实的决策。

💡 推荐理由: 为SOC团队选择或设计基于溯源的入侵检测系统提供了实证指导,避免盲目追求复杂模型而忽视实际效果。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Lucas Becker, Matthias Hollick, Jiska Classen

本文是一篇关于控制流完整性(CFI)在实际环境中有效性的系统化知识(SoK)综述。研究背景:CFI 被广泛视为一种重要的防御技术,旨在通过限制程序控制流来遏制控制流劫持攻击。然而,随着攻击技术的演进,尤其是面向返回编程(ROP)和面向跳转编程(JOP)的复杂化,CFI 的实际效果受到质疑。核心问题:现有 CFI 实现在面对现实世界攻击者时,其保护能力究竟如何?是否存在普遍性的局限性?方法:作者系统回顾了近年来 CFI 相关的学术文献、实际部署案例以及已知绕过技术,构建了一个分类框架来评估不同 CFI 策略(如粗粒度、细粒度、运行时 CFI)的强度与弱点。主要贡献:1)总结了 CFI 的常见攻击面,包括间接跳转/调用的覆盖不全、状态图不完备、性能支出与安全的权衡等;2)揭示了细粒度 CFI 虽增强了安全性,但仍可能被特定攻击模式(如后向边利用、运行时信息泄露)绕过;3)指出实际部署中的 CFI 方案往往因兼容性需求而降低保证级别;4)提出了未来 CFI 研究应关注动态完整性检查、基于硬件的辅助以及与程序语言级安全的结合。本文适合安全研究人员、系统软件开发者及防御技术评估者阅读,帮助理解 CFI 的现状与局限。

💡 推荐理由: CFI 是底层防御技术核心,本文系统梳理了其实际效力与绕过方式,对评估依赖 CFI 的现有防护体系有直接指导价值。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Marvin Büchel, Tommaso Paladini, Stefano Longari, Michele Carminati, Stefano Zanero, Hodaya Binyamini, Gal Engelberg, Dan Klein 0003, Giancarlo Guizzardi, Marco Caselli, Andrea Continella, Maarten van Steen, Andreas Peter 0001, Thijs van Ede

该论文是一篇系统化综述(SoK),系统回顾和分析了从网络威胁情报(CTI)报告(如安全厂商的APT报告、漏洞描述等)中自动提取TTP(战术、技术和程序)的相关研究。作者构建了统一的评估框架,将现有方法按照输入形式、技术方法、输出粒度等维度进行分类,并评估了各方法在准确性、可扩展性、可解释性等方面的表现。论文还识别了当前领域的主要挑战:不同CTI报告表述不一致、缺乏标注数据、语义鸿沟、以及评估基准不统一。最后,论文提出了未来研究方向,包括引入多模态数据(如结构化威胁指标)、利用大语言模型提升语义理解、以及构建标准化评估基准。该研究为安全社区提供了全面的技术路线图,帮助研究者了解自动化TTP提取的现状和瓶颈。

💡 推荐理由: TTP是高级威胁狩猎和攻击归因的核心,但目前CTI报告中TTP标注依赖人工,效率低且不一致。本文系统梳理了自动化提取方法的进展与局限,对研发更智能的威胁情报分析工具具有重要指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
推荐 5.5
Conf: 50%
👥 作者: Huy Phan, Kieu Dang, Ojaswi Dulal, Aiham AL Shukairi, Abby Shine, Chase Garner, Phung Lai

本文是一篇关于大语言模型(LLM)水印技术的系统性综述,从理论和部署两个维度对现有研究进行了全面梳理。随着LLM在多个高影响力场景中的广泛应用,其生成的流畅文本带来了来源模糊、模型滥用和大规模内容洗稿等风险。LLM水印通过向模型输出中嵌入不可见签名,为内容溯源、审计和下游信任决策提供了技术基础。然而,现有文献增长迅速但混乱,不同分类方式常混合正交设计选择,使得方法难以比较、保证难以推理、研究成果难以转化为可部署系统。本文从实践者必须回答的核心问题出发组织内容:水印在何处嵌入(生成时 vs. 训练时,token级 vs. 表征级)、谁可以检测(公开 vs. 私有检测权威)、假设条件(logit访问、采样控制、密钥、模型所有权)以及针对哪些威胁模型(改写、翻译、摘要、风格迁移、token操纵、自适应移除)。综述了主要技术家族——包括采样偏置、编码方案、基于表征和训练的方法——并从可检测性、鲁棒性和分布偏移角度分析了其安全-效用权衡。进一步回顾了攻击和规避策略、评估协议与指标(假阳性控制、校准、鲁棒性曲线),以及跨模型迁移、多模态管线、合谋和治理约束等开放挑战。最后,提供了在实际运维需求下选择水印设计的实用指南,指出了可靠且负责任的LLM部署所需的研究方向。

💡 推荐理由: LLM水印是应对AI内容滥用的关键技术之一,本综述系统整理了现有方案的设计空间、安全权衡和实际部署考量,有助于安全从业者快速了解该领域全貌,为构建可溯源、可审计的LLM服务提供决策参考。

🎯 建议动作: 纳入知识库,供安全架构师和AI安全团队参考。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Fred Heiding, Claudio Mayrink Verdun, Simon Lermen, Andrew Kao, Vitor Albiero, Lauren Deason, Irina-Elena Veliche, Christine Lehane

该研究通过大规模问卷调查(N=4100)和定性访谈(N=12),评估了美国成年人面对AI驱动的语音钓鱼攻击的脆弱性。研究人员利用先进的语音模型(包括Llama Full Duplex、Sesame、Gemini、OAI AVM、Play.AI和ElevenLabs)生成了五种典型钓鱼场景的音频或文字记录(如亲人求救、银行诈骗等),并与人类诈骗者的基线表现进行对比。结果显示,在“亲人困境”类别中,高达36%的参与者表示可能或肯定会遵从诈骗要求;总体遵从率为16.5%。通话说服力是预测遵从的最强因子,其中Sesame模型的表现甚至略超人类。经济分析表明,尽管人工语音钓鱼在美国薪资水平下无利可图,但AI驱动的语音钓鱼对多种模型已具备经济可行性。论文指出,当前AI语音钓鱼的主要风险源于自动化的经济学优势,而非全新或超人的说服技巧,但对未来的系统不能排除这种可能性。该研究为AI系统设计、消费者保护和模型发布政策提出了重要警示。

💡 推荐理由: AI语音合成与LLM结合使语音钓鱼自动化成为可能,且经济上可行,可能大规模威胁公众安全,需提前制定防范策略。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kiarash Ahi, Saeed Valizadeh

该论文是一篇关于大语言模型(LLMs)和生成式AI(GenAI)在网络安全与隐私领域中双用途风险的综述。研究背景指出,到2025年LLM生成的恶意软件已占检测威胁的50%,而2021年仅占2%,表明AI驱动的攻击自动化正在飞速发展。论文通过回顾70多篇学术论文、行业报告和技术文档,并结合来自Google Play Protect、Microsoft Defender、AWS、Apple App Store、OpenAI Plugin Stores、Hugging Face Spaces、GitHub等平台的实际案例,系统梳理了LLM在网络安全中的正面应用(如零日检测、DevSecOps、联邦学习、合成内容分析、可解释AI)和恶意应用(如网络钓鱼、漏洞利用、恶意代码生成)。该综述还分析了SAFE框架等新兴举措及AI驱动的异常检测。最终,论文提出了负责任部署LLM的建议,包括模型水印、对抗性防御、跨行业合作等,旨在为AI驱动的网络安全研究设定新基准。核心贡献在于全面勾勒了LLM双用途风险的当前图景,并为研究人员、工程师和安全领导者提供应对AI驱动安全挑战的路线图。适合网络安全研究员、AI从业者、SOC分析师及安全策略制定者阅读。

💡 推荐理由: 该综述系统揭示了LLM和GenAI在网络安全中的双用途风险,帮助安全从业者快速理解当前AI威胁态势及防御策略,对制定内部安全路线图具有重要参考价值。

🎯 建议动作: 阅读全文以获得系统理解,并评估组织内部AI安全策略。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Emily Wenger, Shawn Shan, Haitao Zheng 0001, Ben Y. Zhao

该论文是针对反人脸识别(AFR)技术的首篇系统化知识综述(SoK)。近年来,人脸识别(FR)技术在政府和商业领域的快速普及引发了公众对公民自由和隐私的担忧。为此,学术界和工业界提出了多种所谓的“反人脸识别”工具,旨在帮助用户避免非授权的人脸识别。然而,这些工具种类繁多、演进迅速,缺乏统一的分类和分析框架。本文基于FR系统的操作阶段(如采集、特征提取、匹配等)构建了一个系统化的分析框架,用于评估不同AFR方法的优缺点和权衡。研究涵盖了从图像扰动、对抗性伪装到匿名化等多种技术路线,并探讨了社会和技术层面的挑战,如易用性、对抗鲁棒性以及和现有隐私法规的兼容性。主要贡献包括:首次全面梳理AFR研究全景;提出一个可扩展的分类体系;识别出长期存在的开放问题(例如针对自适应攻击的防御、跨场景泛化能力)。该工作适合对人脸识别隐私保护感兴趣的研究人员、政策制定者以及安全从业者阅读。

💡 推荐理由: 随着人脸识别技术被滥用风险增加,反人脸识别技术成为保护个人隐私的关键。该SoK为从业者提供了技术全景和分类框架,有助于理解现有方法的局限和未来研究方向,对隐私保护策略制定具有直接指导意义。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Eduardo Almeida Palmieri, Mohamed Chahine Ghanem, Dipo Dunsin, Zubair Baig, Ed de Quincey, Kim-Kwang Raymond Choo

该论文是一篇关于将代理式人工智能(Agentic AI)和生成式人工智能(Generative AI)应用于开源情报(OSINT)和网络调查的综合性综述。随着公开数字信息的爆炸式增长,传统的人工OSINT分析已无法满足现代情报和网络安全的需求。大型语言模型(LLM)和具备工具使用、多步推理及迭代情报生成能力的代理式AI系统成为有前景的解决方案,但现有的评估框架未能跟上其能力的发展。论文系统性地回顾了74项研究,做出了四项主要贡献:第一,将代理式AI确立为独立于LLM提示扩展的分析类别,并通过包含11个类别的分类法组织文献,涵盖LLM基础、代理架构、检索增强生成(RAG)、知识图谱、提示工程、领域适应、评估基准和风险等。第二,识别出“幻觉-验证差距”作为语料层面的发现:尽管超过20项研究将幻觉视为主要可靠性问题,但仅有一项OSINT专用RAG系统在不可复现条件下进行了端到端幻觉的实证测量,而相关的推理和事实校正研究评估的是通用领域问答而非OSINT。第三,将现有研究映射到OSINT生命周期,发现对收集和分析阶段的支持较强,但对验证、报告、分发和决策支持阶段的覆盖有限。第四,推导出包含十个要点研究议程,涉及评估、基准测试、幻觉测量、对抗鲁棒性、暗网覆盖、多模态智能和治理。论文得出结论:人机共驾模式(LLM辅助收集和分类,分析师负责验证和决策)是最可行的近期部署架构。适合安全分析师、OSINT从业者及AI安全研究者阅读。

💡 推荐理由: 本文系统梳理了LLM和代理AI在OSINT中的应用现状与评估缺口,帮助安全团队理解技术成熟度、识别可靠性风险(尤其是幻觉),并为设计人机协同的情报分析流程提供依据。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 12.4
Conf: 50%
👥 作者: Ying Li 0095, Faysal Hossain Shezan, Bomin Wei, Gang Wang 0011, Yuan Tian 0001

本文是一篇系统化知识综述(SoK),旨在全面梳理自动化漏洞修复(Automated Vulnerability Repair, AVR)领域的研究进展。作者通过系统性文献回顾,收集并分析了近年来发表的AVR相关论文,将现有方法划分为基于规则、基于检索、基于模板和基于机器学习等主要类别。针对每一类别,论文详细讨论了其核心原理、典型代表系统(如GenProg、ACS、DeepRepair、SequenceR等)以及各自的优缺点,重点关注修复正确性、泛化能力、可解释性和性能开销。在评估方面,论文分析了常用基准数据集(如Defects4J、BugAID、ManyBugs等)的特性与局限性,指出当前评估协议存在不一致性问题(如缺陷选择偏差、修复标准差异),导致不同方法之间难以公平比较。此外,论文还探讨了AVR在实际应用中面临的挑战,包括程序语义理解、修复补丁的正确性验证、跨语言和跨项目迁移能力、以及对于复杂逻辑漏洞的修复能力。最后,作者提出了未来研究方向的建议,包括:利用大语言模型(LLM)增强代码理解与生成、结合形式化验证确保补丁正确性、构建统一评估平台,以及将AVR集成到DevOps流水线中实现持续安全。该综述为安全研究人员和工程实践者提供了清晰的现状概览和发展脉络,有助于指导后续研究与工具选型。

💡 推荐理由: 自动化漏洞修复是安全编排的重要环节,该综述系统梳理了现有方法、基准和挑战,帮助蓝队和安全工程师理解当前技术的优缺点,为引入自动化修复工具提供决策依据。

🎯 建议动作: 研究跟进

排序因子: 有可用补丁/修复方案 (+3) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Gourab Das, Pavan Kumar C, Raghavendra Ramachandra

这篇综述系统地梳理了身份证件伪造攻击与检测方法的最新进展。随着生成式AI工具的普及,伪造能力发生了根本性转变:非专业人员也能借助AI生成高逼真度的证件或对现有证件进行字段级篡改,而现有的检测基准尚未跟上这一威胁。论文首次将物理呈现攻击(如印刷品翻拍)、数字注入攻击(如向数字验证流程插入伪造图像)和完全由生成式AI驱动的合成攻击统一在一个身份证件验证威胁模型下,揭示了不同攻击类型特有的取证失效模式。检测方法方面,论文从规则启发式方法、取证定位、注入感知流水线,一直追踪到大模型和少样本框架。通过对2019-2025年间公开数据集的系统审计,作者发现基准测试与真实部署之间存在持续的“现实差距”。此外,论文分析了大型多模态模型在证件篡改中的表现,识别出“脚本相关生成不稳定性”(SDGI)——一种非拉丁字母文本修补中反复出现的排版失败模式。最后,在未见过的合成身份证上的零样本基准测试显示,即使最强的公开模型在安全导向的操作条件下APCER值仍超过25%,暴露出跨域泛化的重大局限。论文最后指出了未来方向:构建基于取证、保护隐私并具有法律问责性的身份验证系统。

💡 推荐理由: 身份证件伪造威胁因生成式AI而急剧升级,现有检测基准严重滞后于实际风险,综述提出的统一威胁模型和现实差距分析对安全评估和防御策略制定具有直接指导意义。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jiefei Liu, Abu Saleh Md Tayeen, Pratyay Kumar, Qixu Gong, Wenbin Jiang, Huiping Cao, Satyajayant Misra, Jayashree Harikumar

该论文是一篇关于生成式人工智能(Generative AI)和联邦学习(Federated Learning)在入侵检测系统(IDS)中应用的综述。入侵检测系统是现代网络环境(如网络物理系统、物联网、企业网络和分布式网络)中监控流量、识别恶意行为的关键组件。然而,开发可靠的IDS模型面临诸多挑战:攻击行为不断演化、真实数据集难以获取、流量记录可能不完整、攻击类别不平衡、以及隐私限制导致数据无法集中收集。近年来,生成式AI(包括自编码器、生成对抗网络(GAN)、扩散模型和大语言模型(LLM))和联邦学习的进步为克服这些局限提供了新机遇。生成模型可用于异常检测、合成流量生成、数据增强、数据补齐、对抗流量生成以及IDS告警解释。联邦学习则能在不直接共享本地网络流量的情况下进行分布式IDS训练,特别适用于隐私敏感和地理分散的环境。本文首先总结了IDS研究的代表性方向,包括对抗机器学习、基于异常的检测、面向物联网的IDS、可解释IDS及基准数据集。然后,根据模型家族和任务目标对生成式AI在IDS中的应用进行了分类。最后,综述了将生成式AI与基于联邦学习的IDS相结合的新兴研究,并讨论了开放挑战,如合成数据质量、真实流量生成、双重用途对抗风险、非独立同分布客户端分布、通信高效模型共享、联邦IDS基准测试以及面向网络安全的领域特定大语言模型。该综述为网络安全研究人员和工程师提供了前沿技术的系统化梳理,有助于理解当前生成式AI和联邦学习在IDS领域的应用现状与未来方向。

💡 推荐理由: 该综述系统梳理了生成式AI和联邦学习两大前沿技术在入侵检测中的应用,为应对数据稀缺、隐私保护、类别不平衡等核心挑战提供了新思路,对设计下一代自适应、隐私保护的IDS具有重要参考价值。

🎯 建议动作: 纳入内部评估:安全团队可基于该综述中提到的生成式AI和联邦学习方案,探索适用于自身网络环境的IDS增强或原型验证。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Bidushi Barua, Ahsan Khan, Kangfeng Ye, Panagiotis Papanastasiou, Yifan Liu, Mohit Bidikar, Anthony Moulds, Julie McCann, Poonam Yadav

第六代(6G)通信网络预计将演变为AI原生、高度自治的生态系统,融合通信、计算、感知和人工智能。尽管这些能力能实现前所未有的连接和智能服务,但它们也创造了高度异构的安全和隐私格局,无法通过孤立的、特定技术的解决方案来解决。本文对AI原生6G网络中的安全和隐私问题进行了全面的跨层综述。首先,本文审视了现有安全和隐私方法在新兴技术、网络架构、AI系统和标准化工作中的碎片化现状,从而论证了对统一安全和隐私框架的需求。基于该框架,本文开发了一个跨层威胁分类法,涵盖基础设施、网络与架构、AI、隐私以及安全管理等领域,并分析了关键AI原生6G技术中的代表性威胁。此外,本文将威胁映射到相应的跨层对策,包括将标准协调作为一种安全功能,并识别了关键研究差距和未来优先事项,以实现安全、可互操作和可信的AI原生6G生态系统。最后,本文讨论了实现安全、隐私保护、弹性和全球互操作的6G网络的未来研究方向。该综述为研究人员、从业人员和标准化社区提供了设计、评估和部署可信AI原生6G系统的整体基础。

💡 推荐理由: 本文提供了6G安全与隐私的全面跨层视角,对设计下一代安全通信系统具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zane Xu, Nathan Malkin

本研究针对众包平台(如Prolific和Mechanical Turk)上调查问卷参与者越来越多使用大型语言模型(LLM)辅助回答的现象,旨在量化这种行为的普遍性并探索检测与缓解方法。研究团队开展了一系列调查(样本量N=250),系统评估了平台选择、调查长度、明确要求不使用AI、以及禁用复制粘贴功能等条件对LLM使用频率的影响。通过分析回答的文本特征(如语言风格、一致性、错误模式等),研究人员成功识别出LLM辅助回答的独特特征,并发现其使用频率在不同平台间差异显著:在Prolific上低于10%,而在Mechanical Turk上超过80%。缓解措施(如禁用复制粘贴、加入不适用AI的请求)虽降低了LLM的使用率,但并未显著提高数据质量,暗示部分真实回答也被错误过滤。此外,研究期间未观察到参与者使用浏览器自动化代理(browser-use agents)的现象,但作者分享了基于按键记录和回答模式分析的检测实验。最终建议研究人员在数据收集阶段主动记录和分析按键数据,并设计针对AI的指令和问题,以更有效地筛选出LLM生成的回答。该研究首次系统量化了众包调查中LLM使用的规模与检测有效性,为人机交互和计算社会科学领域提供了重要参考。

💡 推荐理由: 随着LLM在众包平台上的滥用,调查数据的有效性受到严重威胁。该研究首次量化了LLM使用的真实比例,并提出了实用的检测与缓解方法,对依赖众包数据的社会科学、市场调研和用户研究从业者至关重要。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Yiwei Xu, Yong Zhuang, Xuanming Liu, Tian Zhang, Bowen Xiao, Xiaoyang Xu, Delong Jiang, Juan Wang, Hongxin Hu

本文是一篇关于大语言模型(LLM)智能体安全双重性的全面综述,聚焦于两个核心领域:(1)LLM智能体自身面临的安全威胁及缓解策略(智能体自我安全),(2)LLM智能体在赋能网络安全生命周期中的作用(智能体赋能网络安全)。首先,论文系统梳理了智能体的内部和外部攻击面,提出了按威胁源分类的分类法,并分析了相应的缓解措施和评估框架。然后,研究了智能体能力在网络安全实践中的应用,首次提出了与完整网络攻防生命周期对齐的智能体赋能框架。论文强调了LLM智能体自我安全与赋能网络安全之间的正反馈协同效应,为两者的共同进步提供了新见解。最后,指出了当前局限性并展望了未来研究方向。本文适合安全研究人员、AI安全从业者以及关注LLM可靠性的人员阅读。

💡 推荐理由: LLM智能体正快速融入实际系统,其自主性和工具使用能力在创造价值的同时也扩大了攻击面。本综述首次系统整合了智能体自我安全与赋能安全两大主题,揭示了二者的协同关系,为安全社区提供了全面的防御视角和未来研究路线。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Nada Lahjouji, Ashwin Gerard Colaco

大型语言模型(LLM)智能体越来越多地用于查询数据库、检索文档集合、调用外部API、记忆过往交互并代表用户执行操作。随着其应用从简单的问答扩展到处理敏感数据,隐私保护变得更加困难。智能体涉及多个数据源、运行多步工作流、跨会话保持状态,并拥有委托权限。因此,敏感信息不仅可能通过最终答案泄露,还可能通过其发出的查询、处理的中间结果、写入的记忆以及与其他智能体交换的消息泄露。本文从数据为中心的角度对LLM智能体的隐私问题进行综述,围绕智能体接触的数据组织研究领域,而非按攻击类型分类,并使用“数据智能体”作为处理数据的LLM智能体的简称。关于这些风险的研究很活跃但分散在检索增强生成、文本到SQL接口、智能体记忆、提示注入、访问控制和上下文隐私等领域。该综述将这些工作整合在一起:对智能体接触的数据源、每个数据源产生的隐私风险以及应对这些风险的治理机制进行了分类;绘制了用于衡量这些风险的基准图并指出了缺失之处;提出了开放问题。两个发现反复出现:在治理机制中,只有信息流控制同时覆盖了组合性推理泄漏和跨会话推理泄漏,这是两个保护最不充分的风险;并且没有基准能在单一隐私策略下驱动智能体跨越其数据表面,这是该领域最缺乏的工具。目标是提供一个可定位分散文献的参考,并为未来工作提供统一的框架。

💡 推荐理由: LLM智能体在数据密集型应用中的隐私风险日益突出,但相关研究分散。本文首次系统性地从数据视角梳理隐私问题,为安全从业者提供了全面的风险分类和治理机制参考。

🎯 建议动作: 阅读并参考其分类框架

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Lisa Geierhaas, Fabian Otto, Maximilian Häring, Matthew Smith 0001

本文是一项针对德国公民的调查研究,旨在了解公众对客户端扫描(Client-Side Scanning, CSS)技术用于打击网络犯罪的态度。近年来,苹果公司于2021年宣布计划部署CSS,欧盟也于2022年提出相关立法,引发了关于隐私与安全平衡的激烈争论。研究团队对具有代表性的德国样本进行了问卷调查,比较了CSS与基于云的扫描在针对不同犯罪类型(如儿童性虐待材料、恐怖主义、贩毒、吸毒和逃税)时的接受度,并分析了受访者对政府及大型科技公司(如谷歌、苹果)的信任程度对其观点的影响。结果显示,大多数参与者愿意接受CSS用于打击儿童虐待和恐怖主义等严重犯罪,但对其他非法活动的支持度显著下降。然而,即使支持CSS的参与者中,也有多数人担忧该技术的潜在滥用,仅有20%表示不担心。研究者认为,这并非为CSS的全面引入开绿灯,而是提醒安全与隐私社区需要更多研究,以在满足公众打击严重网络犯罪愿望的同时,有效降低对隐私和社会的风险。

💡 推荐理由: 该调查提供了德国公众对客户端扫描技术的真实态度数据,有助于安全从业者理解用户对隐私与安全权衡的接受度,为相关政策和技术设计提供参考。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Eleanor Birrell, Jay Rodolitz, Angel Ding, Jenna Lee, Emily McReynolds, Jevan A. Hutson, Ada Lerner

本文是一篇系统化知识(SoK)论文,旨在系统梳理全球互联网隐私法规的技术实现与人类影响。研究背景是:随着个人数据被滥用的风险日益凸显,各国陆续出台多项隐私保护法规,其中欧盟的《通用数据保护条例》(GDPR)和加州《消费者隐私法案》(CCPA)受到计算机科学界的广泛研究,而其他许多法规则关注不足。为填补这一空白,作者分析了来自全球的24部隐私法与数据保护法规,涵盖已获大量研究的和相对冷门的法律,并构建了一套关于法律赋予权利和施加义务的分类法。基于该分类法,作者系统化整理了计算机科学领域270篇技术研究论文,这些论文探讨了上述法规的影响以及技术方案如何补充法律保护。最后,作者通过跨学科视角分析研究现状,并提出了计算机科学与法律隐私交叉领域的未来工作建议。本文的核心贡献在于:1)建立了全面的隐私法规权利-义务分类体系;2)系统化梳理了大量相关技术文献,揭示了研究趋势与空白;3)为技术从业者和法律研究者提供了跨学科合作的方向。适合安全工程师、隐私合规人员、政策研究者以及关注隐私技术的计算机科学家阅读。

💡 推荐理由: 帮助安全从业者系统理解全球隐私法规对技术设计的影响,厘清法规要求与技术实现之间的差距,为构建合规的隐私保护系统提供知识基础。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Huong Nguyen, Mickaël Bettinelli, Amirhossein Ghaffari, Alexandre Benoit, Hong-Tri Nguyen, Susanna Pirttikangas, Lauri Lovén

联邦学习(FL)是一种分布式机器学习范式,允许多个客户端在不共享原始数据的情况下协同训练共享模型,从而解决数据孤岛和隐私问题。然而,数据本身也是FL系统面临的主要挑战和脆弱性来源,直接影响训练的稳定性和收敛速度。现有综述通常从整体架构、安全攻击或应用场景入手,缺乏从数据视角的系统性分析。本文填补了这一空白,从数据异构性、数据划分协议和数据相关的安全防御三个方面,首次全面梳理了数据因素对FL收敛的影响。具体地,作者首先将非独立同分布(non-IID)数据分解为可测量的特征(如标签分布偏移、特征偏移、数量偏移等),并根据其对收敛的影响强度分为强、中、弱三个等级,解释了每种偏移影响收敛的机制,并统一了图像、文本和图数据上的实验证据。其次,作者将实验中常用的数据划分方式(如按标签划分、按狄利克雷分布划分)与真实场景中的现象对应,指出了这些划分方式引入的人为偏差(artifact)及其对目标精度的扭曲效应,帮助研究者更合理地设计实验。最后,作者分析了数据相关的安全漏洞(如投毒攻击、成员推断攻击)及其防御机制(如差分隐私、鲁棒聚合)对收敛速度和稳定性的影响,在干净和对抗条件下报告了性能表现,揭示了收敛与鲁棒性之间的权衡。作为首篇全面理解FL中数据挑战的综述,本文为从业者提供了可操作的设计指南,帮助他们构建具有可预测收敛性和稳定性的FL系统。

💡 推荐理由: 联邦学习在实际部署中频繁遇到数据异构和安全威胁,影响模型收敛和性能。本文首次从数据视角系统梳理了挑战,为安全从业者提供了设计鲁棒且高效FL系统的关键参考。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Joel Samper, Bernardo Ferreira

本文是一篇系统化知识综述(SoK),针对移动应用中用户自拍裸照(self-generated nudes)分享行为的安全、隐私与问责问题展开研究。作者首先通过系统文献综述,从10,026篇搜索结果及交叉引用中筛选出相关学术论文,同时调查了主流操作系统功能及52款约会、社交、即时通讯应用中的实际解决方案。在此基础上,本文提出了一个针对“安全色聊(safer sexting)”的威胁模型,涵盖了攻击者类型、隐私泄露、未授权传播等风险。根据威胁模型,作者将所有技术辅助方案/功能划分为多个类别,如:裸照检测(检测是否包含裸体内容)、模糊化处理、可撤销发送、到期自动销毁、水印追踪、同意验证、举报机制等。文章指出,没有任何单一方案能应对所有威胁,不同方案在不同维度上提升安全性。本文还总结了现有方案的不足,例如:检测准确性问题、隐私保护与功能可用性的权衡、以及滥用/规避风险。最后,作者提出了未来研究方向的建议,包括更细粒度的威胁模型、跨平台互操作性、用户隐私与安全增强的平衡等。本文适合安全研究人员、隐私工程师、应用开发者以及政策制定者阅读,旨在为构建更安全的在线性表达环境提供技术路线图。

💡 推荐理由: 本文系统梳理了色聊场景下的安全/隐私技术方案,为防御者提供了威胁模型分类和现有方案局限性,有助于设计更稳健的检测与防护机制。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Qingwen Zeng, Zhenghao Zhao, Yitian Yang, Yiqi Zhu, Fangchen Liu, Zhaoge Bi, Moe Thandar Kyaw Wynn, Kim-Kwang Raymond Choo, Huaming Chen

该论文是一篇针对金融科技(Fintech)领域人工智能系统可信赖性的综述研究。作者指出,当前人工智能已深度嵌入金融AI管道的各个环节(训练与更新、部署与推理、操作与监控反馈),然而这些管道在提供自动化与规模化优势的同时,也引入了新的攻击面——微小的算法扰动可能被放大为持续的系统级金融危害。现有综述要么将AI视为防御工具,要么以领域无关的方式分析对抗性机器学习,忽略了金融特有的约束条件(如会计合理性、非独立同分布联邦数据、持续重训练以及自动化放大的下游效应)。 为此,论文提出了一个统一的、以生命周期为中心且机制驱动的分析框架。首先,将金融AI划分为三个生命周期阶段:训练与更新、部署与推理、操作/监控/反馈。然后,提出了“金融AI安全与鲁棒性分类法”(Financial AI Security and Robustness Taxonomy),系统整理了17种攻击子类型,涵盖数据与模型投毒、针对决策边界的对抗攻击、LLM中介工作流中的提示注入、以及深度伪造对KYC验证层的颠覆。针对每种子类型,论文分析了其算法策略、可行性约束、隐蔽性与持久性,以及下游金融后果。 最后,论文识别了当前开放挑战,并规划了面向生命周期感知的压力测试和金融相关鲁棒性基准的研究议程。该工作适合金融安全研究人员、AI安全工程师以及金融监管科技从业者阅读,有助于系统性理解金融AI面临的安全威胁并指导防御设计。

💡 推荐理由: 本文首次从金融特有的约束视角系统梳理AI管道各环节的攻击面,弥补了现有综述领域无关的缺陷,为金融行业AI安全风险评估提供了结构化分类法,有助于蓝队识别和应对定制化威胁。

🎯 建议动作: 研究跟进,纳入内部威胁建模参考。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Zisis Tsiatsikas, Alexandros Fakis, Georgios Karopoulos, Vasileios Kouliaridis, Marios Anagnostopoulos

本文是首篇针对设备端AI推理(on-device AI inference)安全威胁与防御机制的系统综述。随着越来越多的预训练AI模型被部署在移动设备和边缘设备上进行客户端推理,模型窃取/提取、对抗性攻击和数据泄露等风险日益突出。现有防御机制包括可信执行环境(TEE)、同态加密、混淆和差分隐私等,但当前综述多聚焦于边缘智能(含分布式训练),忽略了设备端推理特有的安全与隐私问题。本文系统梳理了针对设备端推理的攻击和防御文献,发现攻击与防御研究极不平衡:约四分之一的攻击论文关注知识产权(IP)攻击,而一半的防御方案针对同一问题;更关键的是,某些攻击类别(如占攻击文献约三分之一的对抗性攻击)尚无对应的防御研究。这一不对称性凸显了未来研究的方向。本文适合安全研究人员、AI系统开发者和边缘计算从业者阅读。

💡 推荐理由: 首次系统梳理了设备端AI推理特有的攻击与防御,揭示了当前防御严重落后于攻击的不对称局面,为后续研究提供了清晰的路线图。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Wenjuan Li, Yitao Liu, Runze Chen, Rajkumar Buyya

该论文系统综述了大语言模型(LLM)微调生命周期中的安全问题。背景:微调是使预训练LLM适应下游任务的核心技术,但其对训练数据、参数更新和可复用组件的依赖为攻击者提供了入口。威胁已从数据中毒、权重篡改进化到智能体操纵和接口利用,而现有综述缺乏覆盖完整微调生命周期的统一框架。目标:本文提出了基于生命周期的框架来比较攻击与防御,并辅以统一的实证评估。方法:根据干预时机将攻击和防御机制分为三个阶段:预调前、调中、调后。在每个阶段内,对策略进行回顾和对比,揭示其演化过程和局限性。然后在统一模型、硬件和协议设置下评估代表性方法,并进行跨阶段实验,将不同阶段的攻击和防御配对。结果:攻击有效性高度依赖模型且随规模非单调变化:对早期模型有效的权重编辑攻击在现代化开源LLM上失去效果;跨语言后门迁移在更大规模时几乎完美,但在测试的1B-4B模型上完全失败;纯粹良性样本也能破坏指令微调模型的安全对齐。单阶段防御很少能跨阶段泛化,防御有效性依赖于模型架构和对齐状态。结论:指出了关键开放问题(配置鲁棒防御、跨阶段防御组合、超越行为假设的嵌入空间攻击)并提出了具体未来研究方向。该论文适合安全研究人员、LLM开发者和风险管理者阅读,以全面了解微调安全威胁与防御全景。

💡 推荐理由: LLM微调安全是AI安全的关键一环,现有综述多聚焦单一阶段。本文首次提出全生命周期框架,并给出跨阶段实证比较,为安全从业者系统性理解威胁演化、设计更鲁棒的防御策略提供了重要参考。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: S. Tazili, A. Mansour, M. Y. Chkouri

本文是一篇关于人工智能(AI)在网络安全领域应用的综述性研究,重点聚焦于入侵检测场景。文章首先指出,AI因其在模式识别、任务自动化以及降低时间与成本方面的能力,已被广泛应用于多个领域。在网络安全中,AI的整合引起了广泛关注,尤其是在入侵检测、恶意软件分析、钓鱼/垃圾邮件检测等方面。随着AI和网络安全技术的共同演进,新的方法和途径不断涌现。当前趋势包括使用生成式AI、自然语言处理(NLP)、用于隐私保护联合训练的联邦学习,以及确保可解释性和信任的可解释AI(XAI),这些在网络安全中至关重要。本文对当前基于AI的网络安全趋势进行了有趣的回顾,特别关注入侵检测方法,旨在通过基于所采用的AI技术和报告的性能进行对比分析,揭示有意义的见解。文章结构上,首先介绍了AI在网络安全中的总体应用,然后详细讨论了入侵检测系统的分类(如基于网络、主机、异常的检测),并分析了不同AI技术(如机器学习、深度学习、强化学习等)在这些系统中的应用效果。文章还比较了现有研究的性能指标(如准确率、召回率、F1分数等),并指出了当前挑战,如数据不平衡、对抗性攻击、模型可解释性不足等。最后,文章展望了未来研究方向,包括将生成式AI用于数据增强、利用联邦学习实现隐私保护、以及开发更可解释的模型以提高信任度。本文适合网络安全研究人员、AI从业者以及对入侵检测系统感兴趣的读者阅读。

💡 推荐理由: 本文系统梳理了AI与网络安全融合的最新趋势,特别是入侵检测领域的技术演进,为安全分析师提供了技术选型和未来方向参考。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
推荐 9.5
Conf: 50%
👥 作者: Harjasleen Malvai, Francesca Falzon, Andrew Zitek-Estrada, Sarah Meiklejohn, Joseph Bonneau

本文对认证字典(Authenticated Dictionaries, AD)——一类支持密钥透明、二进制透明、可验证键值存储及完整性保护文件系统等应用的密码学数据结构——进行了系统化综述。首先,作者提出了一个统一框架,捕获了五种常见部署场景背后的信任和威胁假设。其次,他们梳理并调和了文献中分散的各种安全定义,阐明了每种定义提供的保证及其适用场景。第三,他们开发了AD构造的分类法并分析了渐近成本,揭示了一个尖锐的二分法:每个已知方案要么在查找和更新上均需O(log n)时间,要么通过为另一操作付出O(n)代价在某一操作上实现O(1)时间。令人惊讶的是,即使引入更强的信任假设,这一障碍依然存在,推翻了“更多信任带来更高效率”的直觉。最后,他们提出了应用驱动的研究问题,包括现实的审计模型以及为当前未提供任何可验证完整性的系统引入认证字典的激励措施。该论文适合对密码学数据结构、系统安全以及可验证计算感兴趣的研究者和从业者阅读。

💡 推荐理由: 认证字典是构建可信数据系统(如密钥透明、日志完整性)的核心组件,理解其安全性定义和性能权衡对于设计安全的分布式系统至关重要。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Elisa Bertino, Ramana Kompella, Ashish Kundu, Cristina Nita-Rotaru, Jaideep Vaidya, Attila A. Yavuz

当前大规模量子计算机的发展对现有公钥密码体系构成根本性威胁,而网络安全的基石——公钥基础设施(PKI)在量子时代面临根本性挑战。尽管后量子密码(PQC)原语的标准化工作已取得显著进展,并且TLS、SSH等单个协议的适配也在推进,但针对后量子转型对网络系统整体架构的影响,尤其是密钥分发与管理这一系统级设计问题,学术界关注严重不足。论文首次系统化了抗量子网络架构,提出一个统一的分类学框架,涵盖密码学基础(仅对称密码、后量子PKI、混合模式、信息论多路径)、密钥分发架构(集中式、层次式、复制式、门限、基于MPC、无服务器)、信任与威胁模型、密钥生命周期管理以及部署环境。在此框架下,论文分析了多种架构在现实量子对手假设(包括“先收密,后解密”攻击和部分基础设施被攻陷)下的安全性、可扩展性和操作权衡。研究揭示了现有方法中的根本性差距,明确了何时需要或可以避免后量子PKI,并为构建密码学敏捷、量子弹性的网络基础设施指明了有前景的研究方向。适合对后量子密码转型感兴趣的网络架构师、安全工程师和研究人员阅读。

💡 推荐理由: 该论文首次从系统架构而非单一协议层面系统化分析抗量子网络设计,填补了PQC转型中密钥分发和管理这一关键空白,对指导未来安全基础设施的规划与部署具有重要参考价值。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Javad Forough, Marios Kogias, Hamed Haddadi

本文是一篇关于机密计算(Confidential Computing, CC)如何保障自主AI代理系统安全的综述。随着LLM驱动的代理系统(如基于MCP和A2A协议进行规划、调用工具、维持持久内存以及委托任务的系统)的兴起,其暴露的攻击面显著不同于独立的模型推理。这类代理积累敏感上下文、持有凭证,并在多方不完全控制的流水线上运行,从而面临提示注入、上下文窃取、凭证盗取以及代理间消息投毒等威胁。当前防御完全在软件栈内实现,容易被具有足够特权的攻击者(如被攻陷的云运营商)静默绕过。机密计算提供了一种基于硬件的替代方案:可信执行环境(TEE)将代理代码和数据与特权系统软件隔离,远程证明则能在分布式部署中建立可验证的信任。本综述从四个部分综合设计空间:(i)对六种TEE平台(Intel SGX、Intel TDX、AMD SEV-SNP、ARM TrustZone、ARM CCA和NVIDIA H100 CC)的统一分类,涵盖部署角色和性能权衡;(ii)一个以代理为中心的威胁模型,涵盖感知、规划、记忆、行动和协调层,映射到九个安全目标;(iii)对基于CC的防御的对比调查,区分了从单次调用推理中迁移的发现与需要全新代理设计的发现;(iv)六个开放挑战,包括多跳代理链的复合证明以及LLM规模的GPU-TEE性能。尽管多个硬件信任基元在针对性部署中已足够成熟,但尚未有广泛建立的端到端框架将它们绑定为生产级代理AI的连贯安全基座。本文适合AI安全研究人员、系统架构师和云基础设施开发者阅读。

💡 推荐理由: 自主AI代理将秘密和上下文暴露在分布式不可信环境中,现有软件防御易被绕过。机密计算提供了硬件级隔离和远程证明,有望从根本上保障代理系统的机密性和完整性,是下一代AI安全的关键方向。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zihan Liu, Yizhen Wang, Rui Wang, Xiu Tang, Sai Wu

大型语言模型(LLM)的微调能够使其适应特定应用,但高昂的计算成本使得资源受限的组织难以独立完成。云平台可以提供所需资源,但数据隐私问题使得将敏感信息共享给第三方存在风险。分割学习(Split Learning)作为一种有前景的解决方案,将模型划分为客户端和服务器两部分,通过交换中间数据实现协作且安全的训练,从而使资源受限的参与者能够安全地适配LLM。近年来,涌现了大量研究来推进这一范式,提出了多种模型方法、系统优化以及隐私防御-攻击技术。为了理清该领域的发展脉络,本文首次全面综述了针对LLM微调的分割学习。我们提出了一种统一的细粒度训练流水线来定位关键操作组件,并从三个核心维度:模型级优化、系统级效率和隐私保护,对现有工作进行系统回顾。通过这一结构化分类,我们为推进可扩展、鲁棒且安全的协作式LLM适配奠定了基础。本文适合对LLM微调、隐私保护分布式学习感兴趣的研究人员和工程师阅读。

💡 推荐理由: 分割学习允许资源受限的参与者安全地微调LLM,解决了云上微调的数据隐私痛点,是连接低成本与隐私保护的关键技术。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)