该论文对互联网服务提供商（ISP）和个人用户在保护物联网（IoT）设备安全方面的态度、障碍和激励因素进行了系统性研究。作者来自日本和英国的研究机构，通过问卷调查、访谈或实证数据分析等方法，收集了 ISP 和家庭用户对 IoT 安全责任划分、可实施的安全措施以及经济激励机制的认知与偏好。研究旨在揭示 ISP 在协助家庭用户提升智能设备安全性方面所能发挥的作用，以及个人用户在实际操作中遭遇的技术门槛、成本顾虑、知识缺失等核心障碍。主要贡献包括：（1）提出一个多维分析框架，用于分类 ISP 和个人在 IoT 安全生态中的角色、责任与激励来源；（2）基于实证数据识别出阻碍 IoT 安全实践落地的关键因素，如用户教育不足、设备管理界面复杂、缺乏统一安全标准等；（3）探讨了从政策、市场和服务设计层面改善IoT安全现状的可行建议，包括 ISP 提供安全增强服务、设备制造商优化默认安全配置、以及建立面向用户的安全激励计划。该研究为理解智能家居安全中“人的因素”和“服务商责任”提供了有价值的第一手证据，适合物联网安全产品经理、网络服务提供商的安全策略制定者以及安全行为研究人员阅读参考。

本论文研究客户端扫描（Client-Side Scanning, CSS）技术在安全隐私研究人员和美国普通公众中的态度差异。客户端扫描是一种在用户设备上自动扫描内容（如图片、消息）以检测非法材料（如儿童性虐待材料）的技术，但其对隐私和信任的潜在影响引发争议。研究通过两个调查：一个针对安全隐私研究人员（171名受访者），另一个针对美国人口样本（1000+名受访者），收集他们对CSS不同维度的看法，包括可接受性、隐私权衡、信任影响等。结果显示，研究人员普遍对CSS持谨慎态度，强调隐私风险和滥用可能性；而普通公众则表现出更高的接受度，尤其是当CSS被用于保护弱势群体时。研究还发现，对CSS的支持性受信息呈现方式（如强调隐私保护或公共利益）的影响。主要贡献在于：首次系统比较了专家与公众对CSS的态度，揭示了认知差距；为政策制定者和技术开发者提供了关于CSS社会接受度的实证数据；强调了在设计CSS系统时需平衡安全与隐私。

本文对当前最先进的基于溯源的入侵检测系统（PIDS）进行了全面分析。研究背景是，尽管PIDS在检测复杂攻击方面表现出色，但其方法日益复杂，导致部署和解释困难。核心问题是：现有复杂方法是否真正优于更简单的替代方案？作者选取了多个代表性系统（如StreamSpot、Sleuth、Unicorn等），从检测精度、运行效率、可解释性等方面进行系统比较，并引入了一种简化的基线方法。实验证明，该简化方法在多个数据集上取得了相当甚至更优的性能，且开销显著降低。主要贡献包括：1）首次系统化比较多种PIDS的设计权衡；2）揭示过度复杂化可能带来边际收益递减；3）提出并验证了优先考虑简洁性的设计原则。适合安全研究人员和SOC分析师阅读，以在部署PIDS时做出更务实的决策。

本文是一篇关于控制流完整性（CFI）在实际环境中有效性的系统化知识（SoK）综述。研究背景：CFI 被广泛视为一种重要的防御技术，旨在通过限制程序控制流来遏制控制流劫持攻击。然而，随着攻击技术的演进，尤其是面向返回编程（ROP）和面向跳转编程（JOP）的复杂化，CFI 的实际效果受到质疑。核心问题：现有 CFI 实现在面对现实世界攻击者时，其保护能力究竟如何？是否存在普遍性的局限性？方法：作者系统回顾了近年来 CFI 相关的学术文献、实际部署案例以及已知绕过技术，构建了一个分类框架来评估不同 CFI 策略（如粗粒度、细粒度、运行时 CFI）的强度与弱点。主要贡献：1）总结了 CFI 的常见攻击面，包括间接跳转/调用的覆盖不全、状态图不完备、性能支出与安全的权衡等；2）揭示了细粒度 CFI 虽增强了安全性，但仍可能被特定攻击模式（如后向边利用、运行时信息泄露）绕过；3）指出实际部署中的 CFI 方案往往因兼容性需求而降低保证级别；4）提出了未来 CFI 研究应关注动态完整性检查、基于硬件的辅助以及与程序语言级安全的结合。本文适合安全研究人员、系统软件开发者及防御技术评估者阅读，帮助理解 CFI 的现状与局限。

该论文是一篇系统化综述（SoK），系统回顾和分析了从网络威胁情报（CTI）报告（如安全厂商的APT报告、漏洞描述等）中自动提取TTP（战术、技术和程序）的相关研究。作者构建了统一的评估框架，将现有方法按照输入形式、技术方法、输出粒度等维度进行分类，并评估了各方法在准确性、可扩展性、可解释性等方面的表现。论文还识别了当前领域的主要挑战：不同CTI报告表述不一致、缺乏标注数据、语义鸿沟、以及评估基准不统一。最后，论文提出了未来研究方向，包括引入多模态数据（如结构化威胁指标）、利用大语言模型提升语义理解、以及构建标准化评估基准。该研究为安全社区提供了全面的技术路线图，帮助研究者了解自动化TTP提取的现状和瓶颈。

本文是一篇关于大语言模型（LLM）水印技术的系统性综述，从理论和部署两个维度对现有研究进行了全面梳理。随着LLM在多个高影响力场景中的广泛应用，其生成的流畅文本带来了来源模糊、模型滥用和大规模内容洗稿等风险。LLM水印通过向模型输出中嵌入不可见签名，为内容溯源、审计和下游信任决策提供了技术基础。然而，现有文献增长迅速但混乱，不同分类方式常混合正交设计选择，使得方法难以比较、保证难以推理、研究成果难以转化为可部署系统。本文从实践者必须回答的核心问题出发组织内容：水印在何处嵌入（生成时 vs. 训练时，token级 vs. 表征级）、谁可以检测（公开 vs. 私有检测权威）、假设条件（logit访问、采样控制、密钥、模型所有权）以及针对哪些威胁模型（改写、翻译、摘要、风格迁移、token操纵、自适应移除）。综述了主要技术家族——包括采样偏置、编码方案、基于表征和训练的方法——并从可检测性、鲁棒性和分布偏移角度分析了其安全-效用权衡。进一步回顾了攻击和规避策略、评估协议与指标（假阳性控制、校准、鲁棒性曲线），以及跨模型迁移、多模态管线、合谋和治理约束等开放挑战。最后，提供了在实际运维需求下选择水印设计的实用指南，指出了可靠且负责任的LLM部署所需的研究方向。

该研究通过大规模问卷调查（N=4100）和定性访谈（N=12），评估了美国成年人面对AI驱动的语音钓鱼攻击的脆弱性。研究人员利用先进的语音模型（包括Llama Full Duplex、Sesame、Gemini、OAI AVM、Play.AI和ElevenLabs）生成了五种典型钓鱼场景的音频或文字记录（如亲人求救、银行诈骗等），并与人类诈骗者的基线表现进行对比。结果显示，在“亲人困境”类别中，高达36%的参与者表示可能或肯定会遵从诈骗要求；总体遵从率为16.5%。通话说服力是预测遵从的最强因子，其中Sesame模型的表现甚至略超人类。经济分析表明，尽管人工语音钓鱼在美国薪资水平下无利可图，但AI驱动的语音钓鱼对多种模型已具备经济可行性。论文指出，当前AI语音钓鱼的主要风险源于自动化的经济学优势，而非全新或超人的说服技巧，但对未来的系统不能排除这种可能性。该研究为AI系统设计、消费者保护和模型发布政策提出了重要警示。

该论文是一篇关于大语言模型（LLMs）和生成式AI（GenAI）在网络安全与隐私领域中双用途风险的综述。研究背景指出，到2025年LLM生成的恶意软件已占检测威胁的50%，而2021年仅占2%，表明AI驱动的攻击自动化正在飞速发展。论文通过回顾70多篇学术论文、行业报告和技术文档，并结合来自Google Play Protect、Microsoft Defender、AWS、Apple App Store、OpenAI Plugin Stores、Hugging Face Spaces、GitHub等平台的实际案例，系统梳理了LLM在网络安全中的正面应用（如零日检测、DevSecOps、联邦学习、合成内容分析、可解释AI）和恶意应用（如网络钓鱼、漏洞利用、恶意代码生成）。该综述还分析了SAFE框架等新兴举措及AI驱动的异常检测。最终，论文提出了负责任部署LLM的建议，包括模型水印、对抗性防御、跨行业合作等，旨在为AI驱动的网络安全研究设定新基准。核心贡献在于全面勾勒了LLM双用途风险的当前图景，并为研究人员、工程师和安全领导者提供应对AI驱动安全挑战的路线图。适合网络安全研究员、AI从业者、SOC分析师及安全策略制定者阅读。

该论文是针对反人脸识别（AFR）技术的首篇系统化知识综述（SoK）。近年来，人脸识别（FR）技术在政府和商业领域的快速普及引发了公众对公民自由和隐私的担忧。为此，学术界和工业界提出了多种所谓的“反人脸识别”工具，旨在帮助用户避免非授权的人脸识别。然而，这些工具种类繁多、演进迅速，缺乏统一的分类和分析框架。本文基于FR系统的操作阶段（如采集、特征提取、匹配等）构建了一个系统化的分析框架，用于评估不同AFR方法的优缺点和权衡。研究涵盖了从图像扰动、对抗性伪装到匿名化等多种技术路线，并探讨了社会和技术层面的挑战，如易用性、对抗鲁棒性以及和现有隐私法规的兼容性。主要贡献包括：首次全面梳理AFR研究全景；提出一个可扩展的分类体系；识别出长期存在的开放问题（例如针对自适应攻击的防御、跨场景泛化能力）。该工作适合对人脸识别隐私保护感兴趣的研究人员、政策制定者以及安全从业者阅读。

该论文是一篇关于将代理式人工智能（Agentic AI）和生成式人工智能（Generative AI）应用于开源情报（OSINT）和网络调查的综合性综述。随着公开数字信息的爆炸式增长，传统的人工OSINT分析已无法满足现代情报和网络安全的需求。大型语言模型（LLM）和具备工具使用、多步推理及迭代情报生成能力的代理式AI系统成为有前景的解决方案，但现有的评估框架未能跟上其能力的发展。论文系统性地回顾了74项研究，做出了四项主要贡献：第一，将代理式AI确立为独立于LLM提示扩展的分析类别，并通过包含11个类别的分类法组织文献，涵盖LLM基础、代理架构、检索增强生成（RAG）、知识图谱、提示工程、领域适应、评估基准和风险等。第二，识别出“幻觉-验证差距”作为语料层面的发现：尽管超过20项研究将幻觉视为主要可靠性问题，但仅有一项OSINT专用RAG系统在不可复现条件下进行了端到端幻觉的实证测量，而相关的推理和事实校正研究评估的是通用领域问答而非OSINT。第三，将现有研究映射到OSINT生命周期，发现对收集和分析阶段的支持较强，但对验证、报告、分发和决策支持阶段的覆盖有限。第四，推导出包含十个要点研究议程，涉及评估、基准测试、幻觉测量、对抗鲁棒性、暗网覆盖、多模态智能和治理。论文得出结论：人机共驾模式（LLM辅助收集和分类，分析师负责验证和决策）是最可行的近期部署架构。适合安全分析师、OSINT从业者及AI安全研究者阅读。

本文是一篇系统化知识综述（SoK），旨在全面梳理自动化漏洞修复（Automated Vulnerability Repair, AVR）领域的研究进展。作者通过系统性文献回顾，收集并分析了近年来发表的AVR相关论文，将现有方法划分为基于规则、基于检索、基于模板和基于机器学习等主要类别。针对每一类别，论文详细讨论了其核心原理、典型代表系统（如GenProg、ACS、DeepRepair、SequenceR等）以及各自的优缺点，重点关注修复正确性、泛化能力、可解释性和性能开销。在评估方面，论文分析了常用基准数据集（如Defects4J、BugAID、ManyBugs等）的特性与局限性，指出当前评估协议存在不一致性问题（如缺陷选择偏差、修复标准差异），导致不同方法之间难以公平比较。此外，论文还探讨了AVR在实际应用中面临的挑战，包括程序语义理解、修复补丁的正确性验证、跨语言和跨项目迁移能力、以及对于复杂逻辑漏洞的修复能力。最后，作者提出了未来研究方向的建议，包括：利用大语言模型（LLM）增强代码理解与生成、结合形式化验证确保补丁正确性、构建统一评估平台，以及将AVR集成到DevOps流水线中实现持续安全。该综述为安全研究人员和工程实践者提供了清晰的现状概览和发展脉络，有助于指导后续研究与工具选型。

这篇综述系统地梳理了身份证件伪造攻击与检测方法的最新进展。随着生成式AI工具的普及，伪造能力发生了根本性转变：非专业人员也能借助AI生成高逼真度的证件或对现有证件进行字段级篡改，而现有的检测基准尚未跟上这一威胁。论文首次将物理呈现攻击（如印刷品翻拍）、数字注入攻击（如向数字验证流程插入伪造图像）和完全由生成式AI驱动的合成攻击统一在一个身份证件验证威胁模型下，揭示了不同攻击类型特有的取证失效模式。检测方法方面，论文从规则启发式方法、取证定位、注入感知流水线，一直追踪到大模型和少样本框架。通过对2019-2025年间公开数据集的系统审计，作者发现基准测试与真实部署之间存在持续的“现实差距”。此外，论文分析了大型多模态模型在证件篡改中的表现，识别出“脚本相关生成不稳定性”（SDGI）——一种非拉丁字母文本修补中反复出现的排版失败模式。最后，在未见过的合成身份证上的零样本基准测试显示，即使最强的公开模型在安全导向的操作条件下APCER值仍超过25%，暴露出跨域泛化的重大局限。论文最后指出了未来方向：构建基于取证、保护隐私并具有法律问责性的身份验证系统。

该论文是一篇关于生成式人工智能（Generative AI）和联邦学习（Federated Learning）在入侵检测系统（IDS）中应用的综述。入侵检测系统是现代网络环境（如网络物理系统、物联网、企业网络和分布式网络）中监控流量、识别恶意行为的关键组件。然而，开发可靠的IDS模型面临诸多挑战：攻击行为不断演化、真实数据集难以获取、流量记录可能不完整、攻击类别不平衡、以及隐私限制导致数据无法集中收集。近年来，生成式AI（包括自编码器、生成对抗网络（GAN）、扩散模型和大语言模型（LLM））和联邦学习的进步为克服这些局限提供了新机遇。生成模型可用于异常检测、合成流量生成、数据增强、数据补齐、对抗流量生成以及IDS告警解释。联邦学习则能在不直接共享本地网络流量的情况下进行分布式IDS训练，特别适用于隐私敏感和地理分散的环境。本文首先总结了IDS研究的代表性方向，包括对抗机器学习、基于异常的检测、面向物联网的IDS、可解释IDS及基准数据集。然后，根据模型家族和任务目标对生成式AI在IDS中的应用进行了分类。最后，综述了将生成式AI与基于联邦学习的IDS相结合的新兴研究，并讨论了开放挑战，如合成数据质量、真实流量生成、双重用途对抗风险、非独立同分布客户端分布、通信高效模型共享、联邦IDS基准测试以及面向网络安全的领域特定大语言模型。该综述为网络安全研究人员和工程师提供了前沿技术的系统化梳理，有助于理解当前生成式AI和联邦学习在IDS领域的应用现状与未来方向。

第六代（6G）通信网络预计将演变为AI原生、高度自治的生态系统，融合通信、计算、感知和人工智能。尽管这些能力能实现前所未有的连接和智能服务，但它们也创造了高度异构的安全和隐私格局，无法通过孤立的、特定技术的解决方案来解决。本文对AI原生6G网络中的安全和隐私问题进行了全面的跨层综述。首先，本文审视了现有安全和隐私方法在新兴技术、网络架构、AI系统和标准化工作中的碎片化现状，从而论证了对统一安全和隐私框架的需求。基于该框架，本文开发了一个跨层威胁分类法，涵盖基础设施、网络与架构、AI、隐私以及安全管理等领域，并分析了关键AI原生6G技术中的代表性威胁。此外，本文将威胁映射到相应的跨层对策，包括将标准协调作为一种安全功能，并识别了关键研究差距和未来优先事项，以实现安全、可互操作和可信的AI原生6G生态系统。最后，本文讨论了实现安全、隐私保护、弹性和全球互操作的6G网络的未来研究方向。该综述为研究人员、从业人员和标准化社区提供了设计、评估和部署可信AI原生6G系统的整体基础。

本研究针对众包平台（如Prolific和Mechanical Turk）上调查问卷参与者越来越多使用大型语言模型（LLM）辅助回答的现象，旨在量化这种行为的普遍性并探索检测与缓解方法。研究团队开展了一系列调查（样本量N=250），系统评估了平台选择、调查长度、明确要求不使用AI、以及禁用复制粘贴功能等条件对LLM使用频率的影响。通过分析回答的文本特征（如语言风格、一致性、错误模式等），研究人员成功识别出LLM辅助回答的独特特征，并发现其使用频率在不同平台间差异显著：在Prolific上低于10%，而在Mechanical Turk上超过80%。缓解措施（如禁用复制粘贴、加入不适用AI的请求）虽降低了LLM的使用率，但并未显著提高数据质量，暗示部分真实回答也被错误过滤。此外，研究期间未观察到参与者使用浏览器自动化代理（browser-use agents）的现象，但作者分享了基于按键记录和回答模式分析的检测实验。最终建议研究人员在数据收集阶段主动记录和分析按键数据，并设计针对AI的指令和问题，以更有效地筛选出LLM生成的回答。该研究首次系统量化了众包调查中LLM使用的规模与检测有效性，为人机交互和计算社会科学领域提供了重要参考。

本文是一篇关于大语言模型（LLM）智能体安全双重性的全面综述，聚焦于两个核心领域：（1）LLM智能体自身面临的安全威胁及缓解策略（智能体自我安全），（2）LLM智能体在赋能网络安全生命周期中的作用（智能体赋能网络安全）。首先，论文系统梳理了智能体的内部和外部攻击面，提出了按威胁源分类的分类法，并分析了相应的缓解措施和评估框架。然后，研究了智能体能力在网络安全实践中的应用，首次提出了与完整网络攻防生命周期对齐的智能体赋能框架。论文强调了LLM智能体自我安全与赋能网络安全之间的正反馈协同效应，为两者的共同进步提供了新见解。最后，指出了当前局限性并展望了未来研究方向。本文适合安全研究人员、AI安全从业者以及关注LLM可靠性的人员阅读。

大型语言模型（LLM）智能体越来越多地用于查询数据库、检索文档集合、调用外部API、记忆过往交互并代表用户执行操作。随着其应用从简单的问答扩展到处理敏感数据，隐私保护变得更加困难。智能体涉及多个数据源、运行多步工作流、跨会话保持状态，并拥有委托权限。因此，敏感信息不仅可能通过最终答案泄露，还可能通过其发出的查询、处理的中间结果、写入的记忆以及与其他智能体交换的消息泄露。本文从数据为中心的角度对LLM智能体的隐私问题进行综述，围绕智能体接触的数据组织研究领域，而非按攻击类型分类，并使用“数据智能体”作为处理数据的LLM智能体的简称。关于这些风险的研究很活跃但分散在检索增强生成、文本到SQL接口、智能体记忆、提示注入、访问控制和上下文隐私等领域。该综述将这些工作整合在一起：对智能体接触的数据源、每个数据源产生的隐私风险以及应对这些风险的治理机制进行了分类；绘制了用于衡量这些风险的基准图并指出了缺失之处；提出了开放问题。两个发现反复出现：在治理机制中，只有信息流控制同时覆盖了组合性推理泄漏和跨会话推理泄漏，这是两个保护最不充分的风险；并且没有基准能在单一隐私策略下驱动智能体跨越其数据表面，这是该领域最缺乏的工具。目标是提供一个可定位分散文献的参考，并为未来工作提供统一的框架。

本文是一项针对德国公民的调查研究，旨在了解公众对客户端扫描（Client-Side Scanning, CSS）技术用于打击网络犯罪的态度。近年来，苹果公司于2021年宣布计划部署CSS，欧盟也于2022年提出相关立法，引发了关于隐私与安全平衡的激烈争论。研究团队对具有代表性的德国样本进行了问卷调查，比较了CSS与基于云的扫描在针对不同犯罪类型（如儿童性虐待材料、恐怖主义、贩毒、吸毒和逃税）时的接受度，并分析了受访者对政府及大型科技公司（如谷歌、苹果）的信任程度对其观点的影响。结果显示，大多数参与者愿意接受CSS用于打击儿童虐待和恐怖主义等严重犯罪，但对其他非法活动的支持度显著下降。然而，即使支持CSS的参与者中，也有多数人担忧该技术的潜在滥用，仅有20%表示不担心。研究者认为，这并非为CSS的全面引入开绿灯，而是提醒安全与隐私社区需要更多研究，以在满足公众打击严重网络犯罪愿望的同时，有效降低对隐私和社会的风险。

本文是一篇系统化知识（SoK）论文，旨在系统梳理全球互联网隐私法规的技术实现与人类影响。研究背景是：随着个人数据被滥用的风险日益凸显，各国陆续出台多项隐私保护法规，其中欧盟的《通用数据保护条例》（GDPR）和加州《消费者隐私法案》（CCPA）受到计算机科学界的广泛研究，而其他许多法规则关注不足。为填补这一空白，作者分析了来自全球的24部隐私法与数据保护法规，涵盖已获大量研究的和相对冷门的法律，并构建了一套关于法律赋予权利和施加义务的分类法。基于该分类法，作者系统化整理了计算机科学领域270篇技术研究论文，这些论文探讨了上述法规的影响以及技术方案如何补充法律保护。最后，作者通过跨学科视角分析研究现状，并提出了计算机科学与法律隐私交叉领域的未来工作建议。本文的核心贡献在于：1）建立了全面的隐私法规权利-义务分类体系；2）系统化梳理了大量相关技术文献，揭示了研究趋势与空白；3）为技术从业者和法律研究者提供了跨学科合作的方向。适合安全工程师、隐私合规人员、政策研究者以及关注隐私技术的计算机科学家阅读。

联邦学习（FL）是一种分布式机器学习范式，允许多个客户端在不共享原始数据的情况下协同训练共享模型，从而解决数据孤岛和隐私问题。然而，数据本身也是FL系统面临的主要挑战和脆弱性来源，直接影响训练的稳定性和收敛速度。现有综述通常从整体架构、安全攻击或应用场景入手，缺乏从数据视角的系统性分析。本文填补了这一空白，从数据异构性、数据划分协议和数据相关的安全防御三个方面，首次全面梳理了数据因素对FL收敛的影响。具体地，作者首先将非独立同分布（non-IID）数据分解为可测量的特征（如标签分布偏移、特征偏移、数量偏移等），并根据其对收敛的影响强度分为强、中、弱三个等级，解释了每种偏移影响收敛的机制，并统一了图像、文本和图数据上的实验证据。其次，作者将实验中常用的数据划分方式（如按标签划分、按狄利克雷分布划分）与真实场景中的现象对应，指出了这些划分方式引入的人为偏差（artifact）及其对目标精度的扭曲效应，帮助研究者更合理地设计实验。最后，作者分析了数据相关的安全漏洞（如投毒攻击、成员推断攻击）及其防御机制（如差分隐私、鲁棒聚合）对收敛速度和稳定性的影响，在干净和对抗条件下报告了性能表现，揭示了收敛与鲁棒性之间的权衡。作为首篇全面理解FL中数据挑战的综述，本文为从业者提供了可操作的设计指南，帮助他们构建具有可预测收敛性和稳定性的FL系统。

本文是一篇系统化知识综述（SoK），针对移动应用中用户自拍裸照（self-generated nudes）分享行为的安全、隐私与问责问题展开研究。作者首先通过系统文献综述，从10,026篇搜索结果及交叉引用中筛选出相关学术论文，同时调查了主流操作系统功能及52款约会、社交、即时通讯应用中的实际解决方案。在此基础上，本文提出了一个针对“安全色聊（safer sexting）”的威胁模型，涵盖了攻击者类型、隐私泄露、未授权传播等风险。根据威胁模型，作者将所有技术辅助方案/功能划分为多个类别，如：裸照检测（检测是否包含裸体内容）、模糊化处理、可撤销发送、到期自动销毁、水印追踪、同意验证、举报机制等。文章指出，没有任何单一方案能应对所有威胁，不同方案在不同维度上提升安全性。本文还总结了现有方案的不足，例如：检测准确性问题、隐私保护与功能可用性的权衡、以及滥用/规避风险。最后，作者提出了未来研究方向的建议，包括更细粒度的威胁模型、跨平台互操作性、用户隐私与安全增强的平衡等。本文适合安全研究人员、隐私工程师、应用开发者以及政策制定者阅读，旨在为构建更安全的在线性表达环境提供技术路线图。

该论文是一篇针对金融科技（Fintech）领域人工智能系统可信赖性的综述研究。作者指出，当前人工智能已深度嵌入金融AI管道的各个环节（训练与更新、部署与推理、操作与监控反馈），然而这些管道在提供自动化与规模化优势的同时，也引入了新的攻击面——微小的算法扰动可能被放大为持续的系统级金融危害。现有综述要么将AI视为防御工具，要么以领域无关的方式分析对抗性机器学习，忽略了金融特有的约束条件（如会计合理性、非独立同分布联邦数据、持续重训练以及自动化放大的下游效应）。 为此，论文提出了一个统一的、以生命周期为中心且机制驱动的分析框架。首先，将金融AI划分为三个生命周期阶段：训练与更新、部署与推理、操作/监控/反馈。然后，提出了“金融AI安全与鲁棒性分类法”（Financial AI Security and Robustness Taxonomy），系统整理了17种攻击子类型，涵盖数据与模型投毒、针对决策边界的对抗攻击、LLM中介工作流中的提示注入、以及深度伪造对KYC验证层的颠覆。针对每种子类型，论文分析了其算法策略、可行性约束、隐蔽性与持久性，以及下游金融后果。 最后，论文识别了当前开放挑战，并规划了面向生命周期感知的压力测试和金融相关鲁棒性基准的研究议程。该工作适合金融安全研究人员、AI安全工程师以及金融监管科技从业者阅读，有助于系统性理解金融AI面临的安全威胁并指导防御设计。

本文是首篇针对设备端AI推理（on-device AI inference）安全威胁与防御机制的系统综述。随着越来越多的预训练AI模型被部署在移动设备和边缘设备上进行客户端推理，模型窃取/提取、对抗性攻击和数据泄露等风险日益突出。现有防御机制包括可信执行环境（TEE）、同态加密、混淆和差分隐私等，但当前综述多聚焦于边缘智能（含分布式训练），忽略了设备端推理特有的安全与隐私问题。本文系统梳理了针对设备端推理的攻击和防御文献，发现攻击与防御研究极不平衡：约四分之一的攻击论文关注知识产权（IP）攻击，而一半的防御方案针对同一问题；更关键的是，某些攻击类别（如占攻击文献约三分之一的对抗性攻击）尚无对应的防御研究。这一不对称性凸显了未来研究的方向。本文适合安全研究人员、AI系统开发者和边缘计算从业者阅读。

该论文系统综述了大语言模型（LLM）微调生命周期中的安全问题。背景：微调是使预训练LLM适应下游任务的核心技术，但其对训练数据、参数更新和可复用组件的依赖为攻击者提供了入口。威胁已从数据中毒、权重篡改进化到智能体操纵和接口利用，而现有综述缺乏覆盖完整微调生命周期的统一框架。目标：本文提出了基于生命周期的框架来比较攻击与防御，并辅以统一的实证评估。方法：根据干预时机将攻击和防御机制分为三个阶段：预调前、调中、调后。在每个阶段内，对策略进行回顾和对比，揭示其演化过程和局限性。然后在统一模型、硬件和协议设置下评估代表性方法，并进行跨阶段实验，将不同阶段的攻击和防御配对。结果：攻击有效性高度依赖模型且随规模非单调变化：对早期模型有效的权重编辑攻击在现代化开源LLM上失去效果；跨语言后门迁移在更大规模时几乎完美，但在测试的1B-4B模型上完全失败；纯粹良性样本也能破坏指令微调模型的安全对齐。单阶段防御很少能跨阶段泛化，防御有效性依赖于模型架构和对齐状态。结论：指出了关键开放问题（配置鲁棒防御、跨阶段防御组合、超越行为假设的嵌入空间攻击）并提出了具体未来研究方向。该论文适合安全研究人员、LLM开发者和风险管理者阅读，以全面了解微调安全威胁与防御全景。

本文是一篇关于人工智能（AI）在网络安全领域应用的综述性研究，重点聚焦于入侵检测场景。文章首先指出，AI因其在模式识别、任务自动化以及降低时间与成本方面的能力，已被广泛应用于多个领域。在网络安全中，AI的整合引起了广泛关注，尤其是在入侵检测、恶意软件分析、钓鱼/垃圾邮件检测等方面。随着AI和网络安全技术的共同演进，新的方法和途径不断涌现。当前趋势包括使用生成式AI、自然语言处理（NLP）、用于隐私保护联合训练的联邦学习，以及确保可解释性和信任的可解释AI（XAI），这些在网络安全中至关重要。本文对当前基于AI的网络安全趋势进行了有趣的回顾，特别关注入侵检测方法，旨在通过基于所采用的AI技术和报告的性能进行对比分析，揭示有意义的见解。文章结构上，首先介绍了AI在网络安全中的总体应用，然后详细讨论了入侵检测系统的分类（如基于网络、主机、异常的检测），并分析了不同AI技术（如机器学习、深度学习、强化学习等）在这些系统中的应用效果。文章还比较了现有研究的性能指标（如准确率、召回率、F1分数等），并指出了当前挑战，如数据不平衡、对抗性攻击、模型可解释性不足等。最后，文章展望了未来研究方向，包括将生成式AI用于数据增强、利用联邦学习实现隐私保护、以及开发更可解释的模型以提高信任度。本文适合网络安全研究人员、AI从业者以及对入侵检测系统感兴趣的读者阅读。

本文对认证字典（Authenticated Dictionaries, AD）——一类支持密钥透明、二进制透明、可验证键值存储及完整性保护文件系统等应用的密码学数据结构——进行了系统化综述。首先，作者提出了一个统一框架，捕获了五种常见部署场景背后的信任和威胁假设。其次，他们梳理并调和了文献中分散的各种安全定义，阐明了每种定义提供的保证及其适用场景。第三，他们开发了AD构造的分类法并分析了渐近成本，揭示了一个尖锐的二分法：每个已知方案要么在查找和更新上均需O(log n)时间，要么通过为另一操作付出O(n)代价在某一操作上实现O(1)时间。令人惊讶的是，即使引入更强的信任假设，这一障碍依然存在，推翻了“更多信任带来更高效率”的直觉。最后，他们提出了应用驱动的研究问题，包括现实的审计模型以及为当前未提供任何可验证完整性的系统引入认证字典的激励措施。该论文适合对密码学数据结构、系统安全以及可验证计算感兴趣的研究者和从业者阅读。

当前大规模量子计算机的发展对现有公钥密码体系构成根本性威胁，而网络安全的基石——公钥基础设施（PKI）在量子时代面临根本性挑战。尽管后量子密码（PQC）原语的标准化工作已取得显著进展，并且TLS、SSH等单个协议的适配也在推进，但针对后量子转型对网络系统整体架构的影响，尤其是密钥分发与管理这一系统级设计问题，学术界关注严重不足。论文首次系统化了抗量子网络架构，提出一个统一的分类学框架，涵盖密码学基础（仅对称密码、后量子PKI、混合模式、信息论多路径）、密钥分发架构（集中式、层次式、复制式、门限、基于MPC、无服务器）、信任与威胁模型、密钥生命周期管理以及部署环境。在此框架下，论文分析了多种架构在现实量子对手假设（包括“先收密，后解密”攻击和部分基础设施被攻陷）下的安全性、可扩展性和操作权衡。研究揭示了现有方法中的根本性差距，明确了何时需要或可以避免后量子PKI，并为构建密码学敏捷、量子弹性的网络基础设施指明了有前景的研究方向。适合对后量子密码转型感兴趣的网络架构师、安全工程师和研究人员阅读。

本文是一篇关于机密计算（Confidential Computing, CC）如何保障自主AI代理系统安全的综述。随着LLM驱动的代理系统（如基于MCP和A2A协议进行规划、调用工具、维持持久内存以及委托任务的系统）的兴起，其暴露的攻击面显著不同于独立的模型推理。这类代理积累敏感上下文、持有凭证，并在多方不完全控制的流水线上运行，从而面临提示注入、上下文窃取、凭证盗取以及代理间消息投毒等威胁。当前防御完全在软件栈内实现，容易被具有足够特权的攻击者（如被攻陷的云运营商）静默绕过。机密计算提供了一种基于硬件的替代方案：可信执行环境（TEE）将代理代码和数据与特权系统软件隔离，远程证明则能在分布式部署中建立可验证的信任。本综述从四个部分综合设计空间：（i）对六种TEE平台（Intel SGX、Intel TDX、AMD SEV-SNP、ARM TrustZone、ARM CCA和NVIDIA H100 CC）的统一分类，涵盖部署角色和性能权衡；（ii）一个以代理为中心的威胁模型，涵盖感知、规划、记忆、行动和协调层，映射到九个安全目标；（iii）对基于CC的防御的对比调查，区分了从单次调用推理中迁移的发现与需要全新代理设计的发现；（iv）六个开放挑战，包括多跳代理链的复合证明以及LLM规模的GPU-TEE性能。尽管多个硬件信任基元在针对性部署中已足够成熟，但尚未有广泛建立的端到端框架将它们绑定为生产级代理AI的连贯安全基座。本文适合AI安全研究人员、系统架构师和云基础设施开发者阅读。

大型语言模型（LLM）的微调能够使其适应特定应用，但高昂的计算成本使得资源受限的组织难以独立完成。云平台可以提供所需资源，但数据隐私问题使得将敏感信息共享给第三方存在风险。分割学习（Split Learning）作为一种有前景的解决方案，将模型划分为客户端和服务器两部分，通过交换中间数据实现协作且安全的训练，从而使资源受限的参与者能够安全地适配LLM。近年来，涌现了大量研究来推进这一范式，提出了多种模型方法、系统优化以及隐私防御-攻击技术。为了理清该领域的发展脉络，本文首次全面综述了针对LLM微调的分割学习。我们提出了一种统一的细粒度训练流水线来定位关键操作组件，并从三个核心维度：模型级优化、系统级效率和隐私保护，对现有工作进行系统回顾。通过这一结构化分类，我们为推进可扩展、鲁棒且安全的协作式LLM适配奠定了基础。本文适合对LLM微调、隐私保护分布式学习感兴趣的研究人员和工程师阅读。