SoK: A Systematic Bidirectional Literature Review of AI & DLT Convergence
本文是一篇系统性的双向文献综述（SoK），旨在梳理人工智能（AI）与分布式账本技术（DLT）融合的研究现状。现有研究往往聚焦于特定应用领域或仅考察单向集成，缺乏对两者架构层面互动的全面理解。作者对2020至2025年间发表的同行评审研究进行
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题DP-LAC: Lightweight Adaptive Clipping for Differentially Private Federated Fine-tuning of Language Models
本文提出一种名为 DP-LAC 的轻量级自适应裁剪方法，用于解决联邦学习（FL）中差分隐私（DP）随机梯度下降（DP-SGD）的裁剪阈值自调整问题。在联邦微调大规模语言模型（LLM）时，DP-SGD 通过裁剪每个客户端贡献的梯度范数至阈值
Knowledge Poisoning Attacks on Medical Multi-Modal Retrieval-Augmented Generation
本文研究了多模态检索增强生成（RAG）系统在医疗应用中的安全性，重点关注知识投毒攻击。现有攻击大多假设攻击者掌握用户查询的先验知识，这在真实场景中难以实现。为此，作者提出了M³Att攻击框架，仅需了解数据库的有限分布知识。核心思路是：向文本
When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications
该论文针对大型语言模型（LLM）驱动的应用中自然语言接口带来的SQL注入风险，提出了一种多层级安全框架。随着LLM被广泛用于将用户自然语言查询自动转换为SQL语句（Prompt-to-SQL），传统的SQL注入攻击方式得以进化：攻击者可以构
Benchmarking Safety Risks of Knowledge-Intensive Reasoning under Malicious Knowledge Editing
大型语言模型（LLM）越来越依赖知识编辑来支持知识密集型推理，但这种灵活性也引入了关键的安全风险：攻击者可以注入恶意或误导性知识，破坏下游推理并导致有害结果。现有的知识编辑基准主要关注编辑效果，缺乏一个统一的框架来系统评估编辑知识对推理行为
Nautilus Compass: Black-box Persona Drift Detection for Production LLM Agents
本文提出Nautilus Compass，一个面向生产环境LLM coding agent的黑盒人格漂移检测与记忆层系统。研究背景：LLM agent在长时间会话中会出现人格漂移，例如遗忘用户指定的约束、重复已被用户指出的错误、虚构先前的协
Oracle Poisoning: Corrupting Knowledge Graphs to Weaponise AI Agent Reasoning
本文定义了一种名为“Oracle Poisoning”的新攻击类别，攻击者通过破坏AI代理在运行时通过工具使用协议查询的结构化知识图谱，导致代理在正确推理的前提下得出错误结论。与提示注入不同，Oracle Poisoning操纵的是代理推理
Security Risks in Tool-Enabled AI Agents: A Systematic Analysis of Privileged Execution Environments
该论文系统分析了支持工具的AI代理在云托管环境中面临的安全风险。随着AI代理被部署为服务，它们通常通过特权执行环境中的工具执行副作用操作，实现强大的自动化能力。然而，这种特权环境也引入了新的攻击面。作者首先构建了风险分类学，将风险归纳为特权
MonitoringBench: Semi-Automated Red-Teaming for Agent Monitoring
本文提出了一种针对编码代理（coding agent）监控器的红队测试方法，旨在揭示现有评估中难以捕获的攻击类型，并指出当前实践可能低估攻击能力并高估监控器性能。作者识别了当前红队测试的三个挑战：攻击生成中的模式坍缩（通过新颖的攻击分类法扩
Patch2Vuln: Agentic Reconstruction of Vulnerabilities from Linux Distribution Binary Patches
该论文提出 Patch2Vuln，一个利用语言模型代理从 Linux 发行版二进制补丁中重建漏洞信息的研究框架。安全更新发布后，防御者和攻击者均有机会对比漏洞版本和修复版本的软件，但实际运维中往往只有二进制包可用，缺乏源码补丁或公告文本。P
On the Security of Research Artifacts
该论文系统性地研究了安全领域研究人工制品（research artifacts）的安全性。研究人工制品通常用于支持实验可复现性，并被广泛共享，但现有的artifact evaluation（AE）主要关注功能正确性和可复现性，忽略了潜在的安
PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization
本文提出 PACZero，一种基于 PAC（Probably Approximately Correct）隐私的零阶（Zeroth-Order）微调框架，旨在解决大语言模型（LLM）在强隐私保护下的可用性问题。核心思想是利用符号量化（Sig
Fine-Tuning Small Language Models for Solution-Oriented Windows Event Log Analysis
本文研究使用小型语言模型（SLM）进行面向解决方案的Windows事件日志分析。大型语言模型（LLM）在事件日志分析中展现出潜力，但高计算需求、对云基础设施的依赖以及安全顾虑限制了实际部署。此外，现有方法大多仅关注问题识别，未能提供可操作的
Safety Anchor: Defending Harmful Fine-tuning via Geometric Bottlenecks
本文聚焦于大型语言模型（LLM）安全对齐在面对有害微调（Harmful Fine-tuning, HFT）攻击时的脆弱性问题。研究表明，现有的防御方法（如对参数、梯度或内部表示施加约束）在持续性HFT攻击下容易被绕过，其根本原因在于高维参数
PragLocker: Protecting Agent Intellectual Property in Untrusted Deployments via Non-Portable Prompts
LLM agents 依赖提示（prompts）在基础大模型上实现特定任务能力，使得这些提示成为有价值的 intellectual property。但在不可信部署环境下，攻击者可以复制这些提示并在其他专有 LLM 上重用，导致经济损失。现
LoopTrap: Termination Poisoning Attacks on LLM Agents
本文针对现代 LLM 代理在执行复杂任务时采用的迭代执行循环机制，提出了一种新型攻击——终止毒化（Termination Poisoning）。在这种循环中，代理反复进行推理、行动和自我评估，以判断任务是否完成。攻击者通过向代理的上下文注入
LeakDojo: Decoding the Leakage Threats of RAG Systems
本文针对检索增强生成（RAG）系统中的数据泄漏风险展开系统研究。RAG技术通过让大语言模型（LLM）利用外部知识库来提升回答质量，但同时也将宝贵的RAG数据库暴露于泄漏攻击之下。随着RAG系统日益复杂，LLM的指令遵循能力不断增强，现有研究
LCC-LLM: Leveraging Code-Centric Large Language Models for Malware Attribution
本论文提出 LCC-LLM，一个面向恶意软件归因与多任务静态分析的代码中心基准数据集与证据驱动框架。研究背景是当前基于 LLM 的恶意软件归因受限于不支持的指标以及缺乏代码级别的证据支持，难以准确识别恶意和脆弱代码片段。为解决这些问题，作者
SafeHarbor: Hierarchical Memory-Augmented Guardrail for LLM Agent Safety
随着基础模型的快速发展，大型语言模型（LLM）智能体展现了日益强大的工具调用能力，但同时也引入了显著的安全风险，恶意行为者可能操纵智能体执行工具以生成有害内容。现有防御机制虽然有效，但常存在过度拒绝问题：提高安全严格性会损害智能体在良性任务
CFE-PPAR: Compression-friendly encryption for privacy-preserving action recognition leveraging video transformers
本文提出了一种针对隐私保护动作识别（PPAR）的压缩友好加密方法CFE-PPAR。PPAR旨在让机器理解视频中的人类活动而不泄露敏感视觉内容。现有加密方法在加密视频被压缩（如Motion-JPEG或H.264）时，会导致识别性能和视觉质量急