Large Language Models and Social Media Information Integrity: Opportunities, Challenges, and Research Directions
本论文是一篇系统性的文献综述，关注大语言模型（LLM）在社交媒体信息完整性中的双重角色。随着LLM的快速发展，其在内容生成和语义理解上的能力深刻影响了虚假信息、错误信息、假新闻、社交机器人和隐私保护等挑战。作者对2019至2024年间发表的
#LLM
共收录 2152 条相关情报。
← 返回所有主题Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework
本文针对检索增强生成（RAG）系统在大型语言模型（LLM）应用中面临的知识污染攻击问题，提出了一种名为 SecureCollaRAG 的拜占庭容错协作式 RAG 框架。研究背景是：虽然 RAG 能够缓解 LLM 的幻觉问题，但攻击者可通过投
Manipulation-Proof Oblivious Audits against Deceptive Model Providers
本文提出一种针对机器学习模型审计的防操纵协议，旨在解决模型提供方在审计过程中可能故意或无意地操纵评估结果的问题。在监管审计等场景中，审计行为通常会被声明或容易暴露，模型提供方可能借此推断审计所关注的敏感属性，并策略性地调整不同组别之间的资源
Trident : How to Break Deep Reinforcement Learning Cyber Defenses (Agentic)
该论文提出并实现了一个名为 Trident 的智能体化 LLM 红队框架，用于评估和攻破基于深度强化学习（DRL）的自主网络防御系统。研究背景在于：现有的 DRL 防御评估几乎完全依赖静态或启发式红队智能体，缺乏对自适应威胁的鲁棒性检验；同
Post-Hoc Trajectory-Risk Certification for Modular LLM-Based Security Agents
本文针对模块化LLM安全代理的轨迹级风险认证问题展开研究。自主安全代理通常以分阶段流水线方式运行，例如先对网络流量进行分类，再进行攻击技术归因。分割共形预测虽能为每个阶段提供有限样本覆盖，但整个链路的轨迹级保证不能由各阶段保证简单组合。论文
PriDyG: Privacy-preserving Dynamic Graph Inference with LLM-GNN Collaboration
本文提出 PriDyG，一个面向动态图推断的隐私保护框架，旨在解决关系型数据上的图推断可能泄露敏感边信息的问题。在动态图中，模型反复更新会导致隐私损失累积，使得问题更加严重。作者形式化了边级差分隐私动态图推断（EDG）问题，并设计了一种结合
Behavioral Skill Reconstruction: Reconstructing Hidden Functionality from LLM Agent Skills
该论文提出了“行为技能重建”（Behavioral Skill Reconstruction, BSR）问题，聚焦于闭源 LLM Agent 技能（skill）的功能泄露风险。此前研究主要关注提示注入攻击，试图直接披露技能中隐藏的指令、脚本
NEBULA: A Language - Independent Specification for Opaque Rotating Refresh Tokens
本文提出 NEBULA，一个针对 OAuth 2.0 刷新令牌（refresh token）的、与编程语言无关的精确规格说明，旨在解决 RFC 9700（OAuth 2.0 安全最佳当前实践）中只规定策略而未规定机制的问题。刷新令牌是现代认
Progressive Learning of a Diffusion-based Inpainting Model for Separating Overlapped Fingerprints
本文针对指纹识别中重叠摩擦脊线（overlapped friction ridge patterns）的分离问题提出了一种基于扩散模型（diffusion model）的新型流水线方法。在犯罪现场提取的潜指纹以及活体扫描场景中，传感器上残留
FBID: Adaptive Personalized Federated Learning for Robust Out-of-Distribution Attack Detection in IoT Networks
本文针对异构物联网环境中的入侵检测问题，提出了一种名为FBID（Federated Bandit Intrusion Detection）的自适应个性化联邦学习框架。现有基于个性化联邦学习（PFL）的入侵检测方法通常依赖客户端自行调整模型，
An Inline Control Architecture for Language Models in Intelligent Transportation Systems
本文针对智能交通系统（ITS）中车联万物（V2X）环境下大语言模型（LLM）应用的安全问题，提出了一种名为 Guarded-V2X 的内联语义护栏架构。随着 V2X 系统在路侧单元和边缘节点上越来越多地集成 LLM 用于消息摘要、操作员辅助
When Agents Learn to Be You: Benchmarking Privacy Leakage, Impersonation Risk, and Defenses in Persona Skills
该论文聚焦于大语言模型智能体中“人格技能（Persona Skills）”这一新型个性化机制的安全风险。人格技能将个人交互历史压缩为可移植、可执行的工件，供下游智能体复用。论文指出，这一过程将分散的个人信号集中化，并通过复用放大其影响，使传
A Security-Oriented Lifecycle Model for Large Language Model Systems
本文提出了一种面向安全分析的大语言模型（LLM）系统生命周期模型。研究背景是：LLM 正以前所未有的规模被集成到关键基础设施和企业工作流中，但现有的生命周期框架主要面向运营效率设计，而非安全分析，导致数据来源验证、工件签名、智能体权限控制、
DiagChain: A Diagnostic Benchmark for Evaluating LLM Agents on Evidence-Grounded Attack Chain Reconstruction
本文提出 DiagChain，一个面向大语言模型（LLM）智能体的诊断性基准测试，用于评估其在证据支撑下的攻击链重建能力。攻击链重建是网络安全中的关键任务，要求智能体从异构遥测数据中检索并解释证据，推断出有序的攻击者行为。现有基准大多只评估
ReputationChain: Robust Trust Updating for Blockchain-Enabled Supply Chains
本文提出 ReputationChain，一个面向区块链供应链的参与者信任更新框架。研究背景是：区块链虽然能保证供应链记录的完整性，但仅凭账本完整性无法判断参与者在未来风险敏感交易中是否值得信任。现有声誉系统主要关注产品证据、全局反馈聚合或
AI Forensics Across White-, Grey-, and Black-Box Access: A Process Model and Research Agenda for Post-Incident Investigation of AI Systems
该论文系统性地探讨了人工智能系统的取证调查问题。随着AI系统越来越多地参与决策和行动，事后调查其行为原因、系统组件及供应链责任成为重要挑战。当前AI取证研究分散，多聚焦于特定系统类型、工件或分析技术，缺乏统一框架。作者提出以调查者的访问权限
SkillJack: Persistent Skill Backdoors in Self-Evolving Agents
本文提出了一种针对自进化智能体（self-evolving agents）的新型攻击方法 SkillJack。自进化智能体会将交互历史转化为可复用的技能（skills），这些技能可以跨任务持久保存。以往研究关注的是记忆与检索投毒，但此类攻击
SkillSentry: Adaptive Honey Worlds for Dynamic Safety Testing of Agent Skills
该论文提出 SkillSentry，一个针对大型语言模型（LLM）智能体外部技能（Agent Skills）的动态安全测试框架。研究动机在于：外部技能在扩展智能体能力的同时，引入了执行时攻击面——一个静态检查看似良性的技能，只有在特定环境状
AgentAntibody: An Adaptive Immune System for Defending LLM Agents against Prompt Injection
本文针对大型语言模型（LLM）代理面临的提示注入（prompt injection）威胁，提出了一种基于自适应免疫原理的防御框架 AgentAntibody。研究背景是：现有防御方法将每个任务视为孤立问题，缺乏对先前遭遇的学习能力；而实际用
Noise-Aware Shrinkage for Differentially Private Zeroth-Order Fine-Tuning of Large Language Models
本文针对差分隐私零阶优化（DP-ZO）在大语言模型（LLM）微调中的局限性，提出了一种噪声感知的自适应收缩方法 SAGE。DP-ZO 仅利用前向传播评估即可实现内存高效的私有微调，是当前隐私保护 LLM 微调的重要技术路线。然而，现有基于聚