Rethinking the Transferable Adversarial Attacks and Robust Defense in Federated Learning
本文重新审视联邦学习（Federated Learning, FL）中的可迁移对抗攻击与鲁棒防御问题。联邦学习通过多方协作训练模型，无需共享原始数据，从而保护用户隐私，但其大规模参与特性也引入了多种安全威胁，如投毒攻击（Poisoning
#LLM
共收录 2152 条相关情报。
← 返回所有主题Auto-Policy, not Auto-Skill: Compiled Agent Skills for the Physical World
本文指出当前自我进化的技能库（如 AutoSkills、Hermes Agent）在自动生成编排建议时仅关注效率提升，而忽略了安全性的关键缺口。作者认为，技能（Skill）描述的是代理应如何行为，而策略（Policy）决定了哪些行为被允许成
Prompt Structure Redistributes, Not Reduces: An Empirical Analysis of Security-Weaknesses in LLM-Generated Python Code
本文针对大型语言模型（LLM）从自然语言提示生成代码时，提示工程如何影响生成软件安全性的问题展开实证研究。现有观点认为结构化、面向安全的提示可以促使模型生成更安全的代码，但作者指出，其影响不能仅通过检测到的弱点是否存在来衡量。为此，研究者使
Security Education in Higher Education through AI-Powered Gamification
本文针对高等教育中网络安全教育面临的挑战展开研究。随着人工智能驱动的攻击变得越来越逼真且难以检测，传统的基于视频的安全培训在高校中普遍存在参与度低、教学效果有限的问题。为了改善这一状况，作者提出采用AI驱动的游戏化（AI-powered G
Retrieved But Not Reliable: A Survey on Attacks, and Defenses in Retrieval-Augmented Generation
该论文是一篇关于检索增强生成（RAG）安全与鲁棒性的系统性综述。RAG 通过引入外部知识库来增强大语言模型，能够提升事实性和减少幻觉，但与此同时，检索-生成流水线也引入了新的安全风险，例如语料库投毒（corpus poisoning）、后门
StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing
StepGuard 提出了一种面向 LLM 智能体的步骤级防护模型，专注于在执行工具调用前检查每一步动作的安全性。现有防护机制通常对已完成的完整轨迹进行审查，缺少对执行前步骤级动作的监控，导致恶意或危险操作可能在执行后才被发现。StepGu
SeriCrypt: An LLM-Driven Context-Aware Serialization Framework for Cryptographic Protocols
SeriCrypt 提出了一种由大语言模型驱动的、上下文感知的序列化框架，用于自动构造符合语法且密码学有效的协议消息序列。该问题对于协议状态机学习、一致性测试和模糊测试至关重要。与明文协议不同，密码协议存在跨消息的状态依赖和复杂的密码学计算
Not All Tokens Are Equal: Region-Aware Consistency Repair of Backdoors in MLLMs
多模态大语言模型（MLLM）在用户端应用中日益普及，但其构建流程可能引入后门风险：触发器可能位于图像、文本或两者中。现有面向传统分类器的模型级后门移除方法对 MLLM 效果有限，而针对 MLLM 的防御大多在推理时进行，通过过滤可疑输入来缓
Towards LLM-Enhanced Android Taint Analysis
该论文探讨了使用大型语言模型（LLM）增强 Android 应用污点分析的可能性。污点分析是检测敏感数据泄露的关键技术，但传统静态分析工具（如 FlowDroid）在准确建模 Android 框架时面临诸多挑战，导致漏报和误报。作者提出了一
Evaluating and Preventing Security Smells in AI-Generated Ansible Code
本文研究了AI编程助手生成的基础设施即代码（IaC）中存在的安全问题。以往研究大多关注AI生成代码的功能正确性，但对其安全性关注不足。作者指出，如果基础设施代码存在安全缺陷，会直接传播到部署的系统，导致不可信的基础设施。论文评估了16个AI
Anatomy of a Scam Call: What 10,000 real scam and spam calls reveal about how phone scammers operate
该论文基于一个由AI语音代理蜜罐系统收集的独特数据集，对电话诈骗和垃圾电话的运作模式进行了大规模实证分析。数据集包含54天内来自5,780个不同号码的10,211通入站电话，共计913小时音频和330,956轮对话转录。研究首先区分了真正骗
Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems
该论文系统研究了基于大语言模型（LLM）的多智能体交易系统中的对抗性漏洞。这类系统由多个专业智能体通过结构化通信协作生成交易决策，正从研究原型快速走向控制真实资产的实时部署。然而，智能体间的通信在提升效率的同时也引入了攻击面：一个被污染的信
ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
本文（ToolMinimize）针对LLM智能体在工具调用中过度暴露隐私敏感数据（PSD）的问题开展研究。作者通过在GPT-4o、Claude 3.5 Sonnet和Llama-3.3-70B三个生产级大语言模型上的受控测量发现，在默认提示
What Guides the Agent? Adjudicating Unauthorized Behavior via Localizing Behavior-Guiding Instructions
本文研究了大语言模型（LLM）智能体在集成外部资源后所面临的安全威胁。由于智能体依赖统一的自然语言上下文通道进行推理，不可信的外部数据（如网页内容、工具返回结果）可能被动态解析为行为引导指令，从而劫持智能体的决策过程，实现间接提示注入或工具
WebMCP-Phalanx: Enforcing and Characterizing Trust Boundaries for Browser-Integrated LLM Agents
本文针对新兴的 W3C WebMCP 提案在浏览器环境中集成大语言模型（LLM）代理时引入的安全信任边界问题展开研究。WebMCP 允许网页向 LLM 代理暴露可调用的工具，但在多参与者 Web 环境下，现有以同源策略（SOP）为核心的浏览
AEM: Facilitating Cross-Version Exploitability Assessment of Linux Kernel Vulnerabilities.
本文研究 Linux 内核漏洞的跨版本可利用性评估问题：给定一个在特定内核版本上已验证可利用的漏洞利用程序，如何判断同一漏洞在其他内核版本上是否可利用。现有解决方案自动漏洞利用生成（AEG）因模板驱动且忽略已有利用程序提供的能力而并不适用。
May the Force Not Be With You: Brute-Force Resistant Biometric Authentication and Key Reconstruction.
该论文针对生物识别认证中日益严重的暴力破解攻击问题，提出了一种新颖的、可证明安全的抗暴力破解生物识别（Brute-Force Resistant Biometrics, BFRB）协议，用于生物识别身份认证和密钥重建。论文指出，生物识别特征
NeuronGuard: Robust LLM Safety Alignment via Ablation-Aware Safety Signal Redistribution
大型语言模型（LLM）的安全对齐在面对日益增长的攻击手段时仍然脆弱。越狱攻击通过精心设计的提示绕过安全机制，而神经元级攻击则在部署后直接剪除对安全至关重要的神经元。这两类攻击的共同弱点是：安全相关信息集中于稀疏的神经元子集。为此，本文提出
STAIN-FL: Stealthy Targeted Attack Injection with Contextual Triggers in Federated Learning
联邦学习（Federated Learning, FL）允许多个机构在不共享原始数据的情况下协作训练视频异常检测模型，但服务器端对客户端训练过程的可见性有限，使得被攻陷的客户端能够通过恶意模型更新注入后门。现有攻击通常依赖显式、高强度的触发
Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors
本文针对大语言模型（LLM）面临的提示注入（Prompt Injection）攻击提出了一种新的防御思路。研究指出，当前模型仅能感知输入的令牌（tokens），虽然服务端清楚每个文本片段属于用户输入、工具输出还是指令，但模型自身却需要自行追