Cybercrime and Prevention: Colonel Blotto in Social Engineering
本文针对网络犯罪中日益突出的社会工程攻击问题，提出利用博弈论模型优化防御资源的分配策略。研究背景指出，尽管技术防御不断进步，但攻击者更多利用人为因素，通过欺骗员工获取敏感信息或资产。作者借鉴犯罪学中的日常活动理论（RAT），将犯罪事件描述为
#LLM
共收录 2152 条相关情报。
← 返回所有主题AutoSOUP: Safety-Oriented Unit Proof Generation for Component-level Memory-Safety Verification
内存安全错误是低级软件中零日漏洞的持续根源，尤其在嵌入式系统中，硬件保护有限且动态分析难以有效应用。内存安全验证可以通过证明不存在此类错误或暴露违规来提供更强保证，但当前验证工作流主要依赖手动操作，需要大量专业知识，限制了实际采用。本文提出
Re-Triggering Safeguards within LLMs for Jailbreak Detection
该论文提出了一种针对大型语言模型（LLM）的越狱提示检测方法，旨在防御越狱攻击。尽管当前LLM已内置安全机制，但攻击者仍可能构造绕过这些机制的越狱提示。作者认为此类越狱提示本质上具有脆弱性，因此引入了一种嵌入扰动（embedding dis
Guaranteed Jailbreaking Defense via Disrupt-and-Rectify Smoothing
本文提出了一种针对大型语言模型 (LLM) 的保证性越狱防御方法——Disrupt-and-Rectify Smoothing (DR-Smoothing)。该方法受对抗防御领域中去噪平滑技术的启发，将两阶段提示处理方案（先干扰输入提示，再
Acceptance Cards:A Four-Diagnostic Standard for Safe Fine-Tuning Defense Claims
该论文提出了一种名为“Acceptance Cards”的评估标准，用于验证安全微调防御声明的有效性。当前，许多安全微调防御方法仅通过持出集（held-out gap）的减少来证明其有效性，但作者指出，这种减少可能源于采样噪声、主体伪影、能
SoK: A Systematic Bidirectional Literature Review of AI & DLT Convergence
本文是一篇系统性的双向文献综述（SoK），旨在梳理人工智能（AI）与分布式账本技术（DLT）融合的研究现状。现有研究往往聚焦于特定应用领域或仅考察单向集成，缺乏对两者架构层面互动的全面理解。作者对2020至2025年间发表的同行评审研究进行
Knowledge Poisoning Attacks on Medical Multi-Modal Retrieval-Augmented Generation
本文研究了多模态检索增强生成（RAG）系统在医疗应用中的安全性，重点关注知识投毒攻击。现有攻击大多假设攻击者掌握用户查询的先验知识，这在真实场景中难以实现。为此，作者提出了M³Att攻击框架，仅需了解数据库的有限分布知识。核心思路是：向文本
When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications
该论文针对大型语言模型（LLM）驱动的应用中自然语言接口带来的SQL注入风险，提出了一种多层级安全框架。随着LLM被广泛用于将用户自然语言查询自动转换为SQL语句（Prompt-to-SQL），传统的SQL注入攻击方式得以进化：攻击者可以构
Benchmarking Safety Risks of Knowledge-Intensive Reasoning under Malicious Knowledge Editing
大型语言模型（LLM）越来越依赖知识编辑来支持知识密集型推理，但这种灵活性也引入了关键的安全风险：攻击者可以注入恶意或误导性知识，破坏下游推理并导致有害结果。现有的知识编辑基准主要关注编辑效果，缺乏一个统一的框架来系统评估编辑知识对推理行为
Usability as a Weapon: Attacking the Safety of LLM-Based Code Generation via Usability Requirements
该论文研究了大型语言模型（LLM）在代码生成场景下，可用性需求如何被用作攻击面，从而破坏安全编码实践。作者提出了一种名为UPAttack的新型威胁，并设计了自动化框架U-SPLOIT。其核心思想是：现实中的可用性需求（如添加新特性、满足性能
Agentic Fuzzing: Opportunities and Challenges
该论文提出了一种名为 Agentic Fuzzing（代理式模糊测试）的新型漏洞发现方法，旨在解决现有模糊测试器和静态分析工具在成熟代码库中难以发现逻辑缺陷的问题。传统方法通常依赖于简单的执行反馈或模式匹配，但逻辑缺陷往往需要多步推理，且在
Sketch-based Access Control: A Multimodal Interface for Translating User Preferences into Intent-Aligned Policies
访问控制是用户安全领域长期存在的挑战，核心难题在于如何让非专业用户轻松、准确地表达资源访问策略。本文提出了一种基于草图的多模态访问控制授权系统（Sketch-based Access Control, SBAC），将手绘草图的直观表达能力与
Towards LLM-Based Analysis of Virtualization-Obfuscated Code through Automated Data Generation
该论文针对虚拟化混淆（virtualization-based obfuscation）产生的二进制代码分析难题，提出了一种基于大语言模型（LLM）的结构化分析方法。虚拟化混淆会将原始代码转换为极其庞大且结构复杂的中间表示，导致传统LLM因
Nautilus Compass: Black-box Persona Drift Detection for Production LLM Agents
本文提出Nautilus Compass，一个面向生产环境LLM coding agent的黑盒人格漂移检测与记忆层系统。研究背景：LLM agent在长时间会话中会出现人格漂移，例如遗忘用户指定的约束、重复已被用户指出的错误、虚构先前的协
Evaluating Tool Cloning in Agentic-AI Ecosystems
本文首次对智能体AI生态系统中的工具克隆现象进行了大规模测量研究。随着大型语言模型（LLM）智能体通过公共市场获取外部工具（如模型上下文协议(MCP)工具和Skills工具），工具数量激增，但其中大量工具可能源自克隆、轻度修改或共享模板，导
Security Risks in Tool-Enabled AI Agents: A Systematic Analysis of Privileged Execution Environments
该论文系统分析了支持工具的AI代理在云托管环境中面临的安全风险。随着AI代理被部署为服务，它们通常通过特权执行环境中的工具执行副作用操作，实现强大的自动化能力。然而，这种特权环境也引入了新的攻击面。作者首先构建了风险分类学，将风险归纳为特权
MonitoringBench: Semi-Automated Red-Teaming for Agent Monitoring
本文提出了一种针对编码代理（coding agent）监控器的红队测试方法，旨在揭示现有评估中难以捕获的攻击类型，并指出当前实践可能低估攻击能力并高估监控器性能。作者识别了当前红队测试的三个挑战：攻击生成中的模式坍缩（通过新颖的攻击分类法扩
L-HAWK: A Controllable Physical Adversarial Patch Against a Long-Distance Target.
该论文提出了一种名为L-HAWK的可控物理对抗补丁，旨在针对远距离目标进行有效攻击。现有的物理对抗补丁通常对攻击距离敏感，当目标距离较远时，补丁在图像中的尺寸变小，导致攻击效果显著下降。L-HAWK通过优化补丁的形状、颜色和纹理，并引入可控
Prevalence Overshadows Concerns? Understanding Chinese Users' Privacy Awareness and Expectations Towards LLM-Based Healthcare Consultation.
本研究聚焦于中国用户在使用基于大语言模型（LLM）的医疗咨询服务时的隐私意识与期望。随着LLM在医疗领域的广泛应用，用户隐私问题日益突出。研究通过问卷调查和访谈，探索用户对医疗聊天机器人隐私实践的认知、担忧以及期望。核心发现是：尽管用户普遍
FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning
该论文提出了一种名为 FedAttr 的新协议，用于在联邦学习（FL）环境下对大型语言模型（LLM）微调过程进行客户端级别的归属分析。传统的基于水印的放射性检测方法已证明在集中式LLM微调中有效，但在联邦学习中面临挑战：联邦学习依赖安全聚合