Evaluating LLMs for Obfuscation Detection and Classification in Android Apps
该论文针对Android应用中的代码混淆检测问题，提出了利用大型语言模型（LLM）进行语义推理的新方法。传统方法依赖手工特征或专用学习管道，难以泛化到新混淆策略。作者进行了大规模实证研究，评估了多种开源和商业LLM在无需手工规则或专门训练的
#LLM
共收录 2152 条相关情报。
← 返回所有主题From Prompts to Responses: Dual-Sided Data Leakage and Defense in Split Large Language Models
该研究聚焦于分割式大语言模型（Split-LLM）中的数据泄露与防御问题。在隐私敏感场景中，用户面临两难：使用外部API可能泄露隐私数据，而本地部署则计算成本高昂。分割学习（Split Learning）作为一种折中方案，将模型切分，客户端
SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills
大型语言模型（LLM）智能体通过加载“Agent技能”来扩展运行时能力，每个技能由自然语言说明（SKILL.md）和可执行脚本组成。由于技能行为依赖跨模态（语言与代码）推理，攻击者可以在SKILL.md中描述良性工作流，同时嵌入隐式指令，诱
TranSPArent: Taint-style Vulnerability Detection in Generic Single Page Applications through Automated Framework Abstraction.
该论文提出了一种名为 TRANSPARENT 的自动化漏洞检测工具，专门用于检测通用单页应用（SPA）中的污点类型漏洞。SPA 框架（如 Vue、React、Angular）将不安全的 DOM API 以新格式重新引入（例如组件参数作为污点
Idioms: A Simple and Effective Framework for Turbo-Charging Local Neural Decompilation with Well-Defined Types.
本文提出了一种名为 IDIOMS 的神经反编译框架，旨在解决传统反编译工具因编译信息丢失而无法恢复变量名、类型名等代码可读性特征的问题。现有神经反编译方法在处理真实代码时存在严重局限，例如无法为用户自定义的复合类型提供类型定义。IDIOMS
Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents
大型语言模型驱动的Web代理（Web Agent）正越来越多地被部署在真实环境中，它们需要处理不可信的网页内容并执行具有直接后果的操作，因此容易受到提示注入攻击——看似良性的内容中嵌入对抗性指令以操纵代理行为。现有的安全基准采用“攻击中心”
The Emergence of Autonomous Penetration Capabilities in Large Language Model-Powered AI Systems
本文针对当前大语言模型（LLM）驱动的AI系统自主渗透能力评估中存在的局限性，提出了一种新的自主渗透评估框架。现有评估方法存在方法论不透明、测试场景不现实、给予LLM过多先验知识和任务指导等问题，无法准确反映现代AI系统在高影响网络攻击场景
DIG: Oracle-Guided Directed Input Generation for One-Day Vulnerabilities
该论文针对一日漏洞（One-Day Vulnerabilities）的PoC输入生成问题提出了一种名为DIG的新方法。一日漏洞因补丁采用延迟或不完整而构成重大风险，生成PoC输入对评估实际影响至关重要。核心挑战在于识别触发漏洞所需的关键约束
MAStrike: Shapley-Guided Collusive Red-Teaming on Multi-Agent Systems
该论文聚焦于层级多智能体系统（MAS）的安全性问题，该类系统正快速部署于金融、软件工程等高风险工作流中。由于安全和保障职责分散在不同角色的智能体之间，攻击面显著扩大，尤其是面临权限提升和跨智能体共谋等协调性对抗行为时。现有红队测试方法存在局
Detecting Functional Memorization in Code Language Models
该研究探讨了代码语言模型中的功能性记忆（functional memorization）现象，即模型在生成代码时可能会复制训练数据中的功能逻辑，即使文本上不相似。现有工作主要基于文本重叠的审计指标来检测训练数据泄露，但代码具有功能等价而文本
SMSR: Certified Defence Against Runtime Memory Poisoning in Persistent LLM Agent Systems
该论文聚焦于持久性 LLM 代理系统中的多会话记忆投毒（MSMP）攻击及防御。随着检索增强生成（RAG）代理广泛使用跨用户会话累积的持久记忆，攻击者可通过正常交互注入精心构造的记忆，当这些记忆被后续用户检索时，可操纵代理的响应，而无需修改模
CAPED: Context-Aware Privacy Exposure Defense for Mobile GUI Agents
该论文聚焦于移动GUI代理（如基于截图的智能体）在执行任务时面临的隐私暴露问题。这类代理通过模拟人类用户操作手机应用，需要实时截取屏幕截图发送给远程的多模态模型进行处理。然而，截图会包含大量与当前用户请求无关的敏感信息（如联系人、消息、照片
ECYSAP EYE: From Cyber Situational Awareness to Mission-Centric Decision Support for Enhanced Cyberspace Operations
该论文介绍了ECYSAP EYE项目，旨在为运营组织提供超越孤立技术警报的网络态势感知（CySA）能力，输出可嵌入异构工具链和网络安全/防御流程的任务相关工件。其核心是一种面向采用的系统之系统（SoS）架构，围绕七组任务聚焦的工件设计：认知
OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents
该论文提出 OCELOT，一种用于保护 LLM Agent 隐私的运行时中介系统。LLM Agent 在执行用户任务时，需要读取个人文件、调用工具、与外部服务交互，这可能导致个人身份信息（PII）在多个信任边界间泄露。隐私问题在这里具有三个
A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents
该论文针对生产环境中AI代理的运行时治理问题，提出了一种五平面参考架构。传统企业安全基于数据边界防护，但AI代理通过读取上下文、调用工具、连接器和修改系统记录，将风险内化于工作流内部的行动序列中，这些序列可能组合出未授权的业务流程变更。现有
Selection Integrity for LLM Graph Memory: An Accumulability Criterion for Information-Flow-Blind Retrieval
这篇论文研究了LLM智能体图内存中的选择完整性问题。现有的溯源防御机制只检查智能体检索记录的来源，但忽略了选择过程本身可能被操纵。作者证明，这种基于溯源的防御在结构上是盲目的：长期图内存会对可写图结构进行全局选择步骤，不受信任的参与者写入的
Mind your key: An Empirical Study of LLM API Credential Leakage in iOS Apps
该论文首次对iOS应用中大语言模型（LLM）API密钥泄露进行了系统的实证研究。随着LLM快速集成到移动应用，API密钥泄露成为新的安全风险——攻击者可利用泄露的凭证非法访问LLM推理服务，给开发者造成经济损失。此前研究主要聚焦Androi
From Parameters to Feature Space: Task Arithmetic for Backdoor Mitigation in Model Merging
本文研究了模型合并（Model Merging, MM）中的后门攻击防御问题。模型合并是一种将多个针对特定任务微调后的模型整合为一个统一模型的高效方法，但最近研究发现该过程极易受到后门攻击。现有的基于任务算术的防御方法通常依赖于直接编辑参数
Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
该论文提出了一种针对已部署安全分类器的在线分布漂移监测系统。系统利用校准的序贯统计量（如加权共形预测或逻辑密度比估计）实时检测分类器的输入分布是否发生变化。一旦检测到漂移，系统会通过共形弃权层自动调整决策阈值，以恢复预设的目标错误率（ε=0
Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code
大型语言模型（LLM）越来越多地用于代码生成，但可能被滥用以产生恶意代码。语法约束解码（GCD）是一种旨在通过强制语法有效性来提高LLM生成代码可靠性的技术。本文揭示了一个反直觉的风险：这种面向可靠性的技术本身可能成为攻击面。作者提出了一种