MazeRunner: Nonlinear Task and Clue Orchestration for LLM-driven Black-Box Automated Penetration Testing
渗透测试是保障系统安全的关键环节，但传统的人工渗透测试耗时耗力。近年来，大语言模型（LLM）在自动化安全审计方面展现出潜力，但现有基于LLM的渗透测试代理主要聚焦于简化线性场景下的端到端执行，难以应对真实世界黑盒测试的非线性特征。在真实黑盒
#LLM
共收录 2152 条相关情报。
← 返回所有主题BGA: A noise-immune neural distillation framework for malicious signature extraction in high-entropy encrypted flows
本文提出一种名为BGA（Bidirectional Gated Attention）的抗噪神经蒸馏框架，用于在高熵加密流量（如TLS 1.3）中提取恶意签名。研究动机是：在加密流量中，随机性强的密码学噪声会稀释注意力机制对关键控制面特征的关
P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems
本文提出了一种名为 P2Skill 的隐私保护技能蒸馏方法，用于云-本地大语言模型（LLM）推理系统。在典型的云-本地架构中，云端大模型提供强大的推理能力，而本地设备负责处理敏感用户数据。为了保护隐私，发送到云端的请求必须剥离个人身份信息（
Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers
本文针对大型语言模型（LLM）部署中安全分类器（safety classifier）失效的两大痛点提出解决方案：一是分类器在训练时学到的策略与部署方（deployer）期望的策略不一致，导致决策偏差；二是随着部署流量分布演化，分类器性能会逐
Extracting and Verifying Illicit Bitcoin Addresses from Underground Forum Discussions
本研究针对现有比特币非法地址数据集的构建方法缺乏可复现性和证据不充分的问题，提出了一种可复现的流水线，用于从地下网络犯罪论坛 HackForums 的十五年历史帖文中提取并验证与非法交易相关的比特币地址。该流水线结合了大型语言模型（LLM）
CoSA: Context-Aware Severity Assessment via Context Analysis with Large Language Models
该论文提出 CoSA，一种基于上下文感知的漏洞严重性评估方法，旨在利用大语言模型（LLM）从代码仓库级工件中自动推断 CVSS 基础指标。传统 CVSS 评估依赖人工分析，耗时且容易出错；现有自动化方法多局限于函数级分析，难以捕获仓库中分散
Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs.
该论文针对大语言模型（LLM）API 中数据提取风险的定义与度量问题展开研究。作者指出，当前广泛使用的不可区分性（indistinguishability）属性——例如差分隐私上界或经验测量的成员推断攻击低风险——通常被当作模型具备足够抵御
"I Thought You Were The Uncensored Place": Norms, Rules, and Moderation in AI-Generated Sexual Content Communities
该研究聚焦于AI生成性内容（AIG-SC）在线社区中的治理问题。随着AI生成性内容的生产日益增多，大量支持创作者需求的在线社区应运而生，其中一些大型社区（成员数超过1万）明确制定了禁止创建和分享滥用性内容（例如AI生成的儿童性虐待材料，CS
LLM-Assisted Dynamic Threat Analysis for Attacker-Reachable Software Weaknesses in Autonomous Vehicles
该论文研究利用大语言模型（LLM）自动化生成可执行的测试工件，以动态确认自动驾驶系统中可被攻击者输入触发的软件弱点。作者以开源自动驾驶栈 Autoware 为对象，首先执行编译器精确的静态分析，覆盖 185 个软件包，识别出 1,375 条
Does Fixing Break Security? An Empirical Study of Security Degradation in Iterative LLM-Driven Infrastructure-as-Code Repair
本文针对迭代式大语言模型（LLM）驱动的 Infrastructure-as-Code（IaC）修复过程中的安全退化问题进行了实证研究。研究背景是：当前主流做法采用迭代反馈循环来改进 LLM 生成的 IaC 配置，例如使用 Checkov
VR-Themis: A Scalable Framework for Virtual Reality Application Clone Detection
该论文首次关注虚拟现实（VR）应用市场中的“克隆应用”（App Cloning）问题，即恶意或非法用户对正版 VR 应用进行重打包（Repackaging），这不仅威胁用户安全隐私，还侵犯开发者版权。现有克隆检测方法主要面向 Android
Sovereign by necessity? Frontier AI export controls, cyber security, and the limits of national AI capability
本文由 Alan Woodward 与 Andrew Rogoyski 撰写，发表于 arXiv cs.AI 分类，聚焦前沿人工智能（Frontier AI）出口管制与网络安全之间的交叉问题。研究背景是：极少数位于两个国家（美国与中国）的企
Operationalizing Cyber Threat Intelligence with GraphRAG
本文针对安全运营中一个长期存在的痛点：当安全研究员发布网络攻击报告后，检测工程师需要将其转化为可用的检测规则。然而，现有自动化方法大多只能从报告中提取最浅层的威胁指标（如恶意IP、域名、文件哈希）并生成封禁列表，这种策略极易被攻击者通过更换
InterSAGE: The Secure and Verifiable Interoperability Protocol for An Internet of Agents
本文提出 InterSAGE，一个面向“智能体互联网”（Internet of Agents）的安全与可验证互操作协议套件。随着大语言模型（LLM）驱动的智能体能够跨组织边界发现对等体、调用工具并委派任务，现有协议（如 MCP、A2A、AN
RAGSieve: Self-Referenced Local Contrast for Knowledge-Poison Detection in Retrieval-Augmented Generation
检索增强生成（RAG）将外部语料库作为推理证据，但这也引入了安全风险：攻击者可通过注入恶意文档（知识投毒）来引导模型输出特定主张。现有检测方法通常依赖可信参考文档、特定攻击痕迹或全局阈值，这些方法在复杂语料拓扑下鲁棒性不足。本文提出 RAG
ATOBench: Tracing How Autonomous Penetration-Testing Agents Verify Vulnerabilities When Target Evidence Lies
本文提出 ATOBench，一个面向自主渗透测试代理的评估框架，核心目标是让代理在面对欺骗性目标响应时的验证过程变得可观测。研究背景是：自主渗透测试代理依赖目标系统的响应来指导后续动作和生成最终报告，如果目标响应被欺骗（例如植入错误证据），
Beyond Handcrafted Security: Towards Self-Evolving Defense for LLM Agents
随着大语言模型（LLM）代理的操作能力不断扩展，其引入的安全威胁也日益复杂。运行时防御通过在代理执行循环中集成安全机制，已成为缓解这些风险的有效方法。然而，现有的运行时防御严重依赖人工设计的干预措施，缺乏构建和维护这些防御的原则性框架。本文
Beyond Visual Evidence: Revealing and Mitigating Relational Privacy Leakage in Document MLLMs
本文关注多模态大语言模型（MLLM）在文档理解场景下的隐私泄露问题，尤其是面向身份证件等身份文档处理的领域专用MLLM。作者指出，现有研究多聚焦于通用MLLM的隐私风险，而领域专用模型在关键信息提取（KIE）任务中的独特脆弱性尚未被充分探索
Adversarial Robustness in Smishing Detection: A Comparative Analysis of Adversarial Fragility in Classical vs. Transformer-Based Detection Systems
本文针对短信钓鱼（smishing）检测系统的对抗鲁棒性进行了系统比较研究。当前多数检测模型在干净、单语文本上训练与评估，但在低资源场景下，攻击者常通过字符混淆、跨语言代码切换和结构扰动等方式规避检测。研究选取了五种模型架构：三种经典词法模
Labels Are Not Endpoints: Treatment Leakage and Construct Validity in MCP Agent Security Evaluation
本文针对工具使用型智能体（MCP Agent）安全评估中的方法论缺陷展开审计研究。作者指出，当前许多安全评估将存储的标签（如 ATTACK_SUCCESS）直接等同于真实行为事实，忽略了标签生成过程中的偏差。研究团队对一个已保存的评估活动进