Federating Trust Perimeters: Extending Industry IAM with DLT-Based Governance
本文关注数字系统日益集成化、自主化和协同化背景下，非人类实体（NHE，如AI代理、未来移动网络节点、机器对机器经济中的设备）之间自发、跨组织、非计划性交互的信任建立问题。作者指出，传统联合（Federation）方案，包括OpenID Fe
#LLM
共收录 2152 条相关情报。
← 返回所有主题A Translational Note on AI Safety Evaluation
该论文是一篇关于AI安全评估方法的评论性研究，聚焦于自动化红队与人工红队在标准AI安全基准上的表现对比所引发的误读。近期研究声称自动化红队能以更低成本发现更多漏洞，并有人据此认为人工评估者正变得可有可无。作者指出，这种比较存在根本性的测量与
SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure
本文提出 SRD-GUARD，一种面向大语言模型（LLM）的免参数、黑盒防御框架，用于对抗越狱（jailbreak）攻击。越狱攻击常通过角色扮演、虚构场景或看似合理的动机隐藏有害意图，现有推理时防御要么漏掉伪装攻击，要么过度拒绝合法请求。S
CAPMAS: Capability-Based Delegation of Privileges in Multi-Agent Systems
本文提出了一种面向多智能体系统（Multi-Agent Systems, MAS）的安全权限委派架构 CAPMAS。在多智能体协作执行任务时，如何安全、高效地在多个协作智能体之间委派权限是关键挑战。现有方法分为两类：一类直接将用户身份传播给
Dissecting Click Fraud Autonomy in the Wild.
本文研究移动广告网络中点击欺诈（click fraud）的一种新型变体，称之为“人形攻击”（humanoid attack）。点击欺诈利用按点击付费（pay-per-click）机制，通过自动化或伪造方式产生虚假点击，给广告主造成巨大经济损
Wallbleed: A Memory Disclosure Vulnerability in the Great Firewall of China.
该论文在 NDSS 2025 被接收，但引发了激烈争议。论文题为《Wallbleed: A Memory Disclosure Vulnerability in the Great Firewall of China》，从标题看，它报告了中
Regression Greybox Fuzzing.
该论文基于对 OSSFuzz 平台生成的所有模糊测试（fuzzing）漏洞报告的实证研究，发现约 77%（23k 个漏洞中的 4/5）是由最近的代码变更引入的回归缺陷（regression bugs）。新项目在初始阶段每天会出现 2-3 个
CounterSEVeillance: Performance-Counter Attacks on AMD SEV-SNP.
CounterSEVeillance 是一篇针对 AMD SEV-SNP 机密虚拟机的新型侧信道攻击研究。SEV-SNP 是一种处理器扩展，旨在通过可信执行环境保护虚拟机的完整性和机密性，即使在共享托管环境中也能防止恶意管理程序访问客户机内
Beyond QA Matching: Perturbation-Response Fingerprinting via Probability Distributions for Large Language Models
本文针对大语言模型（LLM）在指令微调、专用化、量化等变换后难以进行细粒度来源追溯的问题，提出了一种无需训练的模型指纹方法 BReF（Perturbation-Response Fingerprinting）。BReF 的核心思想是：对于四
It is Not Yet Another Tool: Creating and Deploying an Agentic AI Companion in a Security Operations Center
本文介绍了作者团队在真实安全运营中心（SOC）中设计、开发并部署一个智能体式 AI 助手（agentic AI companion）的长期实地研究成果。SOC 每天需要处理大量工单，其中绝大多数是低关注度事件，不值得深入调查，而这类重复性劳
Scratchy: Visual-Scratchpad Multimodal Reasoning for Cryptographic Proof Generation in EasyCrypt
该论文提出了一种名为 Scratchy 的视觉暂存器多模态推理方法，旨在解决大语言模型（LLM）在生成密码学形式化证明时面临的结构性依赖难题。在密码学领域，计算安全性论证要求证明必须协调概率、对抗游戏、不变量、假设和界限等要素，而 Easy
SCRIPTIOC-BENCH: A Benchmark for Recognizing Actionable Threat Intelligence from Script-Based Malware using LLMs
论文提出 SCRIPTIOC-BENCH，一个用于衡量大语言模型（LLM）从基于脚本的恶意软件中静态提取可操作威胁情报（IOC）能力的基准。脚本型恶意软件（如 JavaScript、PowerShell、VBScript）仍然是常见的攻击手
Counter-Swarm Doctrine: Containing Coordinated Agent Intrusions
本文提出“反制蜂群”（Counter-Swarm Doctrine）概念，聚焦于多智能体（agents）如何将共享基础设施用作协调入侵的通道。作者从Hugging Face安全事件和一次公开wiki调查入手，指出传统安全评估往往只关注单次执
Evaluating Deep-Search Agents under Hierarchical Web Evidence Poisoning
随着搜索增强型大语言模型（LLM）智能体被广泛用于消费者决策场景，其面临的生成引擎优化（GEO）投毒攻击风险日益突出。现有安全评测基准大多只关注被操纵的内容是否被检索或认可，并未跟踪智能体是否验证可疑证据、是否修正已采纳的错误观点、以及在生
Versioned Transitive Dependency-Closure Binding and Operation-Time Effect Governance for Agent Skills: ClosureBound
该论文针对 Agent Skills 生态中依赖闭包与授权绑定问题提出 ClosureBound 参考监视器。Agent Skills 将指令、文件、包、工具、模型和服务组合成一个混合执行单元，其操作身份可能超出原始签名目录，导致传统基于根
Structurally Close, Temporally Distant: Measuring Security Exposure in Long-Horizon LLM Agents
长期运行的大语言模型（LLM）智能体在与不受信任的内容、持久化内存、外部状态和敏感工具交互时，面临严重的安全风险。现有的安全分析往往以恶意输入与下游动作之间的执行步数来衡量攻击的距离，但本文指出，对于有状态的智能体，这种时间上的距离可能高估
EvoSafeHarness: Evolving Model- and Domain-Specific Harnesses for Securing Agents
本文提出 EvoSafeHarness，一个面向 LLM Agent 的系统级安全约束（harness）自动化优化框架。研究背景是：LLM Agent 能将语言指令转化为真实世界操作，因此必须防御间接提示注入和直接有害请求；但现有安全 ha
From Review to Authorization: Key-Isolated Threshold Signing for LLM Agents
本文提出了一种名为KITA的架构，旨在解决自主LLM（大语言模型）代理在执行动作时的安全授权问题。核心风险在于：当LLM代理处理不可信内容（如网页、邮件）并同时持有可复用的签名凭证时，提示注入攻击可能跨越判断边界，直接触达执行权限。KITA
GPU Travelling: Efficient Confidential Collaborative Training with TEE-Enabled GPUs.
本文提出了一种名为 GPU Travelling 的新型机制，旨在解决机密协作机器学习（Confidential Collaborative ML）中因模型和数据集规模快速增长而导致的通信开销过大的问题。在传统的多方联合训练场景中，多个互不
Sok: Evaluating Jailbreak Guardrails for Large Language Models.
本文是一篇针对大语言模型（LLM）越狱防护机制的系统化知识（SoK）综述。研究背景在于：尽管LLM取得了显著进展，但其部署暴露了严重的安全漏洞，尤其是越狱攻击能够绕过模型的安全对齐机制。为应对这一威胁，防护栏（guardrails）——即用