HaloMark: A Spectral Threshold for Embedding-Vector Watermarking under C2PA
HaloMark 论文提出了一种针对基础模型嵌入向量的水印方案，解决现有内容溯源机制（如 C2PA）无法直接应用于嵌入向量的问题。C2PA 标准通常与具有稳定位级或感知身份的资产绑定，但嵌入向量在量化、投影、微调和窗口平均等常规操作下会发生
#LLM
共收录 2152 条相关情报。
← 返回所有主题Whose Refusal Is It? The Unmeasured Contribution of Black-Box Multimodal Guardrails
该论文揭示了一个被忽视的评估方法论缺陷：黑盒多模态护栏（guardrail）的安全指标往往被错误地归因于护栏本身，而实际上目标模型自身的对齐机制也参与了拒绝行为。研究者指出，防御管线中两个组件都能产生拒绝（护栏和模型自身对齐），但当前评估将
IoXT: The Internet of Explainable Things. Why Explainability in IoT Requires a New System-Level Paradigm and Protocol Design
本文提出“可解释物联网”（IoXT, Internet of Explainable Things）这一系统级范式，旨在使可解释性成为智能物联网的内建架构属性，而非事后附加能力。传统可解释人工智能（XAI）方法只解释模型预测，无法覆盖从传感
SkillsMetric: Mapping the Detection Boundary of Static Analysis for Malicious Agent Skills
本文提出 SkillsMetric——一个面向 LLM Agent 技能包（Agent Skills）的静态分析安全评估框架。技能包是以结构化指令和脚本形式扩展大模型智能体能力的新兴载体，其安全属性尚未被充分研究。SkillsMetric
What Keeps Agent Skills from Being Reusable? Evidence from 138K SKILL.md Files
该论文针对当前 Agent Skills 标准下可复用性问题进行了大规模实证研究。Agent Skills 通常以 SKILL.md 文件形式存在，将指令与辅助资源结合，使大型语言模型（LLM）代理能够在单次对话之外复用流程。然而，许多公开
deepSURF: Detecting Memory Safety Vulnerabilities in Rust Through Fuzzing LLM-Augmented Harnesses.
本文提出 deepSURF，一种结合静态分析与大语言模型（LLM）引导的模糊测试工具，用于检测 Rust 库中的内存安全漏洞，尤其针对 unsafe 代码。尽管 Rust 默认保证内存安全，但 unsafe 代码的使用可能引入安全漏洞。现有
DART: Data Augmentation of Rare ATT&CK Techniques Using LLM Agents.
该论文提出 DART（Data Augmentation of Rare ATT&CK Techniques Using LLM Agents）框架，旨在解决网络安全数据分析中罕见 ATT&CK 技术样本不足的问题。由于真实环境中某些攻击技
Abuse Resistant Traceability with Minimal Trust for Encrypted Messaging Systems.
本文针对加密消息系统中的滥用追踪与用户隐私之间的根本矛盾展开研究。端到端加密虽然保护了用户通信的机密性，但也使平台无法有效进行内容审核，难以遏制网络滥用行为（如传播有害信息、骚扰等）。已有的可追踪方案允许平台识别消息的原始发送者或传播者，但
Evaluating User Behavior in Smartphone Security: A Psychometric Perspective.
该论文从心理学视角出发，系统评估智能手机用户的安全行为。研究背景在于，现有安全机制（如身份验证、权限提示）的有效性高度依赖用户行为，但用户行为往往受认知偏差、习惯和情境因素影响，且已有研究多聚焦于技术或人口统计学特征，缺乏对内在心理维度的深
ERASER: Machine Unlearning in MLaaS via an Inference Serving-Aware Approach.
本文针对机器学习即服务（MLaaS）中机器遗忘（machine unlearning）与推理服务之间的交互缺陷展开研究。MLaaS 基于从众多数据所有者收集的数据训练模型，提供低延迟的推理服务。为满足数据保护法规中的“被遗忘权”（RTBF）
Privacy-Preserving Data Drift Detection and Recovery for Large-Scale LLM Applications via Proxy Representations
本文提出了 ProxyDrift 框架，用于在大型语言模型（LLM）应用的大规模部署中，在不接触原始用户数据的前提下进行数据漂移检测与评估集恢复。核心问题在于：隐私约束使得无法直接检查用户交互，从而难以获得代表性评估数据集或跟踪生产流量的持
Targeted Counterfactual Fingerprinting for Black-Box LLM Ownership Verification
大语言模型（LLM）作为高价值资产，常面临通过重新部署、微调、量化或进一步对齐而衍生的窃取风险。由于部署后的LLM通常仅通过黑盒查询API对外暴露，所有权验证往往依赖于文本响应的比对。然而，黑盒环境下的开放式生成具有高度的表面形式可变性，重
Compositional Threat Analysis of Latent Compromise in LLM Agent Systems: The Order 66 Scenario
该论文借鉴虚构作品《星球大战》中的“第66号令”情节，提出了一种针对使用工具的LLM代理系统的组合式威胁分析框架。作者指出，在真实系统中，灾难性后果往往并非源于单一强大指令，而是由多个看似无害的组件组合触发：一个被部署的工件或共享内存中潜伏
Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection
检索增强生成（RAG）技术通过从向量知识库中检索语义相似的历史流量，使大语言模型能够对网络流进行分类并生成可读的入侵事件报告。然而，检索层的引入同时带来了知识投毒和提示注入等安全漏洞。本文提出 RAG-IDS，一个三层多智能体入侵检测框架，
Algebraic Attack on Convolutional Neural Networks with Max Pooling
该论文针对卷积神经网络（CNN）中最大池化层的参数提取攻击进行了系统研究。参数提取攻击旨在通过黑盒输入-输出查询恢复深度神经网络的权重和偏置，此前已在基于ReLU的全连接神经网络（FCNN）上得到广泛探索，但在包含最大池化层的CNN中仍是空
Persistent Semantic Entities in Tool-Augmented LLM Systems
该论文研究了工具增强型大语言模型（LLM）智能体系统中一种隐蔽的状态污染现象，作者将其形式化为“持久语义实体”（Persistent Semantic Entities, PSEs）。PSEs 指那些通过名称绑定、事件触发和跨边界传播在会话
Guixu: Valuation-Driven Data Discovery for Autonomous AI Agents with On-Chain Attestation
该论文提出了 Guixu，一个面向自主 AI 代理的、以数据价值评估驱动的数据发现系统。当前自主代理在执行模型训练、决策支持等下游任务时，高度依赖外部数据，但现有数据发现系统大多停留在检索层面：它们只能从异构数据源中返回候选数据集，却无法有
EvoTrustRAG: Evolution-Aware Conflict Attribution and Evidence Handling for Reliable Retrieval-Augmented Generation
本文针对检索增强生成（RAG）系统中证据冲突这一根本性挑战，提出了一种新的研究问题——冲突来源归因（conflict origin attribution），并设计了无训练框架 EvoTrustRAG。在动态和对抗性环境中，同一冲突可能源自
Capability-Routed Guard: Defending Large Reasoning Models Against Reasoning-Centric Jailbreaks
本文针对大型推理模型（LRM）暴露出的新型安全失效模式展开研究：对抗性提示能够操纵推理上下文、任务分解或能力解释，使有害目标被当作合法推理步骤处理。现有防护手段（如安全提醒、外部分类器、自检查包装器）往往脆弱，原因在于它们要么直接检查对抗性
An LLM-Driven Fuzzing Framework for Detecting Logic Instruction Bugs in PLCs.
本文提出 LogicFuzz，据作者称这是首个专门针对可编程逻辑控制器（PLC）固件中逻辑指令库进行模糊测试的框架。PLC 广泛用于工业自动化，其逻辑指令库由供应商提供并编译进设备固件，若存在安全缺陷，可能被物理控制程序、网络服务或运行时子