Perception-Aware Attack: Creating Adversarial Music via Reverse-Engineering Human Perception.
本文提出了一种新颖的“感知感知攻击”框架，用于生成对抗性音乐样本，在保持攻击有效性的同时，尽可能降低人耳感知到的音频质量损失。传统对抗性机器学习攻击通常只关注通过添加微小噪声扰动来欺骗音频分类器（如语音识别、说话人识别、音乐版权检测），但很
#LLM
共收录 2152 条相关情报。
← 返回所有主题When Agents Act on Web3: An Attack-Surface Survey of MCP, Skills, and Tool Calling
该论文是一篇面向AI代理（AI Agent）在Web3环境中攻击面的系统性综述。研究背景是：AI代理正从“只读”转向“执行”，在模型上下文协议（MCP）生态系统中，能够修改外部状态的工具调用占比已从27%升至65%。当代理通过MCP、技能（
COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models
本文针对多模态大语言模型（MLLM）在视觉输入场景下的新型安全风险展开研究。作者指出，在许多多模态越狱攻击中，单独的文本提示或图像本身并无危害，但当模型将一个看似无害的操作（如摘要、翻译、指令跟随）绑定到一个具体视觉目标时，不安全行为便会产
PACE: Policy-Attested Contract Execution for Safe AI Agents in Decentralized Finance
本文提出 PACE（Policy-Attested Contract Execution），一个面向去中心化金融（DeFi）中基于大语言模型（LLM）的自主智能体的交易级授权框架。研究背景在于：LLM 智能体在规划链上交易（如代币兑换、借贷
Fool's Gold: Defensive Deception Against Safety-Removal Attacks on Open-Weight Models
该论文提出一种针对开放权重语言模型安全对齐可被轻易移除问题的防御性欺骗方法。作者指出，通过“abliteration”技术，攻击者可以在几分钟内从模型权重中投影出拒绝中介方向，从而移除安全对齐，且目前没有发布时防御能持久阻止。论文的核心思想
Benchmarking the Benchmarks: Evaluating Automated Safety Benchmarks for Small Language Models
这篇 arXiv 论文系统性地评估了现有自动化安全基准在小型语言模型（SLM）上的适用性与可靠性。研究背景是：SLM 正越来越多地被部署在资源受限、对隐私敏感的场合（如边缘设备、本地推理），其安全性和偏见问题可能引发实际的安全与社会风险。然
Beyond the Hype: Evaluating LLM Integration and Practical Limitations in Security Operation Centers
本文通过半结构化访谈 20 名安全运营中心（SOC）从业人员（包括一线分析师、SOC 经理和工具开发者），系统评估了大语言模型（LLM）在 SOC 中的集成现状与实际限制。研究背景是 LLM 正越来越多地被引入 SOC 以支持日志摘要、告警
Authorization Before Context: A Model-Neutral Audience Boundary Against Cross-Audience Memory Leakage in Agentic Systems
该论文研究的是个人语言智能体（personal language agent）中的跨受众记忆泄露问题。作者指出，智能体可能从某一受众处学习到某个事实，随后在组装提示词时将其放入面向另一受众的上下文中，这一“记忆到上下文”的转换步骤构成攻击面
Picture the Epsilon: Pursuing Identity-Level Privacy Guarantees for Images
本文聚焦于图像到图像的人脸生成器（如 FaceFusion、InstantID）的隐私审计问题。尽管视觉差异常被当作隐私保护证据，但作者指出这种直观判断缺乏形式化的身份级隐私保证。为此，他们提出一个统一的审计框架，比较四种适用于预训练黑盒人
Digital Twin-Based Intrusion Detection for Vehicle Powertrain CAN Bus Systems
该论文提出了一种基于数字孪生（Digital Twin, DT）的入侵检测系统（IDS），用于车辆动力总成控制器局域网（CAN）总线，旨在检测那些保持正常消息时序、频率或序列但操纵有效载荷的隐蔽攻击。现有CAN入侵检测方法主要关注消息时序或
Structured Driving-State Narratives for Small Language Model-Based GNSS Spoofing Detection
该研究针对自动驾驶汽车（AV）依赖 GNSS 定位而易受欺骗攻击的问题，提出了一种基于小语言模型（SLM）的 GNSS 欺骗检测与分类框架。与以往直接分析原始信号或车辆状态的方法不同，该框架将来自 GNSS 和其他传感源（如惯性测量单元、摄
Certified but Private: Scalable Zero-Knowledge Proofs for Neural Network Guarantees
本文提出 PANDA，一个基于零知识证明（ZKP）的可扩展系统，用于在保护神经网络模型参数私密性的同时，形式化地证明模型的鲁棒性和公平性。随着机器学习模型在安全关键和法律合规场景中的部署日益增多，模型的鲁棒性和公平性保证变得重要，但模型参数
CUSTOS: Toward Forensic-Ready Zero Trust at the Capture-Containment Boundary
该论文提出 CUSTOS，一种面向取证就绪的零信任（Zero Trust, ZT）参考架构，旨在解决零信任模型与传统数字取证之间的根本性冲突。零信任以持续验证取代隐式信任，但互TLS、瞬时工作负载、身份中心化控制及自动化修复等措施显著降低了
ECO-ID: Event-Camera based Optical System for Secure Multi-User Ultra-Low Latency Identification
本文提出 ECO-ID，一种基于事件相机（event camera）的可见光通信（VLC）光学系统，用于多用户、超低延迟场景下的设备身份识别。时间关键型交互系统（如增强现实、多人协作、工业控制）对身份识别的延迟要求极为苛刻，而传统方法（密码
GEO-Flag: Detecting and Measuring GEO-Optimized Web Content
本文针对生成式引擎优化（GEO）带来的新型内容操纵风险展开研究。GEO 通过修改网页内容，提高其被生成式搜索引擎（如基于大语言模型的检索增强系统）选中和引用的概率，使得部分页面获得超出其权威性或相关性的可见度，甚至可能让质量较低或虚假的信息
Topological Attribution Distance (TAD): Revealing Segment-Level RAG Influence on LLM Output Geometry for Incident Log Analysis
本文提出了一种名为拓扑归因距离（Topological Attribution Distance, TAD）的新方法，用于解决大语言模型（LLM）在网络安全运营中输出证据归因与溯源的问题。随着LLM和Agentic AI被集成到安全运维系统
What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents
本文针对基于大语言模型（LLM）的个性化对话代理中长期记忆模块的隐私风险展开研究。现有记忆架构通常只优化功能效用（如个性化响应质量），却忽视了不必要存储和重用个人隐私属性（如PII）所带来的泄露风险。仅仅删除敏感值会降低系统效用，因此隐私保
LLMs for Zero-Shot Threat Detection via Structured Risk Indicators
本文提出一种基于大语言模型（LLM）的两阶段框架，用于从异构安全日志中进行零样本内部威胁和高级持续性威胁（APT）检测。该方法首先将用户活动建模为按时间顺序排列的时间线，并引入检索增强生成（RAG）技术，从用户历史行为中提取个性化上下文，以
Vantage: Availability-Graded Broadcast for Signature-Free BFT
Vantage 是一篇关于拜占庭容错（BFT）共识协议的学术论文，发表于分布式计算领域（cs.DC）。传统的高吞吐无签名 BFT 协议依赖数字签名来提供可转移的证据，使区块和投票能够被第三方验证，但签名带来额外开销。本文提出了一种仅使用认证
DCI: Dependency Confidence Index for Assessing Open-Source Dependency Trustworthiness
开源软件供应链安全中，选择可信赖的依赖项仍然是一个重大挑战。现有工具如 OpenSSF Scorecard 提供了安全评分，但往往忽视了软件开发过程中的多维度信任因素。为此，本文提出依赖置信指数（Dependency Confidence