Breaking the Assumptions: Auditing Input-Side Jailbreak Defenses Against Semantic Attacks
本文对本地部署大语言模型（LLM）的输入侧越狱防御机制进行了系统性审计。研究背景是：通过Ollama等推理引擎本地部署的LLM，缺乏API服务模型所具备的内容审核与滥用检测机制，因此模型安全性完全依赖于防御手段，而防御手段的有效性取决于其设
#agent-security
共收录 1542 条相关情报。
← 返回所有主题BanglaVeilGuard: Cross-Script Safety Benchmarking and Lightweight Guardrails for Bangla Large Language Models
孟加拉语（Bangla）大语言模型的安全评测长期依赖英语中心或标准拼写基准，但真实用户常混用多种书写形式，包括标准孟加拉语、罗马化孟加拉语、Banglish（孟加拉语与英语混合）、代码混合孟加拉语-英语、噪声拼写及方言变体，导致现有安全评测
ExplainGuard: A Zero Trust Framework for Post-Hoc Explanation Integrity Guarantees in Blackbox XAI Models
随着机器学习模型在高风险场景中的广泛部署，可解释人工智能（XAI）方法（如SHAP和LIME）已成为满足监管合规和建立信任的关键工具。然而，当前的黑盒模型审计范式隐含地依赖一条“信任链”，即默认第三方审计人员是可信的。近期研究表明，这一假设
PELTA - Shielding Multiparty-FHE against Malicious Adversaries.
多方全同态加密（MFHE）允许多方在保护数据机密性的前提下高效地联合计算函数，但现有MFHE方案通常仅能抵御“诚实但好奇”的敌手，无法在恶意敌手模型下同时保证数据机密性与计算结果的正确性。本文提出了PELTA，据我们所知，这是首个实用的、能
Cross-Layer Roots of Trust: Integrating Biometrics, PUFs, and Hardware Obfuscation
该论文是一篇关于硬件与生物特征融合信任机制的综述性研究，由Nima Karimian撰写，核心关注现代网络物理系统、物联网、可穿戴设备及边缘计算场景中日益突出的“人-设备-功能”三重信任需求。传统上，生物识别用于确认用户身份，但面临呈现攻击
Enhancing User Resilience Against AI-Augmented Phishing: A Two-Stage Framework for Detection and Personalized Training
本文针对人工智能（包括智能体和深度伪造技术）的快速发展导致的网络钓鱼攻击门槛降低、攻击频率和复杂度显著上升的问题，提出了一种两阶段反钓鱼框架 CyberGLA。该框架的核心设计理念是结合技术防御与以用户为中心的安全教育，以应对现代钓鱼攻击融
BeTaL-GBI: Admission-Aware Benchmark Tuning and Full-Stack Verification of Geometric Belief Interfaces
本文提出 BeTaL-GBI，一个面向“几何信念接口”（Geometric Belief Interfaces）的可信验证基座，核心目标是让企业级验证架构不仅能检查模型输出，还能暴露自身声明中的错误。作者首先指出先前版本 GBI-DCSE
SecOPD: Mitigating Adaptive Prompt Injections by On-Policy Distillation
该论文聚焦于AI智能体面临的首要安全威胁——提示注入（Prompt Injection）。当智能体访问网站、文件或邮件等外部数据时，攻击者可在数据中嵌入恶意指令（如“忽略之前所有指令并执行攻击者任务”），从而操纵智能体行为。现有防御方法通过
Utility Under Attack: Agent Memory Poisoning and the Limits of Content Screening and Provenance Ranking
本文研究了大型语言模型（LLM）智能体中持久记忆机制的安全漏洞：一旦虚假信息被写入记忆，它会在未来会话中被检索，导致错误持久化。作者在LongMemEval语料库中通过单次注入、无需任何指令或触发器，仅用1.2%的明显虚假断言即可将模型准确
AID-Guard: Stateful Authorization for Delegated Agent Effects
本文提出了一种名为 AID-Guard 的状态化授权闭合协议，用于解决工具型 AI 代理在委派任务时出现的授权与效果不一致问题。传统授权机制通常在请求准入时一次性完成，但代理在执行过程中，提供方状态、投递、重试和恢复等阶段会不断变化，导致已
Masking Is Not Enough: Generative Restoration for Multimodal De-Identification in Medical AI
该论文关注医疗AI中多模态数据（图像+文本）的去标识化（de-identification）问题。随着医疗视觉语言模型的发展，图像中可能包含可见的受保护健康信息（PHI），如患者姓名、病历号等，而文本侧也可能泄露隐私。现有方法往往将去标识化
Billion-Scale Nearest-Neighbor Search under Fully Homomorphic Encryption on a Single GPU, Balancing Leakage and Cost
本文提出了一种在单个GPU上对十亿级向量数据库执行全同态加密（FHE）最近邻搜索的系统，核心目标是让服务器在无法看到明文查询的情况下完成相似度评分，并返回仅客户端可解的加密结果。为了解决全库加密评分在十亿规模下速度过慢的问题，作者结合了两种
Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems
本论文针对检索增强生成（RAG）系统中的安全性与可靠性缺口展开研究。RAG 通过引入外部知识来增强大语言模型（LLM）的输出，但现有系统往往盲目信任检索结果，导致高语义相关性并不保证事实真实性，从而形成安全-可靠性缺口。攻击者可利用知识投毒
$Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN
该论文针对开放与解耦的6G无线接入网（RAN）中多供应商共存场景下的AI辅助控制安全问题，提出了一种名为Z²-ACT（零知识可审计控制与零信任可验证智能体意图架构）的端到端解决方案。随着6G RAN走向开放化和虚拟化，网络需要承载来自不同厂
Structured but Fragile: On the Limits of LLMs in Cybersecurity Decision-Making
该论文系统性地评估了大型语言模型（LLM）在网络安全决策任务中的结构化推理能力，特别是在防御选择场景下的表现。研究基于真实威胁场景（包括勒索软件、供应链入侵、云滥用、Kubernetes攻击、POS恶意软件以及ICS/OT入侵）生成的攻击图
Vibe Coding and Web Application Security: A Twin-Prompt Study
本研究聚焦于“Vibe Coding”这一新兴开发范式，即通过自然语言提示由大语言模型直接生成完整Web应用程序，并探讨一个核心问题：在提示中显式加入安全需求说明，是否能够显著提升生成代码的安全性。作者设计了双提示词对照实验，选取六个功能各
SAC-Copula: Quality-Preserving Watermarking for Diffusion Language Models via Smooth Correlated Gumbel Fields
该论文提出 SAC-Copula，一种面向扩散语言模型（DLM）的保质量水印方法。与自回归解码不同，DLM 采用迭代并行去掩码机制，现有基于采样的水印方法通常注入逐位置的独立同分布扰动，与 DLM 的解码动态不匹配，导致生成质量下降。SAC
GhostTac: Manipulating Tactile Sensors without Physical Contact
本文提出了一种名为 GhostTac 的新型攻击方法，首次实现了无需物理接触即可通过电磁干扰（EMI）操控机器人触觉传感器的输出。触觉传感器是现代机器人感知物理环境并实现精细操作的关键组件，但其物理层安全性此前鲜有研究。作者发现，EMI 信
Structural Inference in Undocumented Mobile Databases: A Reproducible Benchmark for Evaluating Agentic Reasoning in Digital Forensics
该论文研究智能体大语言模型在数字取证场景中对未文档化移动应用数据库进行结构推断的能力。数字取证分析越来越依赖智能体 LLM，但模型能否准确推断移动应用数据库内部的关系结构（如表间关系、连接属性和可执行连接路径）仍缺乏系统评估。在取证语境下，
Scalable PII Discovery in Mobile App Databases via Hypothesis-Driven Search
在移动设备取证中，从应用数据库中发现个人身份信息（PII）是一项极具挑战性的任务，因为相关的表列区域未知，且分散在异构的SQLite模式中，值还可能嵌入自由文本或半结构化字段。本文提出了一种假设驱动的框架（Hypothesis-Driven