CorrectGuard: Eyes-Off Correctness Estimation for Black-Box Security Guardrails
该论文聚焦 AI 服务中广泛部署的"黑盒安全护栏"(guardrail)的审计难题。现实中,出于隐私与合规要求,审计方往往处于两种受限状态:一是"人类不可见"(human eyes-off),即禁止人工查看用户输入内容;二是"机器不可见"(
#guardrail
共收录 10 条相关情报。
← 返回所有主题Persona Guardrail: A Production-Grade Defense Framework for Agentic Systems
该论文关注的是基于大语言模型的智能体（agent）在生产环境中的功能边界失控问题。作者指出，当前多数运行时护栏（runtime guardrail）主要针对提示注入等特定攻击行为，且普遍在黑盒威胁模型下工作，难以保证智能体「只在被授权的功能
HE-Guardrail: A Homomorphic Guardrail Against Jailbreak Attacks for Encrypted Large Language Model Inference
同态加密（HE）已成为隐私保护机器学习（PPML）的重要技术路线，允许在密文上直接进行模型计算。在基于 HE 的 PPML 场景中，客户端将加密输入提交给服务端，服务端在无法获知明文的前提下对 LLM 等模型完成推理。论文指出这一设定中存在
CS-Guard: Benchmarking LLM Guardrails for Code Generation Security
该论文提出 CS-Guard——据作者所述是首个系统性评估「代码生成安全护栏（guardrail）」的基准测试框架。研究背景是：大语言模型已被滥用于生成恶意软件，但现有护栏在代码生成场景下的实际防护效果缺乏系统量化。CS-Guard 从两个
HiveTraceGuard-Pro: A Compact Generative Guardrail for Prompt Injection, Jailbreaks, and Adversarial Obfuscation
本文提出并评估了 HiveTraceGuard-Pro——一个面向生产环境大语言模型（LLM）的轻量级生成式护栏模型，用于检测提示注入、越狱（jailbreak）以及对抗性混淆内容。作者指出，现有公开研究大多集中于英语场景，对俄语提示注入和
Influence Is Not Authority: When Causal Guardrail Signals Make Legitimate Tool Use Look Like an Attack in Tool-Using LLM Agents
本文研究了当前最先进的基于影响（influence）的保护机制（guardrails）在工具使用型 LLM 代理中的局限性：它们无法可靠地区分合法且经用户授权的动作与恶意未授权的动作，当两者都依赖外部工具信息时。这种模糊性可能导致良性动作触
Reflex-Guard: A Low-Latency Guardrail for LLM Prompt Safety Using Dense Semantic Embeddings
该论文针对大型语言模型（LLM）在实际部署中面临的安全挑战——攻击者通过精心构造的提示词（prompt）绕过安全控制。现有防护方法（如 LLM-as-a-judge 和基于云的安全 API）虽能检测不安全内容，但每次请求会增加约 250-9
Withholding the Completing Chunk: Deterministic Pair-Completion Guardrails for Streaming LLM Output
流式大语言模型（LLM）输出在逐 token 释放时面临审核时机困境：若等待完整输出再审核，敏感内容已经到达用户；若对每个前缀反复进行语义分类，则计算开销大且结果不稳定。本文提出一种确定性的配对完成防护栏（pair-completion g
Behind the Refusal: Determining Guardrail Activation via Behavioral Monitoring
本文提出了一种针对大型语言模型（LLM）及智能体系统中防护栏（guardrail）的黑盒侦察方法。在现实应用中，LLM常配备防护栏系统以检测并阻止恶意指令。然而，在进行黑盒对抗模拟时，研究人员难以区分防护栏拦截与LLM自身拒绝响应（LLM
Provably Secure Agent Guardrail
本文针对大型语言模型从有限生成引擎向具有广泛执行权限的智能代理转型过程中出现的失控问题，提出了一种基于逻辑推理基本局限性的新型安全范式。现有防御架构主要依赖经验性语义护栏和概率性大模型裁决器，无法在复杂语义符号解耦攻击下提供确定性安全下界。