RAGScope: A Leakage-Controlled, Cost-Aware Evidence-Gating Protocol for RAG Hallucination Triage
本文研究的是检索增强生成（RAG）系统中的「幻觉分流」问题：如何在成本受限的前提下，对模型生成的答案进行廉价分类路由——低风险答案直接采纳、不确定的送人工复核、只有极少数高成本样本才交给强验证器（如大型 NLI 模型）处理。作者指出，现有评
#model-evaluation
共收录 5 条相关情报。
← 返回所有主题Still There, No Longer Seen: Exposing Compression-Induced Risk in Large Vision-Language Models
该论文关注大型视觉语言模型（LVLM）在推理加速中被广泛采用的视觉 token 压缩技术所引入的安全盲区。压缩能显著降低推理成本，但现有鲁棒性评估多用聚合指标，无法回答一个关键归因问题：某次对抗性失败究竟是由压缩过程新增的，还是原本就继承自
Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
【研究背景】前沿语言模型近年的能力跃升常被归因于推理能力的提升，但在闭源系统中，原始思维链（CoT）轨迹被隐藏，外界无法验证这一说法，也无法审计模型真实的推理过程。【核心问题】如何在不获取模型内部权重或私有日志的前提下，把闭源模型隐藏的中间
Benchmarking Neural Defend ARCAS 1B: A Foundational Multimodal Deepfake Detection Model
该论文对多模态深度伪造检测基础模型 Neural Defend ARCAS 1B 开展系统性基准评测，核心问题是：AI 生成图像技术的演进速度快于针对特定基准的检测器评测节奏，因此单一数据集上的一个分数无法完整刻画模型的泛化能力。作者在不对
Empirical Evaluation of Data Poisoning Attacks in Supervised Learning
该论文针对监督学习中的训练阶段数据投毒问题开展了一次系统的实证评测。研究背景是：数据投毒通过污染训练集来破坏模型整体性能，或向模型中植入由攻击者控制的后门行为，目前多数公开研究聚焦于单一攻击或单一模型，缺乏在统一实验条件下对不同投毒方式、不