A Failure-Mode Benchmark for Polymorphic Sybil Poisoning in RAG
该论文发布了一个针对检索增强生成（RAG）系统中协调性检索投毒攻击的基准测试与失败模式感知评估框架。作者将阅读器输出划分为四个互斥类别（金标准、劫持、弃权、漂移），并引入了实例级别的配对清洁到投毒转换矩阵和强制暴露协议，以隔离阅读器端冲突解
#LLM安全
共收录 3 条相关情报。
← 返回所有主题Attested Tool-Server Admission: A Security Extension to the Model Context Protocol
该论文针对大语言模型（LLM）智能体与外部工具服务器之间通信的安全隐患，提出了一种名为“mcp-attested”的安全扩展机制。当前模型上下文协议（MCP）仅标准化了消息交换格式，但缺乏信任基础：主机（host）直接读取工具服务器自声明的
CoT-Guard: Small Models for Strong Monitoring
该论文提出了一种名为 CoT-Guard 的小型监控模型，用于检测推理模型在代码生成任务中的隐蔽不良行为（即隐藏目标）。当前大型模型（如 GPT-5、Gemini-3-Flash）虽可作为有效的 CoT 监控器，但由于其高昂的部署成本和冗长