Making Agents More Consistent: Skills Should Form Habits for Repeat Tasks
该论文关注的是「智能体在重复性任务上表现不一致」这一被长期忽视的可靠性问题。作者首先做了量化测量:选取 42 个任务、每个任务重复执行三次,结果显示根据所用模型不同,有 38% 到 74% 的重复执行返回了互相不一致的答案。作者指出,一致性
共收录 10 条相关情报。
← 返回所有主题该论文关注的是「智能体在重复性任务上表现不一致」这一被长期忽视的可靠性问题。作者首先做了量化测量:选取 42 个任务、每个任务重复执行三次,结果显示根据所用模型不同,有 38% 到 74% 的重复执行返回了互相不一致的答案。作者指出,一致性
该论文聚焦于联邦学习在临床多中心研究中的落地难题。作者指出,联邦学习虽然能在不共享患者级原始数据的前提下实现多方协同建模,但绝大多数研究仍停留在仿真阶段,难以真正部署到跨医院的真实临床研究中。为厘清差距,作者先从文献中归纳出五项核心需求(涵
该论文针对当前大模型安全对齐流水线的一个结构性缺陷:训练与评估只评判模型的最终答案,因此无法区分「真正稳健的拒答」与两类不良捷径——(1) 对良性请求的一律拒答(过度拒答),(2) 理由写得漂亮、看似安全但并未真正约束答案的「不忠实安全解释
本文研究审议性民意调查(deliberative poll)中参数选择机制的可审计性问题。当提交的论证数量超出任何个人的阅读能力时,必须有一种机制决定每个选民看到哪些论点,这一过程实际上掌握了大部分决策权。现有实践常常依赖不透明的学习型排名
该论文针对大语言模型(LLM)辅导系统中一类特殊的失败模式:模型给出的回答虽然正确且有帮助,却可能在未经授权的情况下提前泄露答案或关键推理步骤。作者将这种状态与动作相关的失败形式化定义为“教学泄漏”(pedagogical leakage)
该论文针对跨组织联邦学习(cross-silo FL)中跨边界会话操作准入的审计难题,提出了一种可审计的会话准入网关(Session Admission Gateway)。当前常见的准入方式依赖中心化策略服务、平台配置或临时检查,这些方式随
该论文研究将电信/IoT欺诈控制重新定义为区块链链接的可审计决策管理问题。传统欺诈控制研究通常止步于检测器级别的分类,而实际部署需要请求级别的策略决策、生命周期可追溯性和可审计性。论文提出一个框架,将每个合成部署记录映射为受管理请求,通过确
该论文提出了Pramana,一个用于自治代理网络中的声明验证的协议层解决方案。在受监管领域中,自主代理对每个关键输出必须产生一个可审计的验证工件,记录声明内容、来源、执行者、时间和方式。当前的生产验证分为两个未标准化的方向:概率性判决模式(
这篇论文针对公共机构在资助评审中引入大语言模型(LLM)作为决策辅助工具时面临的治理难题:模型和评分标准不能暴露给申请人以防他们针对优化,但评审过程必须可审计、可质疑且可问责。作者提出了一种基于可信执行环境(TEE)的架构,通过远程证明技术
提出Sovereign Agentic Loops (SAL)架构,通过控制平面解耦LLM推理与执行,验证模型意图后再执行,防止不安全API调用。