#format-confusion

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Side Liu, Jiangpeng Liu, Jinwen Xin, Guojun Peng, Jiang Ming

该论文揭示了LLM管道在处理Office Open XML(OOXML)文档(如Word、Excel、PowerPoint)时存在的一种系统性语义完整性缺失问题。研究背景是:在金融、合规和检索增强生成(RAG)等工作流中,LLM常将OOXML文件作为第一手证据,并隐含假设模型消费的证据与Microsoft Office编辑画布显示的内容一致。然而,作者证明这一假设可能失效:同一个符合规范的OOXML文件,在Microsoft Office中呈现一种证据视图,而在为LLM提取时则呈现另一种视图,且每种视图都分别被其消费方视为权威,作者称之为“多源真值”(plural ground truth)。摄入契约很少说明哪个视图和语义角色成为模型证据,也未保留证据的推导过程。作者将引发这种分歧的规范基础OOXML构造命名为“证据分叉”(evidence forks)。研究通过系统遍历和挖掘OOXML规范,在Excel、Word和PowerPoint中确认了21种证据分叉,覆盖视图构建的六个维度。实验使用了13个提取工具,所有工具都至少从一个分叉中产生了证据,并测试了4个原生摄入的LLM API和7个网络聊天机器人。每个测试文档都包含一个“陷阱”:一个任务相关事实在提取时暴露但在Office中不显示。在21机制评估中,4个API在48%到76%的试验中返回陷阱;在21种机制中有20种至少有一个接口返回陷阱。测量还表明,暴露情况由模型上游的摄取路径和提取器配置决定。对16个流行的开源LLM项目的源代码调查进一步显示,默认OOXML摄取路径集中在受影响提取器家族上。该研究的核心贡献在于首次系统化地图了OOXML到LLM摄取链中证据分歧的普遍性和源头,揭示了LLM在处理结构化文档时存在隐藏的语义盲区。适合LLM安全研究员、RAG系统开发者、合规审计工具设计者阅读。

💡 推荐理由: LLM正被广泛用于处理Office文档证据,但提取与显示不一致会导致模型基于隐藏信息作出错误判断,影响合规审计和决策可靠性。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)