#trust

共收录 7 条相关安全情报。

← 返回所有主题
👥 作者: Ranindya Paramitha, Siri Paidipalli, Laurie Williams, Christian Kästner

这篇研究论文关注软件供应链中的信任问题,特别是随着AI生成依赖项等新威胁的出现,供应链信任正在受到侵蚀。作者通过对38名来自工业界和开源社区的从业者进行半结构化访谈,从社会学既有信任概念出发,采用主题分析法,研究从业者实际采用的信任信号、信任控制手段以及他们对信任侵蚀的应对方式。研究发现,从业者普遍感知到信任正在逐渐丧失,而维持信任的成本日益高昂,因此有风险意识的从业者不断增加控制措施。为了应对这种不断上升的信任成本,他们会将验证流程自动化、将信任决策委托给'守护者'(如安全团队或外部审计),甚至考虑完全退出软件供应链。该研究的核心贡献在于,通过信任视角理解软件供应链动态,提出了'信任守护者'、'系统信任'、'信号'等术语和概念框架,为未来构建运作良好且具备适度信任水平的软件供应链提供了干预设计的理论基础。这项研究为安全实践者提供了关于供应链信任现状的实证基线,有助于他们制定更明智的决策。适合软件供应链安全研究者、安全工程师、开源社区维护者以及依赖供应链的企业安全团队阅读。

💡 推荐理由: 供应链攻击频发,信任日益成为稀缺资源。该研究首次提供从业者信任行为的实证基线,帮助安全团队理解控制成本激增的现实,为设计可持续的信任策略提供理论支撑。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Baixiang Liu, Haotian Che, Yuan Li

该论文提出 TrustRAG,一种基于委员会评分与区块链背书的新型检索增强生成(RAG)系统。传统 RAG 依赖集中式数据库,存在数据来源不明、内容被篡改、以及信任缺失等问题,尤其在医疗、金融、物流、法律等对信息时效性和准确性要求极高的领域,错误或被操纵的文档可能引发严重决策失误。TrustRAG 的核心思路是:文档在使用前需经过领域专家组成的委员会通过零知识协议进行认证;委员会成员对文档的隐式评分通过安全多方计算(MPC)聚合为一个可信分数,任何客户端均可验证该分数的正确性。文档数据与信任分数通过哈希承诺在跨链环境中共同维护,确保任何文档或分数都无法被静默篡改或删除,所有的排序结果都可以被独立重放和校验。该方法结合了区块链的不可篡改性和 MPC 的隐私保护特性,解决了 RAG 中文档信任与可审计性问题。实验部分(摘要未详述)预计验证了系统在文档认证效率、跨链一致性以及防篡改能力方面的有效性。该研究适合关注可信 RAG、区块链应用、数据完整性与安全审计的研究人员和工程人员阅读。

💡 推荐理由: RAG 系统在安全敏感场景中的文档可信度是实际痛点。TrustRAG 用区块链和 MPC 提供可验证的信任机制,对依赖外部知识库的 LLM 应用有直接参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zhenhua Zou, Sheng Guo, Qiuyang Zhan, Lepeng Zhao, Shuo Li, Zhuotao Liu

本文提出 InterSAGE,一个面向“智能体互联网”(Internet of Agents)的安全与可验证互操作协议套件。随着大语言模型(LLM)驱动的智能体能够跨组织边界发现对等体、调用工具并委派任务,现有协议(如 MCP、A2A、ANP、AG-UI)主要定义消息交换格式,却缺少对智能体身份、授权、宣称能力及委派后责任的证明机制。InterSAGE 旨在补充这一安全基座,而非取代通信协议。协议由四层组成:持久身份、发现、信任协商和问责。其核心原语包括:(1) 智能体身份卡,绑定开发者、代码包、运营者和部署上下文;(2) 基于 DID 绑定的可验证凭据清单的能力感知发现;(3) 结合单调能力衰减与两级访问控制的信任协商;(4) 由内核中介的加密审计追踪,无需共识账本即可将使用、委派和执行痕迹绑定到智能体身份。InterSAGE 被设计为与主流智能体通信协议互补,使通信协议能独立演进,同时保持信任语义的显式、可移植和可验证。作者将 InterSAGE 与 50 多项相关工作进行了比较,覆盖智能体协议、去中心化身份、OAuth/OIDC 扩展、零信任治理、委派和审计架构,表明没有任何既有架构能够将持久身份、能力感知发现、信任协商和问责统一为四层信任基座,以实现安全的智能体互操作。

💡 推荐理由: 智能体跨域协作已成为现实威胁面,InterSAGE 补齐了身份、授权和审计缺失的关键一环,为蓝队设计智能体安全架构提供了可参考的信任模型。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sahil Pardasani, Madhusudan Singh

本文研究大语言模型(LLM)基准测试中的信任与验证问题。当前模型厂商常自行公布基准成绩,但缺乏透明可验证的机制,导致市场与用户难以分辨真实性能。2025年1月27日,DeepSeek R1 未经证实的性能宣称引发市场恐慌,导致英伟达市值单日蒸发5890亿美元,凸显了不可验证基准的严重经济影响。学术复评与独立榜单发现厂商存在未披露的模型更新、训练数据污染以及选择性报告等现象。为扩大评估规模,业界普遍采用 LLM-as-a-judge(LLM 作为裁判)方法,但研究表明裁判可能表现出身份感知偏差,即根据答案来源模型而非内容质量打分,且这一偏差在政治敏感、推理密集和偏好类任务中未被充分量化或修正。作者使用七个裁判模型(GPT-OSS 120B、Llama 3.3 70B、GLM 5.1、Qwen3 32B、DeepSeek V4 Pro、Mistral Large3、Sarvam M)对三个主模型的匿名与身份披露响应进行打分,涵盖58个事实性、推理、政治及偏好问题。实验显示,身份披露对事实性问题分数提升较小,对压力推理任务影响中等,而对地缘政治敏感话题影响显著。典型结果包括 GLM5.1 提升7.00分(p=0.0249)和 Llama 3.3 70B 提升1.56分(p=0.00)。为缓解验证信任问题,作者提出一种基于区块链的提交-披露协议,利用以太坊兼容账本上的自主经济代理(AEA)。第一阶段,裁判在候选身份披露前记录其分数和随机盐的一次性哈希;第二阶段,披露身份与原始分数并在链上验证。该协议创建了防篡改的审计痕迹,将盲评与事后宣称分离,降低独立研究员和榜单运营方的验证负担。本工作为去中心化的可信 LLM 评估提供了新思路,适合安全研究者、模型评测人员和区块链技术研究者阅读。

💡 推荐理由: LLM 基准的可信度直接关系到供应链安全与投资决策。身份感知偏差可能导致客户选择错误模型,而区块链验证协议为构建透明、防篡改的模型评估体系提供了新方向,对安全评估和合规审计有参考价值。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Sohan Gyawali, Yili Jiang, Jiaqi Huang 0001

该论文针对车联网通信网络中机器学习模型用于误行为检测时存在的“黑箱”问题,提出了一种将可解释人工智能(XAI)与大语言模型(LLM)相结合的新型框架,旨在提供透明、用户友好的解释,从而增强非专业用户(如网络运营商、监管人员)对系统预测结果的信任。具体而言,框架利用XAI(如SHAP)量化每个特征对检测结果的贡献,生成可视化解释;同时,通过引入上下文增强的LLM,将技术性的SHAP输出转化为易于理解的自然语言叙述。在真实车载网络数据集上的实验表明,该方法在保持高检测性能的同时,显著提升了可解释性。研究贡献在于首次将XAI与LLM协同应用于智能交通系统的误行为检测场景,兼顾了检测精度与用户信任需求。适合关注AI安全、可解释人工智能、智能交通系统、人机交互的研究人员和工程师阅读。

💡 推荐理由: 该研究解决了机器学习模型在关键基础设施(如车联网)中部署时因缺乏可解释性而导致用户信任不足的核心问题,为提升AI系统在安全敏感领域的实际采用率提供了可行路径。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Zhiqiang Lin 0001, Xiaojing Liao

该论文介绍了第1届ACM安全与可信超级应用研讨会(SaTS'23)的背景和主要内容。随着超级应用(如微信、支付宝等)的普及,它们整合了多种功能(支付、社交、出行等),成为用户日常生活的核心平台。然而,这种集成也引入了新的安全威胁和信任挑战,例如应用内部的数据隔离、权限管理、第三方小程序安全、用户隐私保护以及供应链攻击等。研讨会旨在汇集学术界和工业界的研究人员,共同探讨超级应用面临的安全与信任问题,并推动相关解决方案的发展。论文概述了研讨会的主题范围,包括但不限于超级应用架构安全、运行时安全、加密协议、访问控制、隐私增强技术以及形式化验证方法。通过这一平台,组织者期望促进跨学科合作,为超级应用的安全生态系统奠定基础。该论文属于研究类别,提供了对该新兴领域的全景式介绍。

💡 推荐理由: 超级应用正成为数字生活的基础设施,其安全缺陷可能导致大规模数据泄露或资金损失。该研讨会揭示了该领域关键研究空白,值得安全从业者持续关注。

🎯 建议动作: 关注相关研究进展,评估内部超级应用安全实践。

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.3)
👥 作者: Yijun Chen, Misita Anwar

本文针对第三方供应商(如分析平台、云服务、身份提供商、软件供应商)日益嵌入数字服务交付所带来的网络安全治理挑战,通过分析2025年11月OpenAI-Mixpanel安全事件这一典型案例,揭示了供应商环境中的安全事件如何转变为与客户保持关系的焦点组织的治理和问责问题。作者借鉴组织信任研究和代理理论,指出第三方网络安全风险既是信任关系也是委托问题:客户信任可见的服务提供商,而服务提供商依赖的供应商其安全实践仅部分可见和可控。论文提出了“传递信任”(transitive trust)的概念,即客户对数字服务的信任依赖于该服务提供商授权的供应商的安全实践。在此基础上,构建了“堡垒与守门人”框架,通过信任和数据流而非仅凭正式组织所有权来解释网络安全治理边界。分析提出了四个命题:供应商整合、元数据暴露、供应商保证和数据扩散。该研究为网络安全治理学术贡献了关于委托数据处理如何产生面向客户的问责性的解释,并识别了对供应商分层、数据分类、合同设计、持续保证和数据最小化的启示。读者对象为网络安全治理研究人员、风险管理人员及供应商管理决策者。

💡 推荐理由: 该论文为理解第三方供应商安全风险提供了新的理论视角(传递信任与委托问题),并通过实际事件案例提出了可落地的治理框架,有助于企业构建更有效的第三方风险管理体系。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)