Security-First Evaluation of Text-to-Terraform: Benchmarking LLMs and SLMs for Secure IaC Generation
该论文研究了大型语言模型（LLM）和小型语言模型（SLM）在生成基础设施即代码（IaC）时的安全性问题，特别是针对AWS Terraform配置。云配置错误是安全事件的主要根源，但业界对LLM/SLM能否生成符合安全规范的IaC缺乏系统性评
#LLM
共收录 2152 条相关情报。
← 返回所有主题Permission Denied: Policy-Graded Evaluation of Coding Agents in Hardened Environments
本文研究编码代理（coding agents）在受企业安全策略约束环境下的性能表现。现实场景中，编码代理通常运行在具有受限凭据、限制出站流量、只读文件系统和非 root 执行等安全控制的组织中，但现有基准测试（如 Terminal-Benc
Latency-Optimal Adaptive Split Inference for Privacy-Preserving Cloud-Edge-End Collaboration
物联网（IoT）终端设备越来越多地被期望支持隐私敏感的批量推理任务，但其有限的计算资源常常使得在本地完整执行卷积神经网络（CNN）变得不切实际。本文提出了一种面向隐私保护的云-边-端协作的延迟最优自适应分割推理框架。在该框架中，终端设备作为
Decoy Images Amplify Caption-Mediated Defenses Against Encoded Jailbreaks
该论文报告了视觉语言模型（VLM）中图像输入与现有黑盒防御之间的一种反直觉交互。研究者发现，将一个编码的越狱提示与一张无关的诱饵图像配对，可以显著降低攻击成功率（ASR）。例如，在纯文本编码输入上几乎不改变ASR的字幕中介防御（ECSO），
CallScreenBench: Benchmarking On-Device Models as Phone Secretaries
该论文提出 CallScreenBench，一个用于评估端侧（On-Device）语言模型充当“电话秘书”能力的基准测试。研究背景是：随着可量化到数比特的小型语言模型在手机上运行，由其代表用户自动处理来电成为可能。与大多数基准测试中的智能体
Inverting the Hidden: Unveiling Multimodal Privacy Leakage in Collaborative LVLM Inference
本文研究协作推理场景下大型视觉-语言模型（LVLM）的隐私泄露问题。协作推理通常将模型计算划分为边缘设备和云端两部分，边缘端保留原始输入，云端处理中间层隐藏状态，这种做法被认为可以保护隐私。然而，作者指出传输中间隐藏状态实际上暴露了严重的攻
Registry Descriptions Go Stale Unevenly: An 89-Day Measurement of Model Context Protocol Drift, and Why Drift-Ranked Re-Auditing Under-Covers It
本文针对Model Context Protocol (MCP) 注册表描述的安全审计时效性问题展开研究。现有MCP安全研究通常基于单一时点的静态审计，未考虑注册表描述随时间变化的情况，导致审计结论可能迅速过时。作者通过88.6天对官方MC
Riddle Me This! Stealthy Membership Inference for Retrieval-Augmented Generation.
本文研究检索增强生成（RAG）系统中的成员推断攻击（Membership Inference Attack, MIA）问题。RAG 通过将外部知识库中的文档检索结果注入到大语言模型的上下文中，实现无需调整模型参数的接地生成。尽管不更新权重避
Automatically Detecting Online Deceptive Patterns.
本文针对数字界面中日益泛滥的欺骗性模式（deceptive patterns）提出了一种自动化检测框架 AutoBot。欺骗性模式利用用户的认知偏差和心理弱点，诱导其做出非本意的决策，常见于各类数字平台，对用户权益构成威胁。现有缓解措施主要
Les Dissonances: Cross-Tool Harvesting and Polluting in Pool-of-Tools Empowered LLM Agents.
本文首次对大语言模型（LLM）智能体在多工具集成场景下的任务控制流安全性进行了系统分析。LLM 智能体利用一组工具进行推理和规划，但多工具集成带来了工具管理、兼容性、依赖关系和控制流保护等安全挑战。作者提出了一种新型威胁——跨工具收割与污染
RT-TEE: Real-time System Availability for Cyber-physical Systems using ARM TrustZone.
RT-TEE 提出了一种面向实时信息物理系统 (CPS) 的实时可信执行环境 (TEE) 设计与实现。传统 TEE（如 ARM TrustZone）在移动平台上主要关注机密性和完整性，但安全关键的 CPS（如自动驾驶汽车、无人机）还需要强实
An AI Approach to Verified Production Cryptographic Libraries
该论文提出 CryptoProver，一个基于人工智能的系统，用于自动合成密码学库的内部规范，并生成经过 Verus 验证的证明。研究背景是：密码学代码是关键基础设施，必须正确无误，但现有形式化验证生产库仍然困难。已有的基于语言模型的证明系
What Syntax Cannot See: The Dynamic Syntactic Invariance Principle and Several Instances of the Same Hidden Assumption, and a Contradiction
本论文提出了一种统一的跨领域研究方法：寻找既有结论中未被察觉的隐含假设，将其显式化为一个可变参数，然后证明当该假设被移除后，结论会发生什么变化。作者将此方法的形式化核心称为“动态句法不变性原理”（Dynamic Syntactic Inva
Neuro-Symbolic Participation Governance for Verifiable AI Agents in Open Digital Twin Ecosystems
本文提出了一种面向开放数字孪生生态系统中可验证AI代理的神经符号化参与治理框架。研究背景是：随着大语言模型赋能的自主AI代理日益成为高价值决策支持系统的重要组成部分，在多机构、去中心化环境下，现有代理系统缺乏对身份、能力和策略合规性的强健验
Multi-LLM Consensus Framework for Evaluating Banking-Sector NIDS Dataset Coverage of MITRE ATT&CK Techniques
该论文针对全球银行网络面临的高级持续性威胁(APT)问题，指出现有网络入侵检测系统(NIDS)在标准基准上表现良好，但在真实银行运营环境中往往失效，主要原因在于通用数据集缺乏金融行业特有的攻击模式，例如与SWIFT和ATM相关的入侵行为。为
Single Canonical Prompts Underestimate LLM Safety's Surface-Form Sensitivity
本文研究大语言模型安全评估中的一个核心方法论问题：基准测试通常以单一规范表面形式（canonical surface form）读取每个测试项目，但这是否能真实反映模型行为？作者提出，当保持项目意图不变、仅改变其保持语义的表面形式时，规范形
Assuming You Knew: Fixing an Epistemic Semantics for Flow Policies Using Agentic AI
该论文针对程序信息流策略的语义形式化问题进行修正与验证。许多高级安全需求涉及程序中允许的信息流动，但由于存在选择性降级（selective downgrading）而难以精确表达。认识逻辑（epistemic logic）中的概念被视为一种
XR-PRISM: Data-Driven Privacy and Risk Impact Scoring Metric for Extended Reality in Healthcare
该论文提出了一种面向医疗保健场景中扩展现实（XR）技术的隐私与风险影响量化评分指标 XR-PRISM。研究背景是 XR 技术（涵盖虚拟现实 VR、增强现实 AR、混合现实 MR）通过沉浸式训练、远程会诊和患者康复等应用正在变革医疗行业，但其
Hardware-rooted attestation for AI-agent evidence: composing IETF RATS with action evidence packages
本文提出一种将硬件根信任与 AI Agent 软件层证据相结合的可信证明方案。作者指出，纯软件层的行为证据包（Action Evidence Package, AEP）——即由 Agent 运行时签名的、仅可追加的日志记录（包含操作内容、授
Safety Invariants for Agents Orchestrating Irreversible State Transitions: A Four-Dimensional Formalism Evaluated on Public Ledgers
随着LLM驱动的自主代理越来越多地执行对外部系统的不可逆操作（如转账、写入持久存储、控制硬件），现有框架如ReAct、Reflexion、MCP主要优化任务成功率，对不可逆副作用的关注不足。本文聚焦公共账本上的价值转移场景，将状态转换建模为