Prεεmpt: Sanitizing Sensitive Prompts for LLMs.
本文针对大型语言模型（LLM）推理阶段中提示词（prompt）包含敏感信息可能泄露给专有LLM API 的隐私问题，提出了一种基于密码学思想的提示词净化器（prompt sanitizer）概念及其系统实现 Prmpt（论文标题中写作 Pr
#LLM
共收录 2152 条相关情报。
← 返回所有主题The Anatomy of a Prompt Injection: A Component Model for Structured Analysis
该论文针对提示注入（Prompt Injection）攻击缺乏结构化描述的问题，提出了一种七组件模型，用于对提示注入工件进行形式化分析。自2022年提示注入被首次识别以来，虽然Agent能力不断进化、威胁行为者已将注入嵌入以破坏AI辅助安全
Can AI Write Compliant Code, and to What Extent? Evaluating SOC 2 Compliance of Claude Fable 5, Claude Opus 4.8, and Claude Opus 5 Across Four Use Cases
该论文系统评估了前沿大语言模型在无人提示安全要求时编写代码的合规性，以及仅提及一次安全标准对结果的影响。研究选取三个模型（Claude Fable 5、Claude Opus 4.8、Claude Opus 5），在四个典型用例（S3 CL
Who Verifies the Benchmark? Decentralizing Trust in Large Language Model Evaluation
本文研究大语言模型（LLM）基准测试中的信任与验证问题。当前模型厂商常自行公布基准成绩，但缺乏透明可验证的机制，导致市场与用户难以分辨真实性能。2025年1月27日，DeepSeek R1 未经证实的性能宣称引发市场恐慌，导致英伟达市值单日
IntelliAudit: Using Large Language Models to Evaluate Audit Controls
本文提出IntelliAudit系统，旨在解决IT审计中自动化评估证据的难题。传统审计需要审计员判断异构组织证据（如政策、记录、电子表格和操作工件）是否满足语义安全与合规控制，这种判断难以自动化，因为相关证据分散且审计结论依赖证据充分性而非
Adversarial Attacks on Deep OCR Systems
本文针对深度OCR系统（具体为DeepSeek-OCR）提出了首个纯黑盒对抗攻击方法。Deep-OCR将视觉模态视为光学压缩介质，以低token成本实现长上下文OCR，但其复杂性也引入了新的安全风险。作者将攻击问题重构为一个零阶优化问题：仅
"Operator, can you hear me?" A Faithful Line into the UNISOC Baseband
本文提出了一种针对 UNISOC 基带处理器的高保真重托管（re-hosting）方法，名为 Unislop，旨在解决基带安全分析中因执行环境近似和片上系统（SoC）复杂性低估而导致的协议状态机难以系统化分析的问题。基带处理器通过无线信号始
Soft Redaction of Image Provenance via Zero-Knowledge Proofs
该论文提出了一种用于图像来源信息（provenance）的“软删除”（soft redaction）机制，旨在解决C2PA等来源标准中透明度与隐私之间的冲突。C2PA标准通过附加签名记录来声明图像的来源、编辑历史和权利信息，但这些断言可能泄
Beyond Text Matching: Towards Reference-Free Evaluation for Human-Oriented Binary Reverse Engineering
本文针对人类导向的二进制逆向工程（HOBRE）评估难题展开系统性研究。HOBRE 旨在将反编译伪代码转换为更易读、更符合人类认知的表示形式，以降低逆向分析人员的认知负担。然而，如何可靠地评估 HOBRE 输出一直是核心挑战：人工评估成本高昂
HarnessSafe: Evaluating Safety Across Persistent Carriers in Agent Harnesses
该论文提出一个名为 HarnessSafe 的基准测试，聚焦于现代智能体 harness（agent harness）中持久化载体（persistent carriers）带来的延迟安全风险。现代智能体系统为了跨任务和会话保持状态，会使用内
Statistical Analysis of Executability and Program Equivalence in Decompilation for IoT Vulnerability Detection
本文针对物联网（IoT）固件漏洞检测中的反编译质量问题展开研究。IoT 设备常处理音频、视频、认证数据等敏感信息，其固件漏洞检测至关重要。反编译是关键技术之一，而基于大语言模型（LLM）的反编译工具虽能提供高可读性和高重编译成功率，但由于
When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse
本文针对检索增强生成（RAG）系统面临的投毒攻击威胁，提出了一种基于文档级注意力坍缩（Attention Collapse）的检测方法。RAG通过注入外部文档来增强大语言模型的生成能力，但攻击者可能注入对抗性文档以操纵模型输出。现有检测方法
SynChain: Inducing Computer-Use Agent Systems to Construct Their Own Attack Chains
计算机使用代理（CUA）系统将大型语言模型（LLM）转化为可持久执行的智能体，能够生成、存储并复用技能（skills）和记忆条目（memory entries）等工件。然而，现有安全防御大多将攻击视为外部触发或时间有限的过程，未能有效应对恶
Understanding and Improving Model Editing for Secure Code Generation
本文针对大型语言模型（LLM）在代码生成任务中可能复现不安全训练模式、生成漏洞代码的问题，首次系统性地研究了模型编辑（model editing）作为一种模型级安全硬化机制的有效性。与先前主要聚焦于推理时加固（如CoSec）的方法不同，模型
When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
本文针对大语言模型（LLM）作为高层规划器在具身多机器人系统中的应用，系统研究了多机器人协作中通信环节的安全威胁。以往研究主要关注单个机器人的安全性，对多机器人协同通信风险的理解不足，且现有工作仅针对去中心化多智能体系统（DMAS）架构进行
Retrieval-Constrained Policy Optimization for Attack Technique Extraction from Cyber Threat Intelligence
该论文提出了一种名为 TTP-R1 的两阶段框架，用于从网络威胁情报（CTI）文本中自动提取 MITRE ATT&CK 攻击技术。手动标注 ATT&CK 技术成本高昂且难以扩展，而 ATT&CK 分类体系包含数百种技术，单条 CTI 文本可
PGFUZZ: Policy-Guided Fuzzing for Robotic Vehicles.
该论文介绍了一种面向机器人的模糊测试框架 PGFUZZ（Policy-Guided Fuzzing）。研究背景在于，机器人车辆（如无人地面车辆、无人机等）依赖传感器和控制策略进行自主决策，而策略中存在的逻辑漏洞可能被攻击者利用。现有模糊测试
Predictive Response Optimization: Using Reinforcement Learning to Fight Online Social Network Abuse.
该论文提出了一种名为预测响应优化（Predictive Response Optimization, PRO）的框架，用于解决在线社交网络（OSN）中的滥用检测问题。传统研究几乎都将滥用检测视为一个二元分类问题，即训练一个高精度/高召回的分
Compositional Security for Reentrant Applications.
该论文聚焦于智能合约等可重入应用（Reentrant Applications）的组合安全（Compositional Security）问题。智能合约中反复出现的灾难性漏洞（如著名的重入攻击）表明，在编写需要与恶意代码组合运行的软件时，我
Data Privacy in Trigger-Action Systems.
本文研究触发-动作平台（Trigger-Action Platforms, TAPs）中的数据隐私问题。TAPs（如IFTTT、Zapier）允许用户将独立的Web服务或物联网设备连接起来，通过简单的“触发-计算-动作”规则实现自动化，例如