Covert Influence Between Language Models
该论文研究语言模型之间的隐蔽影响（covert influence）现象，即一个发送者模型通过人类无法察觉的载体（carriers）将其行为倾向（payload）传递给接收者模型。作者在三种接口上刻画了这种风险：监督微调（SFT）、在线策略
#LLM
共收录 2152 条相关情报。
← 返回所有主题Need to Know: Contextual-Integrity-Grounded Query Rewriting for Privacy-Conscious LLM Delegation
本文针对用户向云端LLM发送查询时的隐私泄露问题，提出了一种基于情境完整性（Contextual Integrity, CI）的查询重写方法。现有基于PII类型的脱敏方式忽略上下文，导致两类问题：过度暴露未标注的敏感上下文，或过度移除与回答
Black-box, Adaptive, Efficient, Transferable, Harmful, Applicable... Attacks Are All You Need to Break LLMs
该论文针对大型语言模型（LLM）的对抗鲁棒性评估缺乏标准化基准的问题，提出了一种新的攻击方法——间接危害优化（Indirect Harm Optimization, IHO）。目前，LLM的越狱攻击评估存在诸多缺陷：攻击设计不完善会导致鲁棒
Testing LLM Arithmetic Reasoning Generalization with Automatic Numeric-Remapping Attacks
该论文研究了大型语言模型（LLM）在算术推理任务中对数值变化的鲁棒性问题。尽管LLM在基准测试中表现优异，但已有研究表明其对数值变化敏感：同一问题在不同数值下可能失败。现有方法多依赖模板或人工约束，局限性较大。为此，作者提出一种自动化的数值
Overlaying Governance: A Compositional Authorization Framework for Delegation and Scope in Agentic AI
随着AI系统从被动模型演变为能够自主发起行动、协作和委托任务的自主智能体，传统软件系统的边界变得模糊。传统的授权和委托框架基于固定的主体、显式请求和静态范围，不足以治理智能体系统。智能体AI需要更丰富的授权语义：智能体必须能够继承和委托权限
Learn from Your Mistakes: Tree-like Self-Play for Secure Code LLMs
本文提出了一种名为 Tree-like Self-Play (TSP) 的框架，旨在解决大型语言模型（LLM）在代码生成中易重现训练数据中安全漏洞的问题。现有的对齐技术如监督微调（SFT）和强化学习（RL）通常对整个序列进行粗粒度优化，无法
FORGE: Multi-Agent Graduated Exploitation and Detection Engineering
该论文提出一个名为FORGE的多智能体系统，旨在打通漏洞披露、利用优先级排序和检测规则工程三个通常孤立的研究领域。当前自动化利用生成系统仅报告二元通过/失败结果，丢弃部分进展，且不产生对其他两个领域有用的信号。FORGE通过“渐进式利用深度
Selective Token-Level Cryptographic Redaction for Privacy-Preserving Clinical Deployment of Large Language Models
本文针对大型语言模型（LLM）在临床部署中因传输原始敏感健康信息而导致的隐私泄漏风险，提出了一个名为HERALD（Healthcare Encryption & Redaction via Adaptive Linguistic Decom
RUBAS: Rubric-Based Reinforcement Learning for Agent Safety
随着大语言模型（LLM）发展为能够使用工具（tool-enabled）的智能代理（agent），安全问题从单纯的文本生成扩展到实际执行环节，带来了新的挑战。现有的对齐方法（如基于拒绝信号的强化学习或静态监督）难以在安全性和工具执行有用性之间
RogueMerge: Robust and Unified Attacks against LLM Model Merging
本文提出了 RogueMerge，一个针对大语言模型（LLM）模型合并过程的统一攻击框架。模型合并通过聚合来自未经验证的公共平台的任务向量，将多个专用能力组合到单个 LLM 中，这暴露了关键的供应链攻击面：因为任何恶意行为都可以编码到任务向
FLIPS: Instance-Fingerprinting for LLMs via Pseudo-random Sequences
该论文提出了一种针对大型语言模型（LLM）的实例级指纹识别方法FLIPS。当前LLM的指纹识别技术主要服务于知识产权保护，其设计偏向于对实例级参数（如指令提示、采样配置、量化方式等）变化的鲁棒性，然而这导致无法区分同一模型的不同配置。但AI
Poster: GLog: Self-Evolving Log Anomaly Type Prediction via Instruction-Tuned LLM and Clustering.
该论文提出了一种名为 GLog 的自进化日志异常类型预测框架，旨在解决现有日志异常检测方法在多云和微服务环境中的局限性。传统方法通常只能进行二分类（正常/异常），难以适应动态变化的日志模式，且在日志解析过程中存在语义损失问题。GLog 是一
PsychoPass: Geometric Profiling of Multi-Turn Adversarial LLM Conversations
大型语言模型（LLM）的多轮越狱攻击揭示了当前防护机制的缺陷：它们仅在单个对话轮次上运行，而攻击却作为跨对话的轨迹展开。本文提出从内容转向动态，将对话建模为表示空间中的路径，并探究对抗意图是否在对话早期就被编码在几何结构中。作者引入Psyc
Decoupled Smart Contract Audits: Lightweight LLM Framework via Distillation and Aggregation
该论文提出了一种轻量级的智能合约安全审计框架，利用经过蒸馏和聚合的开放源码大语言模型（LLM）来应对现有基于LLM的审计方法存在的计算开销大、缺乏严重性评估以及可操作修复建议等问题。框架将审计任务解耦为四个独立模块：漏洞检测、漏洞解释、严重
SkillGuard: A Permission Framework for Agent Skills
本文提出了一种名为 SkillGuard 的权限框架，旨在解决大型语言模型（LLM）代理技能生态系统中日益严重的安全与隐私问题。随着 LLM 代理通过可重用的技能（包含指令、脚本、工具绑定和上下文依赖）扩展功能，当前技能生态系统主要依赖基于
Patcher: Post-Hoc Patching of Backdoored Large Language Models
本文提出一种名为 Patcher 的后处理防御框架，用于修复被植入后门的大语言模型。大语言模型容易受到越狱后门攻击，攻击者通过污染安全对齐数据来嵌入隐藏触发器，从而绕过安全机制。现有防御方法通常需要全面的攻击信息或多个触发样本，但在实际中防
Echelon: Auditable Aggregate-Only Language-Model Adaptation Across Privacy Boundaries
该论文提出了一种名为Echelon的跨组织语言模型适应训练架构，旨在解决日益严峻的治理约束问题：在许多部署场景中，设备级模型状态（参数、激活值、优化器状态、每次更新）不能导出到管理边界之外。现有的分布式和联邦学习架构通常假设跨站模型交换，然
Large Byte Model: Teaching Language Models About Compiled Code
该论文提出首个能够直接处理编译后可执行文件原始字节的“大字节模型”（Large Byte Model），无需依赖反汇编或反编译等开销高昂且易出错的“提升”工具。传统大语言模型（LLM）无法理解原始字节序列，因此难以直接应用于底层恶意软件分析
Ghost Tool Calls: Issue-Time Privacy for Speculative Agent Tools
本文研究工具增强型语言代理（tool-augmented language agents）中投机性工具调用（speculative tool calls）带来的隐私泄露问题。这类代理为了隐藏延迟，会在未确定最终执行分支前，提前向外部的工具服
SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents
本文提出SeClaw框架，旨在解决自主LLM智能体在状态化环境中面临的安全评估挑战。当前智能体可访问工具、文件、内存和外部服务，执行复杂工作流，但也引入新的安全风险。现有评估基准依赖人工构造任务，威胁覆盖有限，且仅关注最终结果而忽视导致不安