InkShield: Writing Style Protection Against Unauthorized Handwriting Mimicry
本文提出了一种名为 InkShield 的主动式书写风格防御方法，旨在防止未经授权的手写体模仿攻击。近年来，手写文本生成器能够根据公开可获取的参考样本复制特定作者的书写风格，这可能导致文档伪造和身份盗用等风险。例如，攻击者可利用公开的手写笔
#LLM
共收录 2152 条相关情报。
← 返回所有主题Defending Against Backdoor Attacks via Alignment Checking in Model-Contrastive Federated Learning
联邦学习（Federated Learning, FL）在边缘计算场景中因分布式训练特性而容易遭受后门攻击。现有防御方法往往忽略了两个关键因素：一是良性本地更新之间因统计异质性（statistical heterogeneity）而产生的偏
ToxScreen: Detecting Whether an LLM Has Been Poisoned
该论文针对大语言模型（LLM）在关键领域部署时面临的数据投毒后门攻击问题展开研究。攻击者可能通过污染训练数据植入后门触发器，使得模型在推理阶段遇到特定输入时被隐蔽地操控行为。作者聚焦于防御者在现实约束下的触发器恢复能力：仅拥有模型的白盒权重
Before Agents Speak: Pre-hoc Failure Risk Inference in Multi-Agent Systems
该论文聚焦于基于大语言模型的多智能体系统（MAS）在协作推理与决策中面临的新型系统性风险：局部幻觉可能沿着智能体之间的通信链路传播，在交互中被放大，最终触发级联故障。现有防御手段大多属于事后（post-hoc）范式，即只有在不安全行为已经出
Forecasting Trajectory-Level Safety Risks in Black-Box Multi-Turn Interactions
随着大语言模型（LLM）从独立助手演化为自主智能体，其安全挑战已从单点风险转向长时序轨迹中的风险演化。在多轮交互中，恶意意图可以被拆解到多个看似无害的轮次，再通过交互轨迹逐步重组，最终引发安全故障。现有防御手段大多是反应式的，只能检测已经发
SecRespond: Benchmarking AI Agents for Real-World Post-Compromise Incident Response
本文提出了 SecRespond，据作者称这是首个用于评估大语言模型（LLM）智能体在后渗透（post-compromise）事件响应工作流中能力的基准测试。当前大多数网络安全基准测试聚焦于攻击发生前的“预渗透”场景，智能体被放置在一个干净
FARI: Robust One-Step Inversion for Watermarking in Diffusion Models
本文提出了一种名为 FARI（Fast Asymmetric Robust Inversion）的一步反演框架，用于扩散模型图像水印的鲁棒提取。传统基于反演的水印方法在验证扩散生成图像时，反演过程既慢又容易出错。现有方法过度优化内部截断误差
FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs
大型语言模型（LLM）智能体在动态环境中自主执行复杂操作，将语义推理与系统操作交织在一起。传统的静态工具级权限在这种环境下显得力不从心，因为安全授权高度依赖上下文，并受运行时状态和数据流变化的影响。为此，本文提出 FAVA（Formal A
Graph Is the Verifier: Agentic Reinforcement Learning for Interprocedural Vulnerability Detection
本文提出 VulAgentRL，一个面向跨函数（过程间）漏洞检测的智能体强化学习框架。现实中的漏洞往往涉及多个函数，但现有基于学习的检测器大多孤立地分析每个函数。作者在真实 CVE 样本上统计发现，71.7% 的脆弱函数需要依赖函数外部的证
Fingerprint-Driven Automation: Coupling Reconnaissance with POC Verification
本文针对网络安全对抗中的侦察环节，指出现有工具存在信息收集准确性低、隐蔽性不足、耗时较长、集成度不均衡以及功能扩展性差等问题，严重影响用户体验和工作效率。为此，作者设计并实现了一款高度自动化的侦察与漏洞验证工具。该工具将侦察与漏洞利用验证（
Borrowed Strength: Best-of-N Search over a Code EncodingBreaks Self-Check Jailbreak Defenses
本文针对大语言模型的自检查防御机制提出了一种组合攻击方法。自检查防御要求目标模型在回答前先评估请求是否具有攻击性，其中SAGE被报告具有平均99%的防御成功率。作者发现，将两种已知攻击——代码补全编码和最佳N搜索——组合起来，可以突破SAG
Guarding Organizations Against Malware Risk: A Novel Graph-Based Malware Detection Method
随着组织数字化转型的深入，网络安全风险日益突出，恶意软件已成为一种普遍且破坏性极强的威胁。现有基于字节的机器学习检测方法虽然广泛应用，但容易受到攻击者通过操纵原始字节实施规避行为的影响。相比之下，基于图的方法通过将软件表示为捕获执行行为的程
Towards Proactive Protection against Unauthorized Speech Synthesis.
本文针对生成式人工智能（GenAI）驱动下的语音合成技术快速发展所带来的安全挑战，探讨了如何主动防御未经授权的语音合成滥用。近年来，深度伪造语音被用于欺诈、冒充和传播虚假信息，现实事件频发，凸显了防御需求。现有防御多为被动检测，即在伪造语音
Collusion with Competitive Marginals: Price-Level Audits Are Blind by Construction
本论文研究算法合谋检测的根本局限性。作者提出一种新的合谋机制：多个出价代理仅通过未解释竞价分量的联合分布进行耦合，而每个代理的自身出价边际分布保持与竞争性法则完全一致。在这种设定下，任何仅以单个代理价格或出价历史作为输入的检测方法，其统计功
QUIC-TRIP: A Triple-Redundant Journey Toward Secure Substation Communications
现代电力系统依赖实时变电站通信协议（如可路由的面向通用对象的变电站事件协议 R-GOOSE）来执行关键控制与保护功能。然而，这类协议普遍缺乏内建安全机制，在设计上优先保证可用性而非机密性和完整性，因此容易遭受虚假数据注入和拒绝服务（DoS）
A Controlled Candidate-Set Benchmark for Offline Satellite-Security Plan Decomposition
本论文针对卫星安全领域中的安全规划分解问题，提出了一种受控候选集基准测试方法。在某些安全开发场景中，需要本地模型将高层目标转化为有序且可检查的行动计划。作者设计了一个低秩分解适配器，并发布了一个无泄漏的语料库，包含24个手工编写的卫星安全案
RAGuard: A Layered Defense Framework for Retrieval-Augmented Generation Systems Against Data Poisoning
该论文提出了一种针对检索增强生成（RAG）系统数据投毒攻击的分层防御框架 RAGuard。RAG 系统通过检索外部语料库来增强大语言模型（LLM）的回答，但这种依赖也引入了安全风险：攻击者可以向语料库中注入精心设计的恶意文本片段，从而操纵检
StealthBench: Measuring Operational Stealth in Autonomous Offensive-Security Agents
本文提出 StealthBench，一个专门用于衡量自主攻击性安全代理在操作安全（OPSEC）方面隐蔽性的基准测试框架。研究背景是：高级安全研究人员和APT组织在执行任务时能够不被察觉，而日益自主化的攻击性安全代理继承了这些任务，但其是否继
Learning the Word Problem: Geodesic Lengths and Cryptographic Applications
本文研究数学与计算机科学交叉领域中的“字问题”（Word Problem），即判断一个群中给定字是否表示单位元的问题。字问题已有超过一个世纪的研究历史，最初推动组合群论发展，近年来成为后量子密码（PQC）中重要的困难性假设基础。尽管一般群的
(EC)2: Event-Centric Explainability for Cybersecurity Through Multi-Agent LLM Investigations
本文针对安全运营中心（SOC）依赖异常检测系统标记可疑事件时，传统基于特征的解释难以满足实际调查需求的问题，提出了一种以事件为中心、与检测器无关的网络安全告警解释方法。作者指出，分析人员不仅需要知道某个特征偏离了正常范围，更需了解告警涉及的