Towards Agentic Investigation of Security Alerts
安全分析师每天面临大量的告警，而许多检测系统提供的上下文信息很少，导致早期调查通常需要手动关联多个日志源，非常耗时。本文提出了一种实验性的智能体工作流，利用大型语言模型（LLM）配合预定义查询和受限工具访问（对Suricata日志的结构化S
#agent-security
共收录 1542 条相关情报。
← 返回所有主题The Surprising Universality of LLM Outputs: A Real-Time Verification Primitive
本文报告了前沿大语言模型（LLM）输出中一个惊人的统计规律性，使得仅依赖CPU的评分基元（scoring primitive）能以每个token 2.6微秒的速度运行，估计延迟比现有的基于采样的检测器低五个数量级（10万倍）。研究跨越了来自
SnapGuard: Lightweight Prompt Injection Detection for Screenshot-Based Web Agents
本文研究了基于截图的Web代理（screenshot-based web agents）面临的提示注入攻击（prompt injection attacks）威胁。这类代理通过渲染的视觉页面而非结构化文本来与网页交互，使得现有的基于文本的防
From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems
该论文针对企业软件工程从传统的确定性CRUD/REST架构向AI原生系统转型过程中引入的安全张力展开研究。在AI原生系统中，大语言模型作为认知编排器，但概率性LLMs削弱了验证、访问控制和形式化测试等经典机制的安全性。作者提出了一种由模型上
ReTokSync: Self-Synchronizing Tokenization Disambiguation for Generative Linguistic Steganography
生成式语言隐写术（GLS）通过在自然语言生成过程中嵌入秘密信息来实现隐蔽通信。然而，在实际部署中，GLS容易受到分词歧义（tokenization ambiguity）的影响：相同的表面文本在接收端可能会被重新分词为不同的token序列，从
Making AI-Assisted Grant Evaluation Auditable without Exposing the Model
这篇论文针对公共机构在资助评审中引入大语言模型（LLM）作为决策辅助工具时面临的治理难题：模型和评分标准不能暴露给申请人以防他们针对优化，但评审过程必须可审计、可质疑且可问责。作者提出了一种基于可信执行环境（TEE）的架构，通过远程证明技术
AgentDID: Trustless Identity Authentication for AI Agents
本文研究了AI智能体的身份认证与状态验证问题。AI智能体是一种自主实体，可以按需实例化、跨平台迁移，并与其他智能体或服务交互，无需持续人工监督。在这种环境中，身份对于建立缺乏先验信任关系的智能体之间的可靠交互语义至关重要。现有的身份与访问管
Structured Security Auditing and Robustness Enhancement for Untrusted Agent Skills
本文针对智能体（Agent）技能包（Agent Skills）的安全审计问题展开研究。Agent Skills将SKILL.md文件、脚本、参考文档和仓库上下文封装为可重用的能力单元，传统预加载审计仅依赖单提示词过滤，无法应对跨文件安全审查
AgentWard: A Lifecycle Security Architecture for Autonomous AI Agents
该论文提出 AgentWard，一种面向自主 AI 代理生命周期的深度安全架构。随着 LLM 从单纯的对话接口演变为包含技能加载、外部内容摄取、内存维护、多步规划及工具调用的完整运行时系统，安全威胁不再局限于单一接口，而是可能跨初始化、输入
DETOUR: A Practical Backdoor Attack against Object Detection
该论文针对目标检测模型的后门攻击展开研究。现有攻击方法多依赖于固定位置的小扰动补丁触发器，忽略了真实世界中触发器可能以不同尺寸、视野和位置出现，且微小扰动难以被摄像头捕捉，导致实用性受限。论文首先观察到，在检测变换器（DETR）模型中，补丁
GAMMAF: A Common Framework for Graph-Based Anomaly Monitoring Benchmarking in LLM Multi-Agent Systems
该论文针对大型语言模型（LLM）在多智能体系统（MAS）中集成所带来的安全挑战，提出了一种名为Gammaf（Graph-based Anomaly Monitoring for LLM Multi-Agent systems Framewo
MAS-SZZ: Multi-Agentic SZZ Algorithm for Vulnerability-Inducing Commit Identification
精确识别漏洞引入提交（Vulnerability-Inducing Commit）是软件安全领域多项任务（如漏洞检测、受影响版本分析）的基础。传统的SZZ算法通过追溯代码历史来定位最早修改漏洞代码的提交，但现有方法（如定制化V-SZZ和当前
Agentic Witnessing: Pragmatic and Scalable TEE-Enabled Privacy-Preserving Auditing
该论文针对审计专有数据语义属性时的隐私与透明矛盾，提出了一种名为“Agentic Witnessing”的框架。传统方法如零知识证明（ZKP）适用于精确代数约束，但难以验证定性、非结构化属性（如代码库中的逻辑）。该框架将验证从可证明执行扩展
Dynamic Cyber Ranges
本研究针对LLM驱动的智能体在网络安全领域的评估问题展开。当前基于Jeopardy CTF的基准测试已接近饱和，而静态设计的网络靶场在抵御LLM驱动的攻击者时效果递减。作者通过部署一个LLM驱动的APT智能体在三个不同真实度层级的基础设施（
Adversarial Co-Evolution of Malware and Detection Models: A Bilevel Optimization Perspective
提出一种基于双层优化的对抗防御框架，模拟攻击者与防御者的共同进化，将恶意软件逃逸率从90%降至0-1.89%。
ArmSSL: Adversarial Robust Black-Box Watermarking for Self-Supervised Learning Pre-trained Encoders
提出一种名为ArmSSL的框架，用于对自监督学习预训练编码器进行黑盒可验证且对抗鲁棒的水印保护，在不影响主任务效用的前提下实现知识产权防护。
SSG: Logit-Balanced Vocabulary Partitioning for LLM Watermarking
提出SSG方法，通过对数几率平衡的词汇分区提升LLM水印在低熵场景（代码生成、数学推理）下的检测能力。
Automation-Exploit: A Multi-Agent LLM Framework for Adaptive Offensive Security with Digital Twin-Based Risk-Mitigated Exploitation
提出一个名为Automation-Exploit的多智能体LLM框架，用于在黑盒场景下自适应执行自动化攻击，并利用数字孪生技术降低内存破坏漏洞利用导致拒绝服务的风险。
Train in Vain: Functionality-Preserving Poisoning to Prevent Unauthorized Use of Code Datasets
提出 FunPoison，一种功能保持的数据投毒方法，通过注入可编译的弱使用片段，保护代码数据集免遭未授权使用。
Behavioral Canaries: Auditing Private Retrieved Context Usage in RL Fine-Tuning
提出行为金丝雀审计机制，通过在偏好数据中注入触发器-奖励信号，检测RL微调是否使用了受保护检索数据。