PixJail: Self-Evolving Paper-to-Pipeline Reproduction for Text-to-Image Jailbreak Evaluation
本文针对文本到图像（T2I）生成模型越狱评估中存在的复现性和可比性问题，提出了一种自演进论文到管线智能体框架PixJail。当前T2I越狱技术发展迅速，但现有基准和复现工作流难以同步更新；更重要的是，T2I越狱评估并非单次提示级测试，而是一
#LLM
共收录 2152 条相关情报。
← 返回所有主题Maestro Order: A Model-Agnostic Orchestration Harness
该论文提出了 Maestro Order，一个模型无关的编排框架，旨在将不可靠的单一模型（如大型语言模型）转化为可靠的问题解决系统。核心思路是通过四种结构原语（分解、集成、验证和递归）组合基础模型，并引入预算感知控制器，动态决定在何处分配计
TROPT: An Open Framework for Unifying and Advancing Discrete Text Optimization
论文提出了TROPT，一个开源的离散文本优化框架。离散文本优化旨在搜索文本序列，使得模型在摄入这些序列后朝指定目标行为（如LLM越狱、模型审计和可解释性）。目前，现有优化器散落在不同的研究代码库中，针对特定模型、目标和问题域，导致使用和扩展
An Automated Framework for Input Alphabet Construction in Stateful Protocol Implementation Learning
该论文提出了一种自动化框架，用于在状态协议实现的状态机学习中自动构建输入字母表。传统状态机学习依赖手工构建输入字母表，这限制了输入探索的完备性，难以捕获异常的非符合消息，从而遗漏潜在的语义缺陷。论文采用大型语言模型（LLM）解析协议消息布局
Detecting Malicious Agent Skills in the Wild using Attention
本文针对LLM智能体在加载第三方技能（skill）时面临的安全威胁展开研究。技能是以自然语言指令编写的文件包，由第三方开发者编写并通过市场分发，执行时拥有用户特权。恶意技能可窃取数据、劫持智能体或在供应链中持久化，使技能市场成为新的攻击面。
FlexServe: A Fast and Secure LLM Serving System for Mobile Devices with Flexible Resource Isolation
本文针对移动设备端侧大语言模型（LLM）推理中的安全与性能挑战，提出了一种名为FlexServe的快速且安全的LLM服务系统。随着端侧LLM的爆发式增长，其模型权重和用户数据价值极高，攻击者可能通过攻陷操作系统内核来窃取这些数据。ARM T
Rising From the Ashes: How Agentic AI is Unblocking Challenges in Cybersecurity
该论文探讨了代理人工智能（Agentic AI）如何解决网络安全中长期存在的挑战。当前安全防御面临成本高昂、人工密集型任务成为瓶颈等问题，许多防御措施因效率低下而难以实施。代理AI通过直接接收和推理自然语言或代码的能力，有望自动化这些任务，
Understanding the (In)Security of Vibe-Coded Applications
本文系统研究了基于大型语言模型（LLM）的“氛围编码”（vibe coding）安全缺陷。vibe coding 是一种新兴的开发范式，用户通过自然语言与AI代理交互即可创建应用，因门槛低而快速普及。不同于传统AI辅助编程中开发者仍负责实现
Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies
本文系统性地研究了自进化LLM智能体系统（即能够自主更新其模型参数、记忆、工具和架构的智能体）带来的新型安全与隐私威胁。作者首先提出模块-生命周期攻击面（MLAS）矩阵，将攻击面分解为五个功能模块（大脑、认知资源、执行、自我设计、集体）和五
VCT: A Verifiable Transcript System for LLM Conversations
该论文针对大规模语言模型（LLM）对话记录在数字取证和合规审计中日益重要的应用背景，指出传统的线性防篡改日志无法捕捉LLM对话内在的非线性演化特性，例如基于历史查询的重新提示、回复重生成、会话删除、多设备并发以及选择性分享。为解决这一问题，
MASTERKEY: Automated Jailbreaking of Large Language Model Chatbots.
本论文针对大型语言模型（LLM）聊天机器人的越狱攻击进行了系统性研究。越狱是指通过精心构造的输入提示（prompt）来绕过聊天机器人的安全限制，使其生成原本被禁止的有害内容。现有研究主要集中于ChatGPT，对其他商业LLM聊天机器人（如B
QUACK: Hindering Deserialization Attacks via Static Duck Typing.
该论文提出了一种名为QUACK的框架，旨在自动防御托管语言中的反序列化攻击。反序列化漏洞广泛存在于PHP、Java等语言中，攻击者通过篡改序列化对象，利用现有代码片段（gadgets）形成利用链。QUACK的核心思路是通过静态鸭子类型推断技
Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea
该论文针对国家层面的协调性信息操纵（即网络水军/巨魔）问题，提出了一种可解释的机器学习框架，用于检测和纵向分析疑似境外势力在韩国在线新闻评论区的活动。研究背景是外国影响力行动对线上平台构成日益严重的威胁，但检测国家关联的巨魔账号并追踪其演变
Black-Box Forensics for Conversational LLM Agents
本文研究了对黑盒对话式LLM智能体进行数字取证的方法。随着LLM驱动的诈骗日益猖獗，识别隐藏端点背后的基础模型（归属）以及判断两个端点是否运行完全相同的系统提示（指纹识别），对于追溯诈骗来源、揭露犯罪网络和监控API变更至关重要。作者提出了
The Geometry of Refusal: Linear Instability in Safety-Aligned LLMs
该论文研究了大型语言模型（LLM）中安全拒绝机制的几何特性。作者提出了一种名为“对比对数几率引导”（CLS）的零优化框架，通过对比安全系统提示和不受限系统提示下的隐藏状态，提取出“拒绝方向”。与以往干预内部激活的表示工程方法不同，CLS直接
RAVEN: Agentic RAG for Automated Vulnerability Repair
自动化漏洞修复是缓解软件安全问题的重要方向。现有方法多局限于内存漏洞、单一编程语言或依赖专有大语言模型（LLM），且泛化能力不足。本文提出RAVEN框架，基于智能体检索增强生成（Agentic RAG）和可控迭代修复，实现可扩展、高效、自主
Evidence-Bound Gateway-Path Provenance for Third-Party LLM Inference
第三方LLM网关作为应用与外部LLM提供商之间的关键基础设施层，其功能远超简单的流量转发：它决定调用哪个提供商和模型、是否发生回退、交付哪个流、以及如何计费。由于这些决策和记录在运营商控制的服务内部生成，客户端无法独立区分诚实的中介与路由替
Lingering Authority: Revocable Resource-and-Effect Capabilities for Coding Agents
本文针对编码代理（coding agents）在执行任务时存在的“持久权限”（lingering authority）问题展开研究。当前编码代理通常在整个任务周期内被授予广泛的工具访问权限，即使某个资源仅在某一子目标中需要，其权限仍会在该子
TrafficPulse: A Road-Sensor Assisted Traffic Tweet Misinformation Detection System.
该论文旨在解决社交媒体（特别是X平台）上交通推文中的误信息问题。传统交通事件检测依赖传感器和司机报告，而社交媒体虽能提供实时信息，但面临文本模糊、位置定位困难、以及误导性帖子的挑战。作者提出一个名为TrafficPulse的实时推文验证流水
LAMD: Context-Driven Android Malware Detection and Classification with LLMs.
本文提出 LAMD（Context-Driven Android Malware Detection and Classification with LLMs），一个利用大语言模型（LLM）进行上下文驱动的安卓恶意软件检测与分类框架。针对现