Does Runtime Topology Context Improve LLM-Generated Kubernetes Security Patches?
本文旨在研究在 Kubernetes 集群安全修复中，为大型语言模型（LLM）提供运行时拓扑上下文是否能够显著提升生成补丁的正确性。研究背景是：云原生生态中 Kubernetes 成为容器化工作负载编排的核心，已有工作提出利用 LLM 自动
#LLM
共收录 2152 条相关情报。
← 返回所有主题IH-Benchmark: A Conflict-Centered Benchmark for Instruction-Hierarchy Robustness in LLM Applications
随着大语言模型（LLM）被集成到各类应用中，模型在收到来自不同优先级（系统提示、用户输入、工具输出）的冲突指令时，其实际遵循行为成为影响可靠部署的关键问题。现有评测基准往往只覆盖单一层级冲突（如系统与用户的直接冲突），或仅改造公开数据集，缺
E-MagDiP: Electro-Magnetic based Differential Privacy for EEG based Community Sensing
本文提出了一种名为 E-MagDiP 的框架，旨在解决基于脑电图（EEG）的社区感知项目中的隐私问题。此类项目通过聚合大量个体的脑电数据来分析学生或员工的专注度等群体特征，但 EEG 信号本身包含敏感的个人神经信息，直接采集和分析会带来隐私
From Role Prompt to Infinite Thinking: Exploiting Persona Conditioning for Inference Cost Attacks in LLMs
本文首次揭示了大语言模型（LLM）中由角色一致性（persona consistency）引发的推理成本攻击漏洞。随着LLM在实际应用中的广泛部署，其推理效率和服务可靠性成为关键问题，而自回归生成机制使得恶意提示可以操纵生成行为，诱导模型产
Toward Standardized Cross-Vendor Agent Tool Trust Management in Autonomous Networks
该论文针对自治网络（Autonomous Networks）Level 4-5 中跨厂商 AI Agent 协作的安全信任问题展开研究。在高级别自治网络中，AI Agent 需要跨厂商边界调用各类管理工具，且无需人工干预。然而，现有 3GP
GPT-Red: Automated Red Teaming via Self-Play at Scale
本文介绍了 GPT-Red，一个用于自动红队评估的大语言模型智能体，其核心目标是自动发现针对前沿大语言模型的提示注入攻击。研究背景是随着 LLM 在真实生产系统中的广泛应用，提示注入等安全威胁日益严峻，而传统人工红队效率低、覆盖有限，因此需
Evaluation of Adversarial Robustness in Arabic Language Models
这篇论文系统评估了五种最先进的阿拉伯语大语言模型在多种对抗攻击下的鲁棒性，并探索了基于对抗训练的防御方法。研究背景是：随着阿拉伯语模型能力的提升，它们面临的安全风险也随之增加，其中对抗攻击可以使模型产生错误预测，造成严重的安全和伦理问题。作
SignDeepSC: A Semantic Signature-based Approach for Robust Semantic Communication
该论文针对语义通信系统（如 DeepSC）在物理层面临的对抗攻击威胁展开研究。语义通信通过深度神经网络提取并传输语义信息，虽能大幅提升通信效率，但其底层神经网络容易受到对抗样本攻击。作者具体关注一种物理层中间人（MitM）攻击：攻击者在发射
SkillGate: Cost Efficient Runtime Malicious Skill File Detection in Coding Agents
随着AI编程助手（如Cursor、Claude Code、GitHub Copilot）在软件工程团队中的广泛部署，开发者经常通过下载领域特定的技能文件（skill files）来定制代理行为，以适配项目API、框架约定和组织工作流。这些复
Mapping CVEs to MITRE ATT&CK Techniques: A Curated Gold-Set Classifier and the Limits of LLM-Assisted Label Expansion
该论文提出了一种可复现的流水线，用于从自由文本的漏洞描述中将 CVE 映射到 MITRE ATT&CK 企业技术。传统方法依赖 CWE->CAPEC->ATT&CK 的推导链，但论文量化了该链在表扩展过程中产生的伪影。作者基于 MITRE
Anti-Backdoor Coreset Selection via Cumulative Entropy
本文提出一种针对神经网络后门攻击的训练阶段防御方法。现有训练时防御通常从被污染的训练数据中隔离出良性子集，并仅用该子集训练无后门模型。作者将这一策略形式化为核心集选择问题，即“反后门核心集选择”。其核心观察是：有毒样本通常具有较低的预测不确
Bits and Memories: Measuring Verbatim Extraction Across LLM Quantization
本论文针对大语言模型（LLM）量化是否能够降低隐私风险的问题展开研究。现有相关研究几乎全部使用成员推断（membership inference）来衡量隐私，但作者认为这并非大多数人所关心的实际风险：人们真正担心的是模型逐字复现训练数据。为
The Disruptive Impact of Large Language Models on Capture the Flag Competitions and the Path Toward Fair Play
捕获旗标（CTF）竞赛是网络安全领域最有效的实战训练形式之一，涵盖密码学、Web 利用、二进制利用等核心技能。近年来，大型语言模型（LLM）已能以极少人工输入解决越来越多类型的题目，这引发了关于竞赛公平性、排名有效性以及参与者是否还能通过参
A Reference-Free Score for Detecting Silent Reasoning Failures in Large Language Models
本文针对大型语言模型（LLM）在数学链式思维（Chain of Thought, CoT）推理评估中的一个关键缺陷提出解决方案。当前评估方法通常仅检查最终答案与参考答案是否一致，但这种方法存在一个'推理-答案一致性差距'：一个无效的推理链可
Lilith: Backdoor Generalization under Training-Inference Trigger Shift
该论文提出了一种名为 Lilith 的黑盒后门攻击框架，首次系统研究“训练-推理触发器移位”下的后门泛化问题。现有后门攻击研究大多假设训练时使用的触发器与推理时完全一致，或仅考虑训练中已暴露的触发器变体、沿预定变换轴的扰动，而忽略了训练时学
ContractHIL-HLS: Contract-Aligned Multi-Agent Workflow with Hardware-in-the-Loop Feedback for HLS Design
本文提出 ContractHIL-HLS，一种面向实际高层次综合（HLS）工程的契约对齐多智能体工作流。该工作流有三点贡献：第一，引入结构化契约作为语义对齐和任务执行工件，将自然语言需求转化为明确的接口、约束、验证检查和回滚规则；第二，将硬
SafeFlow: Semantic Information-Flow Control for Blocking Malicious Propagation in Multi-Agent Systems
多智能体系统通过任务分解和角色专业化提升能力，但这也引入了一个重要的安全盲点：有害目标可以被分解为局部合理的子任务，使得恶意意图能够规避单个智能体的检测。这种失效模式在涉及敏感信息或关键工具的场景中尤为危险，可能导致未授权披露或危险操作。本
LiftFuzz: Validating Binary Lifters through Context-aware Fuzzing with GPT.
本文提出 LiftFuzz，一个用于验证二进制提升器正确性的新型框架。二进制提升器将二进制代码翻译为中间表示（IR），广泛应用于逆向工程、二进制安全分析等场景，但其开发过程复杂且易出错。现有验证方法主要关注单条指令的正确性，忽略了指令间的交
ALIBI: Adaptive Agentic Attacks on LLM-Based Vulnerability Detectors via Adversarial Code Comments
大型语言模型（LLM）越来越多地被用于安全敏感任务，如漏洞检测和代码审查。这篇论文发现了一个此前未被充分探索的攻击面：攻击者可以在源代码中插入对抗性注释，这些注释能够影响检测器的推理过程，而不改变程序的执行行为。作者将攻击者建模为一个编码代
Denial of Deadline: Network-Driven Accuracy Collapse in Distributed Inference Pipelines
该论文揭示了分布式推理管道中一种新型攻击面——工作负载攻击。在现代AI推理系统中，通常采用双路径架构：快速路径（Fast Path）在本地或轻量模型上快速返回预测以满足延迟截止时间，慢速路径（Slow Path）则在远程更强硬件上运行高计算