Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges
本文针对LLM作为评判者（LLM-as-a-judge）模式中存在的文体偏见问题，提出了一种名为BITE（BIas exploraTion and Exploitation）的黑盒对抗攻击框架。研究背景是：LLM评判器在评估文本时，会表现出
#cs.AI
共收录 1684 条相关情报。
← 返回所有主题MemMorph: Tool Hijacking in LLM Agents via Memory Poisoning
本文提出了一种针对LLM驱动智能体的新型攻击方法MemMorph，通过污染智能体的长期记忆来劫持其工具选择过程。现有攻击主要操纵工具元数据，容易被审计检测，并且随着现代智能体越来越多地采用记忆模块通过积累经验来优化工具选择策略，这些攻击可能
Reflect-Guard: Enhancing LLM Safeguards against Adversarial Prompts via Logical Self-Reflection
本论文提出 Reflect-Guard，一种通过逻辑自我反思增强大型语言模型（LLM）安全分类器的方法。现有的安全分类器如 Llama Guard 能有效检测明显有害的提示，但难以应对通过角色扮演、虚构场景和间接请求伪装恶意意图的对抗性越狱
CyBOKClaw: Human-in-the-Loop CyBOK Mapping for Cybersecurity Curriculum
该论文提出了 CyBOKClaw，一种可解释的人机协同检索框架，用于将网络安全课程中的关键词或短语（KWoPs）映射到网络安全知识体系（CyBOK）。传统的精确匹配方法在应对教育场景中广泛、模糊且仅近似对齐的术语时效果有限。CyBOKCla
Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput
本论文从“漏洞经济学”（bugonomics）的视角，系统分析了由大型语言模型（LLM）驱动漏洞发现所带来的成本与激励变化。传统上，高端漏洞经济以攻方定价为主，因为生产级零日漏洞和利用链是昂贵且专业化的输出，主要服务于政府、中间商和进攻性供
AI-Driven Adaptive Adversaries and the Erosion of Cryptographic Trust in Public Key Systems
该论文研究在人工智能驱动的自适应对手优化下，公钥密码学（PKC）安全性的侵蚀问题。核心问题是算法中心的密码安全模型与操作攻击现实之间的日益不匹配：现代攻击者不再直接破解底层密码基元，而是利用实现层面的可观测性（如侧信道、时序差异、错误处理等
Enhancing Reliability in LLM-Based Secure Code Generation
本文针对大型语言模型（LLM）在代码生成中安全可靠性不足的问题，提出了一种名为“缓解感知链式思维”（MA-CoT）的框架。现有提示工程主要提升功能正确性，但难以保证一致的安全性。MA-CoT通过嵌入任务特定的CWE（通用弱点枚举）缓解指导和
An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods
本研究针对大型语言模型（LLM）在自动代码生成中存在的安全问题，进行了全面的实证评估。尽管LLM显著提升了软件开发效率，但其生成的代码常因忽略关键安全考量（如弱加密、输入验证不当）而存在漏洞。作者选取了五种LLM和四种编程语言（Java、C
Concept Drift Adaptation Using Self-Supervised and Reinforcement Learning In Android Malware Detection
本文针对安卓恶意软件检测模型在部署后因概念漂移（concept drift）导致性能下降的问题，提出了一种基于自监督学习和强化学习的自适应维护框架。现有方法通常需要完全重新训练模型，成本高昂。作者将部署期间的维护建模为序列决策问题：首先通过
Safety-Oriented Routing Analysis of Mixtral MoE Under Benign and Harmful Prompts
本文系统分析了Mixtral 8x7B-Instruct稀疏混合专家（MoE）模型在良性提示和有害提示下的路由行为。研究采用两种互补信号：基于专家选择频率的激活路由得分和基于路由器-门灵敏度的梯度得分，从专家级和层级两个尺度进行剖析，并开展
Attested Tool-Server Admission: A Security Extension to the Model Context Protocol
该论文针对大语言模型（LLM）智能体与外部工具服务器之间通信的安全隐患，提出了一种名为“mcp-attested”的安全扩展机制。当前模型上下文协议（MCP）仅标准化了消息交换格式，但缺乏信任基础：主机（host）直接读取工具服务器自声明的
Unlocking Apple's Private Cloud Compute: An Analysis of Privacy-Preserving Artificial Intelligence
该论文首次对苹果的私有云计算（Private Cloud Compute, PCC）系统进行了逆向工程分析，旨在评估其隐私保护声明的可信度。PCC是苹果为在移动设备上集成AI而设计的隐私优先计算架构，其核心宣称包括不存储用户数据、用户输入与
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标
Extracting Training Data from Diffusion Language Models via Infilling
本研究关注扩散语言模型（DLM）中的训练数据记忆与提取问题。以往对于大语言模型记忆性的研究几乎完全基于前缀条件提取，这适合自回归模型，但扩散语言模型可以在任意位置去噪被遮蔽的token，因此仅用前缀探测会低估训练数据提取的风险。为真实建模D
CHRONOS: Temporally-Aware Multi-Agent Coordination for Evolving Data Marketplaces
该论文提出了CHRONOS，一种针对时态知识图谱数据市场的三层架构，旨在解决静态设计中的三个耦合失效问题：陈旧混合索引导致召回率下降、静态Shapley定价在分布偏移后价值误分配、未协调的代理过度消耗共享差分隐私预算。第一层采用神经ODE时
Adversarial Vulnerability Under Temporal Concept Drift: A Longitudinal Study of Android Malware Detection
本文研究了在时间概念漂移背景下，Android恶意软件检测模型的对抗鲁棒性如何随时间演变。研究团队收集了跨越十多年的Android应用数据集，从模拟器和真实设备执行中提取静态和动态特征表示，并将数据按年份切片。他们设计了三种部署协议模拟真实
AI Security Research Should Better Incentivize Defense Research
本文系统性分析了人工智能安全研究领域中攻防研究失衡的问题。作者通过考察联邦学习、语音识别、成员推断、大型语言模型等子领域的学术论文，发现攻击类研究数量明显多于防御类研究，存在偏斜的攻防论文比例。更重要的是，这种失衡不仅体现在数量上：攻击论文
When the Manual Lies: A Realistic Benchmark to Evaluate MCP Poisoning Attacks for LLM Agents
本文系统性地研究了针对大型语言模型（LLM）代理的工具描述投毒（Tool Description Poisoning, TDP）攻击。这类攻击并不修改工具的可执行代码，而是将恶意指令隐蔽地注入到工具的元数据描述中——即代理用于安全规划和决策
Are Frontier LLMs Ready for Cybersecurity? Evidence for Vertical Foundation Models from Dual-Mode Vulnerability Benchmarks
本文评估了前沿大语言模型（LLM）在网络安全任务中的实际能力，通过构建双模式基准测试：白盒函数级漏洞检测（VulnLLM-R，涵盖C/Java/Python）和黑盒Web应用安全测试（五个生产风格的应用，包含118个真实漏洞，覆盖20多个C
Innovations in Cardless Artificial Intelligence Banking: A Comprehensive Framework for Cyber Secure and Fraud Mitigation using Machine Learning Algorithms
本文提出了一种面向无卡人工智能银行系统的综合安全框架，旨在解决传统银行业务在数字化转型中面临的网络安全与欺诈风险挑战。该框架的核心创新点包括：1）利用AI驱动的数据加密技术生成自动虚拟卡，确保交易过程中敏感信息的最小化暴露；2）部署基于AI