Demystifying the Mythos or Disrupting Bugonomics? From Zero-Day Asymmetry to Defender Remediation Throughput
本论文从“漏洞经济学”（bugonomics）的视角，系统分析了由大型语言模型（LLM）驱动漏洞发现所带来的成本与激励变化。传统上，高端漏洞经济以攻方定价为主，因为生产级零日漏洞和利用链是昂贵且专业化的输出，主要服务于政府、中间商和进攻性供
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题AI-Driven Adaptive Adversaries and the Erosion of Cryptographic Trust in Public Key Systems
该论文研究在人工智能驱动的自适应对手优化下，公钥密码学（PKC）安全性的侵蚀问题。核心问题是算法中心的密码安全模型与操作攻击现实之间的日益不匹配：现代攻击者不再直接破解底层密码基元，而是利用实现层面的可观测性（如侧信道、时序差异、错误处理等
Steering Beyond the Support: Adversarial Training on Unsupervised Jailbroken Activation Simulation
该论文针对大型语言模型（LLM）面对越狱提示（jailbreak prompts）时的安全对齐问题展开研究。现有安全引导（safety steering）方法在测试时通过激活干预将越狱激活引导至拒绝区域，同时保持良性功能，但这些方法本质上是
Poisoning the Watchtower: Prompt Injection Attacks Against LLM-Augmented Security Operations Through Adversarial Log Content
本文研究了大语言模型（LLM）在安全运营中心（SOC）中作为分析师助手时面临的一种结构性缺陷：许多日志字段（如用户代理、URL、载荷、DNS查询、尝试用户名等）是攻击者可控制的，这些字段在输入给LLM进行分析时，可能携带恶意指令，从而引发提
Enhancing Reliability in LLM-Based Secure Code Generation
本文针对大型语言模型（LLM）在代码生成中安全可靠性不足的问题，提出了一种名为“缓解感知链式思维”（MA-CoT）的框架。现有提示工程主要提升功能正确性，但难以保证一致的安全性。MA-CoT通过嵌入任务特定的CWE（通用弱点枚举）缓解指导和
An Empirical Evaluation of LLM-Generated Code Security Across Prompting Methods
本研究针对大型语言模型（LLM）在自动代码生成中存在的安全问题，进行了全面的实证评估。尽管LLM显著提升了软件开发效率，但其生成的代码常因忽略关键安全考量（如弱加密、输入验证不当）而存在漏洞。作者选取了五种LLM和四种编程语言（Java、C
Concept Drift Adaptation Using Self-Supervised and Reinforcement Learning In Android Malware Detection
本文针对安卓恶意软件检测模型在部署后因概念漂移（concept drift）导致性能下降的问题，提出了一种基于自监督学习和强化学习的自适应维护框架。现有方法通常需要完全重新训练模型，成本高昂。作者将部署期间的维护建模为序列决策问题：首先通过
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
本文提出 Agent-ToM，一个基于心理理论（Theory-of-Mind, ToM）推理的监控框架，用于检测自主大语言模型（LLM）代理的隐蔽恶意行为。现有监控方法通常将每条轨迹独立处理，未利用历史监控经验，且缺乏对代理信念、意图和目标
Extracting Training Data from Diffusion Language Models via Infilling
本研究关注扩散语言模型（DLM）中的训练数据记忆与提取问题。以往对于大语言模型记忆性的研究几乎完全基于前缀条件提取，这适合自回归模型，但扩散语言模型可以在任意位置去噪被遮蔽的token，因此仅用前缀探测会低估训练数据提取的风险。为真实建模D
CHRONOS: Temporally-Aware Multi-Agent Coordination for Evolving Data Marketplaces
该论文提出了CHRONOS，一种针对时态知识图谱数据市场的三层架构，旨在解决静态设计中的三个耦合失效问题：陈旧混合索引导致召回率下降、静态Shapley定价在分布偏移后价值误分配、未协调的代理过度消耗共享差分隐私预算。第一层采用神经ODE时
On the Stability of Spherical Hellinger-Kantorovich Flows and Their Implications for Differential Privacy
本文研究了球面 Hellinger-Kantorovich (SHK) 梯度流的稳定性及其在差分隐私 (DP) 中的应用。SHK 几何将运输和反应耦合，其梯度流与生灭 Langevin 动力学一致，可用于从 Gibbs 分布中采样。作者提出
Less Effort, Shorter Proofs: Reinforcement Learning for Security Protocol Analysis in Tamarin
本文提出了一种基于强化学习（RL）的框架，用于提升 Tamarin 协议分析工具中的证明搜索效率。Tamarin 是广泛用于验证安全协议（如 EMV、5G、WPA2）的自动推理工具，但传统方法需要大量人工专家干预。受 AlphaZero 和
Adversarial Vulnerability Under Temporal Concept Drift: A Longitudinal Study of Android Malware Detection
本文研究了在时间概念漂移背景下，Android恶意软件检测模型的对抗鲁棒性如何随时间演变。研究团队收集了跨越十多年的Android应用数据集，从模拟器和真实设备执行中提取静态和动态特征表示，并将数据按年份切片。他们设计了三种部署协议模拟真实
Sample-wise Targeted Adversarial Attacks on Test-time Adaptation
本文研究了测试时自适应（Test-time Adaptation, TTA）场景下的一种新型对抗攻击。TTA通过利用无标签测试流来应对分布漂移，但这也为对手提供了可乘之机。现有的类级别定向攻击在TTA中不够隐蔽：由于TTA批量处理，迫使部分
UNAD+: An Explainable Hybrid Framework for Unknown Network Attack Detection
未知网络攻击（尤其是零日攻击）检测是入侵检测系统的重大挑战。监督学习方法对已知攻击类效果好，但无法处理训练数据中未出现的新攻击类型；无监督方法虽能检测未知攻击，但误报率高，限制了实际应用。本文提出UNAD+框架，是对原有UNAD的改进。UN
Innovations in Cardless Artificial Intelligence Banking: A Comprehensive Framework for Cyber Secure and Fraud Mitigation using Machine Learning Algorithms
本文提出了一种面向无卡人工智能银行系统的综合安全框架，旨在解决传统银行业务在数字化转型中面临的网络安全与欺诈风险挑战。该框架的核心创新点包括：1）利用AI驱动的数据加密技术生成自动虚拟卡，确保交易过程中敏感信息的最小化暴露；2）部署基于AI
EnCAgg: Enhanced Clustering Aggregation for Robust Federated Learning against Dynamic Model Poisoning
联邦学习在保护数据隐私的同时，面临来自恶意客户端的模型投毒攻击威胁，现有防御方法多依赖固定阈值或固定聚类数量来区分恶意梯度与良性梯度，难以适应动态变化的攻击策略，且由于客户端本地数据异构性，容易误丢弃良性梯度。针对这些问题，本文提出一种增强
Characterizing the Fault Response of the Intel Neural Compute Stick 2 Under Single-Pulse Electromagnetic Fault Injection
本研究针对 Intel 神经网络计算棒 2 (NCS2) 中的 Myriad X VPU，开展了系统性的单脉冲电磁故障注入 (EMFI) 实验。作者在 OpenVINO 运行时上运行了三个 ImageNet 训练的卷积神经网络（ResNet
TimeGuard: Channel-wise Pool Training for Backdoor Defense in Time Series Forecasting
时间序列预测（TSF）在众多领域（如金融、气候、工业监控）中发挥着关键作用，但容易受到后门攻击的威胁。然而，针对TSF的后门防御研究仍处于起步阶段，主要面临两大挑战：数据纠缠（data entanglement）导致不同时间序列通道间的信号
Decision-Aware Quadratic ReLU Replacement for HE-Friendly Inference
全同态加密（FHE）仅支持加法和乘法运算，因此在FHE环境下进行神经网络推理时，需要用多项式近似替代ReLU激活函数。传统方法通过在经验激活区间上进行多项式拟合来控制逼近误差，通常需要较高次数的多项式，导致同态求值开销增加。然而，分类结果仅