Hardening Agent Benchmarks with Adversarial Hacker-Fixer Loops
该论文研究了终端智能体基准测试（如KernelBench、Terminal Bench）中奖励黑客攻击的问题。作者审计了5个终端智能体基准测试的1968个任务，发现其中323个（16%）可以被前沿模型仅通过任务描述就成功攻破，导致排行榜排名
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题Oversight Has a Capacity: Calibrating Agent Guards to a Subjective, Fatiguing Human
本文研究LLM代理安全中的人类监督机制。传统安全模式依赖人在循环中的审批门：高风险操作暂停并等待人工审核。但论文指出，这一模式基于两个错误假设：存在关于“风险”的客观真实标签，以及人类评审是完美无缺、随时可用的。作者通过125个人工标注的对
Cheap Reward Hacking Detection
该研究提出一种低成本、高效的reward hacking检测方法，针对强化学习（特别是基于人类反馈的强化学习，RLHF）中奖励模型被操纵的问题。核心方法：训练一个小型Transformer编码器，将Terminal-Wrench环境中的轨迹
nCMD: Benign-Anchored Feature Selection for Imbalanced Network Intrusion Detection
该论文针对网络入侵检测系统（NIDS）在高维、高度不平衡流量场景下的特征选择问题，提出了一种名为nCMD（benign-anchored Classwise Mean Deviation）的轻量级、可解释的特征选择方法。传统过滤方法使用全局
SoK: Reconstruction Attacks on Synthetic Tabular Data (Insights from Winning the NIST CRC)
本文是首篇对合成表格数据的重建攻击（即属性推断攻击）进行系统化研究的论文。研究背景是合成数据被广泛宣传为一种隐私保护替代方案，用于发布敏感表格记录，但对其核心对抗威胁——重建攻击（通过合成数据和少量已知准标识符恢复个体隐藏属性值）的研究此前
Differentially Private Range Subgraph Counting
本文首次研究了差分隐私下的范围子图计数问题（DPRSC）。子图计数是图分析中的基本问题，传统方法通常计算整个图中特定模式的出现次数。然而，实际应用常需对由多维属性范围选中的顶点诱导子图进行查询，同时保护隐私。差分隐私子图计数面临重大挑战：子
AI-Native Closed-Loop Security for 6G-Enabled Cyber-Physical Systems: From Edge Detection to Network-Wide Mitigation
本文是一篇关于6G赋能信息物理系统（CPS）安全的综述论文。6G网络将连接数十亿CPS设备（如自动驾驶汽车、智能电网、工业机器人和远程手术设备），这些设备运行在超可靠低延迟切片上，使得远程入侵与物理伤害之间的时间差缩短至毫秒级，传统边界防火
MOLOT System Card: Malicious Operational Logic Observation Transformer
MOLOT（恶意操作逻辑观察Transformer）是一种面向SAST（静态应用安全测试）场景的静态恶意代码检测系统。在SAST环境中，软件包元数据、维护者历史记录和动态执行轨迹等信息可能不可用或不可信，MOLOT通过分析源代码的静态调用图
SHIELD-IDS: Structurally Heterogeneous Ensemble with Integrated Layered Defense for Intrusion Detection Systems
本文针对基于机器学习的入侵检测系统（IDS）面临的对抗性攻击威胁，提出了一种名为SHIELD-IDS的防御框架。现有研究如IDS-Anta通过Z-score归一化、奇异值分解（SVD）和多臂赌博机（MAB）选择分类器来部分缓解攻击，但其分类
The Capacity of Information-Theoretic Secure Aggregation in Federated Learning
本文研究了联邦学习中信息论安全聚合的容量问题。安全聚合允许服务器在保护用户更新隐私的前提下聚合本地更新。现有信息论问题通常假设由可信第三方（TTP）提供相关随机密钥，或通过预定义的组结构生成，但建立这些相关密钥的通信成本常被忽略。因此，在通
TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents
该论文提出了TRACE框架，用于检测自主LLM agent在长期任务轨迹中隐藏的恶意行为。问题背景是：标准轨迹级监控难以检测agent通过一系列单独无害但序列组合后具有恶意的行为。现有方法要么一次性评估整个轨迹，要么将轨迹分割成独立窗口评分
Hearing the Unspoken: Language Model Priors for Acoustic Adversarial Attacks
该论文研究针对实时自动语音识别（ASR）系统的对抗性攻击。实时ASR系统必须在严格的时间约束下处理声学输入，转录决策基于不完整信息，这种因果约束成为攻击者的信息瓶颈，显著限制了攻击性能。作者提出一种名为“Semantic Gambit”的新
AMD-FCG: An Enhanced Function Call Graph Dataset with Integrated Topological Features for Malware Detection and Classification
恶意软件检测是网络安全领域的关键挑战，因为恶意软件具有复杂结构和行为。现有的检测方法中，通过函数调用图（FCG）分析恶意软件的结构和行为模式是一种可靠的方法，但缺乏足够大且高质量的数据集来支撑对众多恶意软件家族的有效分类。本文提出了AMD-
An Improved CNN-LSTM Based Intrusion Detection System for IoT Networks
随着物联网设备的快速普及，网络安全问题日益严峻，入侵检测系统成为保护网络环境的关键。本文提出了一种基于改进的CNN-LSTM（卷积神经网络-长短期记忆网络）的入侵检测模型，用于物联网网络中的攻击检测。该模型结合了多分类、数据集集成和时间特征
Hybrid CNN-LSTM Framework for Intelligent Cyber Attack Detection and Prevention in U.S. Critical Digital Infrastructure: A Comparative Machine Learning Evaluation on CSE-CIC-IDS2018
该论文针对美国关键数字基础设施（医疗、金融、交通、能源、政府系统等）面临的日益复杂的网络威胁，提出了一种基于混合CNN-LSTM框架的智能网络攻击检测与防御系统。研究背景指出，传统的基于签名的入侵检测系统无法有效检测未知和变化的攻击。为此，
SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks
随着大语言模型（LLM）的广泛部署，通过越狱攻击识别其脆弱性变得至关重要。基于优化的攻击（如Greedy Coordinate Gradient, GCG）通常将对抗性token插入到提示的末尾，但固定插入点可能不是最有效的。本文实证研究了
DP-MacAdam: Differentially Private Mechanism with Adaptive Clipping and Adaptive Momentum
本文提出了一种名为 DP-MacAdam 的新型差分隐私机制，旨在解决差分隐私随机梯度下降（DP-SGD）中固定梯度裁剪阈值导致的局限性。现有自适应裁剪算法（如 AdaClip）虽然能根据梯度经验均值和方差动态调整裁剪参数，从而获得更有效的
Preserving Data Privacy in Learning Causal Structure with Fully Homomorphic Encryption
本文针对分布式因果结构学习中的隐私泄露问题，提出了一种基于全同态加密（FHE）的隐私保护方法。传统方法中，数据在传输和计算过程中可能暴露敏感信息，而FHE允许在密文上直接进行计算，从而保证数据全程加密。然而，将FHE应用于因果结构学习面临计
NLLog: Lightweight, Explainable SOC Anomaly Detection via Log-to-Language Rewriting
本文提出了一种名为NLLog（Natural-Language Log）的轻量级日志异常检测管道，旨在解决系统日志因模板化格式导致难以被自动化分析和人工理解的问题。NLLog的核心思想是将解析后的日志模板确定性重写为“谁-做了什么-严重程度
Sequential Data Poisoning in LLM Post-Training
本文研究了大语言模型（LLM）后训练阶段中的顺序数据投毒威胁。LLM后训练通常包括多个阶段，如监督微调（SFT）和基于人类反馈的强化学习（RLHF）或直接偏好优化（DPO），每个阶段的数据来自不同、可能不可信的来源。现有文献假设每个训练阶段