ThreatVisionAI: A Hybrid CNN-ViT Framework for Image-Based Malware Classification
传统的恶意软件检测方法在面对混淆或未知威胁时泛化能力不足。本文提出 ThreatVisionAI，一种混合恶意软件家族分类框架，它集成了原始图像 CNN、基于小波的 CNN 和 Vision Transformer (ViT)，以捕获恶意软
#cs.LG
共收录 1073 条相关情报。
← 返回所有主题How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs
该论文针对AI安全验证问题，提出了一种避免辩论（debate）的替代方案。传统辩论方法依赖两个能力对等的AI模型相互辩论以说服人类验证者，但这一假设在实践中可能不成立（如模型能力不均或双方均不诚实）。论文首次研究了面向AI安全场景的“单证明
Scalable Differentially Private Data Compression via Diffusion and Stochastic Codes
本文针对高维数据（如图像）在差分隐私保护下的高效压缩问题展开研究。现有方法要么直接发布未压缩的隐私化数据，导致存储开销巨大；要么缺少能在隐私保证下有效压缩高分辨率数据的方案。为此，作者提出了DP-DiPP（Differentially Pr
Privacy-Preserving and Verifiable Approximate Distributed Coded Computing
本文提出了一种模型无关的对抗抵抗分布式学习框架，旨在同时解决分布式机器学习中的隐私泄露和恶意操纵问题。传统方法通常分别处理这些威胁，且往往针对特定学习范式或模型架构，限制了实际部署的适用性。该框架结合了范式特定的防御机制与GPBACC（一种
HaloGuard 1.0: An Open Weights Constitutional Classifier for Multilingual AI Safety
本文提出了HaloGuard 1.0，一个开放权重的宪法分类器（constitutional classifier），用于大语言模型输入安全检测，特别针对多语言提示（prompt）的安全性。研究背景是现有开源安全模型通常体积庞大，在多语言场
kNNGuard: Turning LLM Hidden Activations into a Training-Free Configurable Guardrail
大型语言模型（LLM）在部署时通常需要护栏（guardrails）来检测不安全、离题或对抗性提示。现有护栏大多依赖微调构建分类器，泛化能力差且推理延迟高。本文提出kNNGuard，一种无需训练的护栏，利用现成LLM的激活空间。它仅需50个安
Beyond Gradient-Based Attacks: Adversarial Robustness and Explainability Stability in Cybersecurity Classifiers
该论文研究网络安全分类器在面对对抗性攻击时的鲁棒性及其可解释性稳定性问题。以往工作主要关注基于梯度的攻击方法，但许多实际分类器（如随机森林、XGBoost）是不可微的树模型。作者将先前的MLP研究扩展到随机森林和XGBoost，并在四个表格
Unveiling the Non-Monotonic Effect of Privacy on Generalization under Byzantine Robustness
该论文研究了在拜占庭鲁棒分布式学习场景下，本地差分隐私（LDP）对模型泛化误差的影响。现有工作已证明在分布式学习中，拜占庭鲁棒性、LDP和优化误差之间存在基本的三难困境。然而，本文发现这一三难困境并非普遍适用于泛化误差，而是关键取决于隐私强
Hamm-Grams: An Algorithm for Mining Regular Expressions of Bytes
该论文提出了一种名为“hamm-grams”的新型特征，用于恶意软件检测中的静态分析。传统的n-gram特征虽然被广泛使用，但存在鲁棒性不足的问题，容易因代码微小变化而失效。作者将hamm-grams定义为具有固定长度和单字符通配符的特殊正
Sign in the Air to Unlock: An Interface for authentication in Virtual and Augmented Reality Powered by Point-Voxel Cross-Attention Network
该论文针对虚拟现实和增强现实（VR/AR）中的身份认证问题，提出了一种名为“Sign in the Air to Unlock”的空中签名认证接口。传统的密码、PIN或基于硬件的登录方式会打破沉浸感且依赖外部设备，而现有的3D行为认证方法（
Black-Box Inference of LLM Architectural Properties with Restrictive API Access
这篇论文研究了在API访问受到严格限制的情况下，如何推断大语言模型（LLM）的底层架构属性。当前大多数商业LLM供应商不再公开模型架构细节，且API只返回每个解码token的单一logit值，不再提供logit偏置功能。作者提出了Night
Generative AI and Federated Learning for Intrusion Detection Systems: A Survey
该论文是一篇关于生成式人工智能（Generative AI）和联邦学习（Federated Learning）在入侵检测系统（IDS）中应用的综述。入侵检测系统是现代网络环境（如网络物理系统、物联网、企业网络和分布式网络）中监控流量、识别恶
The Binary Tree Mechanism is Optimal for Approximate Differentially Private Continual Counting
本文研究了差分隐私（Differential Privacy, DP）下的持续计数问题（Continual Counting）。问题设定是：给定一个长度为 n 的二进制流，每个 1 代表一个个体的贡献，目标是在保护每个个体隐私的前提下，发布
Forensic-Oriented Intrusion Detection Using Synthetic Network Traffic Data and Explainable Artificial Intelligence
该论文提出了一种面向数字取证场景的网络入侵检测框架，同时解决现有机器学习管线在证据保全和可解释性方面的缺陷。框架严格遵循ISO/IEC 27037、27041、27042及NIST SP 800-86等取证标准，将原始网络流量数据视为不可变
SoK: Attack and Defense Landscape of Mobile On-device AI Systems
移动端设备端AI（MoAI）系统将本地部署的AI模型与传统移动软件组件集成，直接在终端设备上提供智能功能，具有隐私保护、低延迟和离线可用等优势。然而，本地存储AI模型引入了新的安全风险。本文是首个针对MoAI安全的系统化知识梳理，涵盖安全支
Embedding Inference Attack
该论文关注现代信息检索（IR）系统中嵌入模型的安全隐患。嵌入模型通常作为API端点隐藏在系统后端，但已有研究表明密集IR系统可能遭受嵌入反转攻击（即从检索结果反推输入文本或嵌入向量）。然而，此类攻击通常假设攻击者已知嵌入模型的具体细节（白盒
Semantic Leakage and Privacy Preservation in Relay-Assisted Semantic Communications
该论文研究了中继辅助语义通信系统中的隐私问题。语义通信通过传输任务相关信息而非原始数据，旨在资源受限和信道条件下实现高效鲁棒的通信。然而，论文发现即使中继节点无法访问源数据，它也可以直接基于学习到的潜在表示可靠地推断语义含义并重构信号，其性
CSO-LLM: Class Subspace Orthogonalization for Post-Training Backdoor Detection and Trigger Inversion in LLMs
本文提出一种针对大型语言模型（LLMs）的后门检测与触发器反演框架。现有后门检测方法主要针对图像等领域，对LLMs的适用性有限，因为LLMs的输入空间是离散的，且存在大量可能的触发器组合（token序列），同时需要黑名单过滤目标类常见tok
The Decomposition Is the Fingerprint: Per-Component Identity for Agent Skills
本文针对AI agent在执行时从市场或其他agent获取的技能（包含提示指令、可执行代码和工具声明）的身份标识问题。现有加密哈希（如SHA）对微小改动敏感，无法反映技能之间的相似性，不利于技能治理和注册。作者提出一种紧凑的局部敏感指纹方法
Probing Memorization of Tabular In-Context Learning
本文研究了大型表格模型（LTM）在上下文学习（ICL）中的参数记忆化现象。尽管大型语言模型（LLM）已被证实会无意中记忆训练数据，但LTM的记忆化动态尚不完全清楚。为此，作者提出了一个名为ICLMEM的探测框架，旨在区分基于上下文的预测与参