Bit-Flip Attacks on Vision-Language-Action Models: Action-Decoding Architecture Shapes the Vulnerability
该论文首次系统研究了量化视觉-语言-动作（VLA）模型在权重位翻转攻击下的安全脆弱性。研究背景在于，VLA模型通常以INT8量化部署于边缘设备，而Rowhammer等硬件故障可导致模型权重中的比特位被翻转，从而破坏模型的决策行为。论文提出了
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Chameleon: An Adaptive AI-Driven Honeypot Architecture Using Threat-Calibrated Particle Swarm Optimization and Semantic Deception Rapidly-Exploring Random Trees
该论文提出了一种名为 Chameleon 的自适应蜜罐架构，旨在解决传统蜜罐的两个核心缺陷：一是行为轮廓固定不变，熟练攻击者仅需少量诊断命令即可识别出蜜罐环境，从而限制其情报收集价值；二是高成本商业欺骗产品（年费约 10 万至 15 万美元
TwinGridShield: Consequence-Aware Runtime Authorization for LLM Grid-Agent Actions
本文提出 TwinGridShield，一个面向 LLM 辅助能源管理工具的、与模型无关的运行时授权层。研究背景是：大语言模型可将自然语言上下文转换为结构化电网命令，但语法合法并不代表物理上可执行。TwinGridShield 在每条动作被
AudioTQ: A Data-Oblivious 6-Bit CPU Audio Codec via Randomized Hadamard Rotation and Lloyd-Max Quantization
该论文提出了 AudioTQ，一种数据无关的 (data-oblivious) 有损音频编解码器，直接在时域操作，而不再依赖传统频域变换和心理声学模型。其核心思路借鉴了大型语言模型 (LLM) 权重量化中的 TurboQuant 框架：首先
Beyond Direct Access: Resource Hijacking in LLM Agents
本文首次系统性地研究了大语言模型（LLM）智能体（Agent）中的“资源劫持”（resource hijacking）安全盲区。以往智能体安全研究主要关注指令注入、数据泄露和工具滥用等攻击，而智能体可访问的高价值资源（如计算基础设施、凭证、
WeSCE: A Benchmark for Measuring Security Drift in LLM-Driven Code Editing
本文提出 WeSCE，一个用于量化 LLM 驱动代码编辑过程中“安全漂移”的基准测试。在真实开发场景中，开发者常向 LLM 下达仅包含功能目标的编辑指令（如“增加一个排序功能”），并未显式提出安全要求，但代码修改可能引入或加剧安全漏洞。We
Hierarchical Agentic Incident Response with Digital-Twin-Validated Attack Inference
本文针对网络应急响应中人工推断多阶段攻击耗时费力的问题，提出了一种层次化智能体响应框架。该框架融合了大语言模型（LLM）攻击推断、滚动规划（rollout planning）和数字孪生验证。首先，一个微调的LLM从安全告警和系统测量数据中推
SysEvolve: An AI-native, safe, autonomous adversarial attack-defense co-evolutionary system
这篇论文聚焦于大语言模型（LLM）带来的网络安全攻防不对称问题：攻击正在趋于自主执行，而防御仍高度依赖人工分析，导致攻防失衡。作者认为，这种不对称的根本原因在于攻防双方在三个层面的“进化”陷入停滞。为此，他们提出“共同进化”（co-evol
Workspace Topology as an Attack Vector in Agentic Coding Assistants
本文针对智能体编程助手（agentic coding assistants）在开发工作区中广泛读取和利用第三方代码时引入的安全风险，提出并系统研究了一种新型攻击面——工作区拓扑（workspace topology）。作者将工作区拓扑定义为
A Hybrid LLM-Based Framework for Automated Security Annotation Generation in Business Process Models
本文针对安全业务流程建模中安全注解生成高度依赖人工且易出错的问题，提出一种基于大语言模型（LLM）与规则混合的自动化框架。在业务流程建模中，BPMN 扩展如 SecBPMN2 为流程模型添加安全属性，但现有实践通常需要安全专家从自然语言的安
A Four-Axis Trustworthiness Benchmark for LLM-as-Judge in Principle-Based Regulation
原则性监管（如“公平、清晰、不误导”或“提供良好结果”）属于评判性标准，无法简化为二元谓词。随着大型语言模型（LLM）被越来越多地用作裁判，其实际评估质量变得至关重要。本文提出，任何此类裁判都必须从四个维度进行评测：准确性（accuracy
QuaSAR: Quantization Compensation via Stable Activation-Aware Rank Truncation
本文针对训练后量化（PTQ）中的残差补偿方法在低比特（W4A4）设置下失效的问题展开研究。现有无训练后量化方法通过闭式解进行残差补偿以恢复模型精度，并采用基于拟合优度的门控机制逐层筛选，仅保留补偿后残差拟合分数为正的层，以控制额外的存储开销
BGA: A noise-immune neural distillation framework for malicious signature extraction in high-entropy encrypted flows
本文提出一种名为BGA（Bidirectional Gated Attention）的抗噪神经蒸馏框架，用于在高熵加密流量（如TLS 1.3）中提取恶意签名。研究动机是：在加密流量中，随机性强的密码学噪声会稀释注意力机制对关键控制面特征的关
P2Skill: Privacy Preserving Skill Distillation for Cloud-Local LLM Inference Systems
本文提出了一种名为 P2Skill 的隐私保护技能蒸馏方法，用于云-本地大语言模型（LLM）推理系统。在典型的云-本地架构中，云端大模型提供强大的推理能力，而本地设备负责处理敏感用户数据。为了保护隐私，发送到云端的请求必须剥离个人身份信息（
Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers
本文针对大型语言模型（LLM）部署中安全分类器（safety classifier）失效的两大痛点提出解决方案：一是分类器在训练时学到的策略与部署方（deployer）期望的策略不一致，导致决策偏差；二是随着部署流量分布演化，分类器性能会逐
CipherSight: Robust Website Fingerprinting via Record-Resource Semantic Supervision under Distribution Shifts
本文提出 CipherSight，一种基于 TLS 记录层的高鲁棒性 HTTPS 网站指纹识别（WF）框架，旨在解决真实部署中因时间和地域变化导致的分布偏移（OOD）以及开放世界场景中不断出现的新网站问题。现有方法主要从原始 TCP 包序列
Concept Drift Detection and Adaptive Retraining of Malware Classification Models
本文研究恶意软件分类模型中概念漂移的检测与自适应重训练问题。概念漂移是指数据统计特性随时间发生变化，从而导致基于历史数据训练的机器学习模型性能下降。在恶意软件检测场景中，攻击者不断修改恶意代码以规避检测，因此模型极易受到概念漂移的影响。作者
TopoIntent: Compiling Security Intent into Executable, Compliance-Checked Network Topologies
本文提出TopoIntent，一个将安全意图自动编译为可执行且合规的网络拓扑的系统。企业安全拓扑设计通常需要人工将业务意图、监管要求和风险假设转化为具体的网络区域、边界设备、区间路径和访问控制策略，而现有NetOps自动化工具多在拓扑设计完
Sovereign by necessity? Frontier AI export controls, cyber security, and the limits of national AI capability
本文由 Alan Woodward 与 Andrew Rogoyski 撰写，发表于 arXiv cs.AI 分类，聚焦前沿人工智能（Frontier AI）出口管制与网络安全之间的交叉问题。研究背景是：极少数位于两个国家（美国与中国）的企
Operationalizing Cyber Threat Intelligence with GraphRAG
本文针对安全运营中一个长期存在的痛点：当安全研究员发布网络攻击报告后，检测工程师需要将其转化为可用的检测规则。然而，现有自动化方法大多只能从报告中提取最浅层的威胁指标（如恶意IP、域名、文件哈希）并生成封禁列表，这种策略极易被攻击者通过更换