共收录 1073 条相关情报。
← 返回所有主题该论文针对大语言模型（LLM）记忆评估中的探针选择问题展开研究。作者使用固定前缀窗口的mean-NLL记忆探针（窗口大小K=20）对Qwen2.5-VL-7B模型的金丝雀测试床进行审计，发现了三个典型的事后分歧案例，揭示了探针窗口设置对记忆
大型语言模型（LLM）正在迅速改变软件开发，但其在安全关键场景中的应用引发了一个关键问题：模型是否知道其生成的代码何时不安全？这种属性被称为校准（calibration），衡量模型的置信度是否与其输出的真实正确性一致。本文首次对LLM生成代
该论文针对非可信AI代理（如大型语言模型或学习策略）在硬约束序列决策系统中的计算资源分配问题，提出了一种名为“证书门控前缀接受”（Certificate-Gated Prefix Acceptance, CGPA）的认证推测执行框架。核心挑
该论文提出了一种新的方法来实现语言模型已学习状态的“可撤回”操作，特别是在模型经过多个阶段训练（如公共技能阶段、私有记忆阶段、安全反习阶段）后，如何在不重新训练的情况下安全地移除特定记忆。作者发现，简单的任务算术（task arithmet
本文研究了语义通信（SemCom）在多址接入信道（MAC）中的无线后门攻击与防御问题。语义通信旨在超越传统比特级恢复，保留语义信息并支持面向任务的信息传输。当两个发射器通过共享无线信道向一个公共接收器发送语义信息时，接收器需要联合重建并分类
本文提出了一种针对企业共享存储环境中加密勒索软件（crypto-ransomware）的混合检测框架。传统的端点检测主要关注本地系统行为，但勒索软件变种已将攻击面扩展至网络驱动器和共享存储资源，受感染的客户端可加密共享数据而不直接在服务器端
本文提出了一种基于行为轨迹签名的LLM代理内存投毒攻击检测方法。作者发现在持久化内存投毒攻击场景下，存在一个行为不变性：在通过可观察的内存工具调用检索路由信息的架构中，成功的攻击必须依次调用 `memory_recall_fact` 和 `
现代车辆通信网络的日益互联使得保护车内通信网络成为关键挑战。入侵检测系统（IDS）作为检测控制器局域网（CAN）总线恶意活动的防御机制被广泛研究。然而，由于实验设置不一致和缺乏标准化基准测试框架，CAN IDS 方法的评估仍然困难。因此，报
该论文首次对机器学习模型的所有权证明问题进行了正式研究。随着机器学习的广泛采用，保护模型所有权成为关键挑战。作者将模型所有权证明建模为三方博弈：模型所有者、窃取者和裁判。模型所有者将原始模型轻微扰动后生成一个变换模型，并附带一个所有权证明。
机器学习的网络入侵检测系统（IDS）通常依赖于聚合流统计数据，这丢弃了分布结构信息。传统的熵度量需要原始数据包序列，而在预先聚合的流数据集中不可用。本文提出多级分布熵（MDE），一个分析框架，直接从流级汇总统计量中推导出可解释的熵特征，包括
本文提出了一种新的深度伪造检测评估框架——校准深度伪造信任分数（CDTS）。传统上，深度伪造检测器的输出概率被直接视为信任度，但作者指出其校准性（即预测概率与实际正确率的匹配程度）与检测器的判别能力之间存在强耦合。通过在32种配置上的实验（
该论文系统评估了大型语言模型（LLM）推理时安全防御方法的性能，填补了该领域缺乏系统比较的空白。研究涵盖了五种防御范式（无防御、静态引导、CAST、AlphaSteer、探针门控）在七个指令微调模型（参数量7-31B）上抵御五种攻击（GCG
该论文研究了变压器网络（Transformer）在实现密码学函数方面的能力极限。此前的研究表明，合谋的AI智能体可以利用隐写术交换恶意信息，而变压器能否实现隐写术取决于其能否在层内实现密码学函数（从而获得无源随机性访问）。尽管已有电路复杂度
模型量化是实现大型语言模型（LLM）高效部署的关键技术，但本文揭示了一种新型安全威胁：量化条件后门攻击（QCB）。攻击者通过在预训练或微调阶段植入与特定量化边界精确对齐的恶意权重模式，使得后门在完整精度模型中保持休眠，仅在经过特定量化（如I
本文提出，网络安全领域是检验生成式AI（特别是基于大语言模型的代理系统）成功与否的真正前沿。作者指出，网络安全工作流需要协调数百种标准及定制工具，处理格式多样的数据，且数据规模巨大（例如单个恶意软件样本可视为数十亿token的序列）。标签成
本研究针对联网车辆（CV）面临的Sybil攻击威胁，提出了一种基于车载数字孪生（DT）的碰撞预警框架，该框架内嵌了Sybil攻击检测能力。Sybil攻击中，攻击者通过伪造多个虚假车辆身份来欺骗通信系统，可能引发安全事故。框架核心包含两部分：
该论文针对语音控制系统面临的安全风险展开研究，指出当前对空中声学攻击（over-the-air acoustic attacks）的理解存在不足，主要原因在于研究社区难以将数字域对抗样本生成流程扩展至物理世界，导致关键的声学因素（如可探测性
自动语音识别（ASR）系统对对抗性和良性扰动高度敏感，但现有检测方法因缺乏真实转录的先验知识而难以在部署系统中实施。本文提出一种基于认证思想的鲁棒性增强方法，通过双门控诊断管道提升系统可靠性。该管道包含两个核心模块：一是“两侧原子审计”，通
本文针对随机平滑（Randomized Smoothing, RS）认证方法计算开销过大的问题，提出了一种基于元学习的早停框架。传统RS需要为每个输入进行数万次模型评估，且必须预先固定样本量，导致实际部署困难。作者设计了一个轻量级元学习器，
该论文研究了大型语言模型（LLM）集成应用中 prompt injection 攻击的根本原因。作者证明，在共享嵌入架构中，如果缺乏强制性的控制与数据分离，完美防御 prompt injection 在数学上是不可能的。论文形式化定义了“提