Quality Is Not a Safety Proxy Under Quantization
本文系统性地审计了量化大语言模型(LLM)安全评估中的一个常见捷径:先用质量指标(如困惑度、任务准确率)筛选量化后的检查点,再决定是否有必要进行直接安全测试。作者构建了一个包含51个数据点的矩阵,覆盖6个模型(如Llama、Mistral、
今日共收录 1730 条安全情报,包含 831 个 CVE,478 篇安全通告,以及 120 篇研究论文。
← 返回归档列表本文系统性地审计了量化大语言模型(LLM)安全评估中的一个常见捷径:先用质量指标(如困惑度、任务准确率)筛选量化后的检查点,再决定是否有必要进行直接安全测试。作者构建了一个包含51个数据点的矩阵,覆盖6个模型(如Llama、Mistral、
该论文针对网络入侵检测领域近期大量使用Transformer等时序架构的现象,系统性地评估了这些架构在CIC-IDS2017数据集上的真实性能。作者指出,许多现有研究未能向时间模块提供真正的序列输入,也未在无泄漏的评估条件下进行测试,因此报
本文首次揭示了在元宇宙/VR 场景中,利用头戴式显示器中原本用于追踪运动的惯性传感器(如加速度计、陀螺仪)来重建用户大脑 EEG 信号,从而窃取超出可视行为范围的隐私信息(如用户正在感知的脑内图像、对视听刺激的神经反应等)。核心思想是:VR
本论文对2026年1月至5月期间在VirusTotal(VT)上观测到的约152万个恶意域名进行了纵向研究。研究选取了至少被5个独立VT扫描引擎检测到且首次出现在研究窗口内的域名,并将数据集分为受感染域名和攻击者创建域名(后者约占89.3%
本文针对OpenClaw这一新兴人工智能代理框架对非技术用户带来的安全风险进行了系统研究。OpenClaw能够自主执行复杂多步骤任务,吸引了大量用户,但现有安全研究主要面向技术专家,非技术用户缺乏可理解的指导。作者首先通过日常使用场景识别并
该论文对39个深度伪造语音(deepfake speech)数据集进行了系统性审计,旨在评估当前数据集的可用性、文档完整性、人口统计与语言覆盖、规模以及底层真实语音来源的重叠情况。研究发现两个关键问题:首先,大多数数据集缺乏人口统计元数据(
本文针对自动说话人验证(ASV)中的反欺骗(anti-spoofing)问题,提出了一种基于参考增强训练(RAT)的新方法。作者首先设计了一个以说话人参考录音为条件的欺骗检测架构,但发现模型在训练过程中会快速收敛到忽略参考通道的状态,即参考
该论文研究了AI代理执行痕迹中暴露的程序性技能泄露风险。用户依赖执行痕迹来观察代理行为、诊断故障并确保问责,但这些痕迹包含丰富的程序细节(如工具调用、中间决策、错误恢复逻辑),使得下游方法能够在无需访问模型权重或技能文件的情况下恢复关键公式
联邦学习中的梯度泄露是一个重要的隐私威胁,安全聚合是缓解该问题的关键组件。然而,传统安全聚合的通信开销与梯度维度成正比,对于大型模型和去中心化联邦学习(节点带宽有限、可靠性差)而言难以承受。Top-K梯度稀疏化通过仅传输梯度中最重要的K个元
现代网络代理(web agent)通常依赖外部记忆模块存储过往经验,以支持长时序推理。然而,这种设计引入了新的安全风险:攻击者可以向记忆库中注入恶意内容,这些内容在后续查询中被持续召回,从而反复影响代理的行为决策。本文首次系统性地研究了多模
本文对基于概念模型(Concept-based Models, CMs)中的信息泄露问题提出了新的观点。传统上,CMs 旨在通过人类可理解的概念(如“圆形”、“条纹”)进行预测,但研究发现这类模型会泄露与概念无关的额外信息,通常认为这种泄露
本文从自动机理论角度系统研究了网络安全分层管线中变换顺序对检测结果的影响。作者构建了一套包含层序自动机、确定性顺序安全变换器、证据标记和最终决策自动机的形式化框架,以HTTP请求反同步(Request Smuggling)为具体案例分析层序
本文针对跨组织协作计算中,参与方需要处理敏感数据和专有代码但不愿将其暴露给不可信基础设施或其他参与者的难题,提出了一种名为双向机密虚拟机(2cVM)的双层架构。该架构将硬件可信执行环境(TEE)与工作负载内隔离层相结合。与普通机密虚拟机(C
随着自主AI智能体从对话式交互转向任务执行,安全威胁也从文本欺骗升级为系统破坏。现有安全评估工作面临三大瓶颈:风险覆盖碎片化(缺乏系统性分类)、执行环境静态或低保真(无法模拟真实多步交互)、评估指标单一粗粒度(仅考虑最终结果忽略过程安全)。
同态加密(HE)允许对加密数据进行隐私保护计算,但高计算开销限制了其实用性。该论文聚焦于统计和机器学习负载中的核心原语——逆平方根计算,发现其在不同的HE库和硬件上性能不一致且往往次优。性能瓶颈源于两类高成本HE操作之间的权衡:评估高次切比
信用风险预测是消费信贷行业的核心问题。传统上,金融机构使用借款人的人口统计、财务和信用历史数据(统称为传统数据)构建预测模型。近年研究表明,替代数据(如手机通信数据)能为贷方提供更全面准确的借款人信用评估,从而提升预测性能。然而,替代数据由
本文聚焦于操作系统集成的本地AI(On-Device AI)的隐私边界问题。作者指出,当前隐私讨论常将“本地运行”视为隐私保障的充分条件,但这一观点过于狭隘。本地AI助手可能整合邮件、日历、文件、截图、通知和应用程序意图,保留嵌入或摘要,调
该论文聚焦于资源受限的物联网(IoT)设备在DNS查询过程中的隐私保护问题。传统上,DNS流量常被攻击者用于识别或破坏网络服务,现有研究主要依赖DNS over TLS/HTTPS/QUIC等加密手段来保护查询内容。然而,对于计算和带宽受限
该论文针对网络安全领域长期存在的标准框架(如CVE、CVSS、CWE)仅覆盖软件漏洞,而忽视人类行为和心理漏洞的问题,提出了“人类脆弱性与利用(HVE)框架”。研究表明,绝大多数成功的网络攻击并非利用软件缺陷,而是利用人类行为和心理弱点,例
本文提出并分析了 Parent-Hash 有向无环图(PHDAG),这是一种用于链上注册表的追加型数据结构,其中每次追加操作只需对之前未触及的存储槽进行恒定数量的写入操作。此前,PHDAG 从未被作为独立原语进行形式化分析,也未被明确边界常