Not the Same Protector: Deployment-Dependent Protective Intervention in LLMs
本文研究大语言模型（LLM）在不同部署条件下（语音、文本、原始 API）对用户保护性干预的一致性。作者以一个描述人际冲突后未明确严重程度的身体伤害的单一压力场景为测试用例，对四个前沿模型进行匹配输入，每条件 30 次重复，并沿五个二元保护指
#LLM
共收录 2152 条相关情报。
← 返回所有主题Auditing and Mitigating Privacy Leakage in Cloud-Edge Collaborative Decoding
本文研究云-边协同解码范式中的隐私泄露问题。在该范式下，资源受限的边缘设备持有私有数据，并运行一个小语言模型（SLM）生成下一token分布；云端LLM仅基于公开数据进行预测；两者分布融合后生成最终输出。这种设计旨在避免将私有数据直接上传至
StepStone: LLM-Based GPU Kernel Driver Fuzzing via User-Space Libraries.
本文（arXiv 论文，题目为《StepStone: LLM-Based GPU Kernel Driver Fuzzing via User-Space Libraries》）提出了一种基于大语言模型（LLM）的 GPU 内核驱动模糊测试
MetaBreak: Jailbreaking Online LLM Services via Special Token Manipulation.
本文提出了一种名为 MetaBreak 的新型越狱攻击方法，针对在线大语言模型（LLM）服务。与常规 token 不同，特殊 token 是在 LLM 微调过程中人为创建、用于标注结构化对话的元数据，对模型生成连贯且上下文相关的回复起关键指
UiAs: User-Independent 3D Facial Anti-Spoofing via Multi-modal Wireless Signals
该论文提出了一种名为 UiAs 的多模态无线信号驱动的三维人脸防欺骗系统，旨在解决人脸认证系统面临的高保真 3D 面具攻击问题。随着 3D 打印和建模技术的发展，攻击者可以制作出高度还原人脸外观和几何结构的 3D 面具，这些面具能够骗过传统
A Comprehensive Survey on Linguistic Steganography: Methods, Countermeasures, Evaluation, and Challenges
本文是一篇关于语言学隐写术（linguistic steganography）的综合性综述，系统梳理了该领域在大型语言模型（LLM）时代的最新进展。隐写术旨在将秘密信息隐藏在看似正常的自然语言文本中，以规避检测。随着LLM的兴起，文本生成方
The Web-CLI: Verifiable Privacy for Tools, Models, and Inference Engines in the Browser
本文提出了一种名为 Web-CLI 的新型应用架构，旨在将传统命令行工具、机器学习模型和 GPU 加速推理引擎等强大的计算能力，以零安装、可离线运行的浏览器应用形式交付，同时保持底层能力的完整性。其核心思想是将所有计算过程完全置于客户端执行
Enhancing Web Application Firewalls with Machine Learning for SQL Injection Detection
本研究针对SQL注入（SQLi）检测这一Web应用安全中的关键挑战，进行了系统的文献综述以识别研究空白，并据此设计并优化了一个基于DistilBERT的堆叠集成检测管道。该管道首先对数据进行全面的预处理与分词，提取DistilBERT嵌入，
Enhancing Web Application Firewalls with BERT-GNN for SQL Injection Detection
该研究针对 Web 应用安全中检测复杂 SQL 注入（SQLi）攻击这一关键难题，提出了一种基于 BERT 与图神经网络（GNN）的混合检测模型，并针对 Web 应用防火墙（WAF）场景进行优化。方法上，先将 SQL 查询进行分词处理，通过
Breaking Darknet CAPTCHAs with general purpose LLM
本文评估了通用大语言模型（LLM）在破解暗网环境中常见CAPTCHA验证码任务上的有效性。暗网CAPTCHA通常设计为无JavaScript运行，因此与主流验证码系统存在显著差异。研究选取了三种具有代表性的挑战类型：开放圆圈定位、旋转对齐和
Recognition Without Enforcement: Configuration-Dependent Failures in LLM Agent Instruction Arbitration and External Control
该研究针对 LLM 代理在指令仲裁中的安全边界问题。LLM 代理需要同时处理系统提示、用户输入、记忆和工具等来源的指令，但研究发现模型对指令来源的仲裁不能保证强制信任边界，存在一种'识别-执行差距'：模型激活中可以线性解码出源格式特征（如角
REPLICANT: Learning Policies for Evading and Hardening Malware Detectors
该论文针对基于机器学习的恶意软件检测器在实际对抗环境中的鲁棒性评估问题展开研究。现有对抗攻击研究通常假设攻击者能够访问训练数据、特征空间或置信度分数等特权信息，这与真实世界的攻击者能力不符。为此，作者提出了一个名为 Replicant 的深
LLM-Based Agents for Software and Systems Security: Approaches, Applications, and Assessment
本文是一篇系统文献综述，聚焦于基于大型语言模型（LLM）的智能体（Agent）在软件与系统安全领域中的应用。研究背景是：安全分析工作往往依赖程序化流程，分析师需要检查异构工件、形成假设、调用工具、解读输出并修订计划。LLM智能体具备规划、工
When Verified Source Becomes Attack Input: Defending Smart Contracts Against LLM-Based Vulnerability Scanning
该论文关注智能合约在区块链上公开源代码所带来的新型安全威胁。传统上，智能合约项目为了建立用户信任，会在区块链浏览器上发布并验证源代码，使链上程序以可读形式公开。然而，随着LLM（大语言模型）智能体的发展，攻击者可以借助这些公开源码，利用自动
BEACON: Behavior-Anchored Cross-Source Knowledge Graph Construction for Cyber Threat Intelligence
本文提出 BEACON，一个基于 LLM 的跨来源网络威胁情报（CTI）知识图谱自动构建框架。研究背景是：大量 CTI 以非结构化报告形式存在，数量庞大且异构性强，人工分析难以应对；现有自动构建知识图谱的方法大多只处理单篇报告的部分信息，未
CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
检索增强生成（RAG）通过引入外部文档来增强大语言模型（LLM），但公共或用户可编辑的内容源为数据投毒攻击提供了可能。攻击者可以注入恶意文档，引导模型输出攻击者期望的答案。现有的投毒攻击通常依赖在恶意文档中包含目标查询（query incl
Layered LLM Defenses as an Ensemble: Access Tiers, Inference Cost, and the Measured Failure Correlation Between Defense Layers
本文研究了大语言模型（LLM）防御体系的分层堆叠效果。实践中，防御者常通过叠加多层防御来增强安全性，但堆叠是否真正有效取决于一个关键条件：各防御层必须在不同的失败样本上出错，即失败独立性。然而，LLM安全文献虽推荐这一假设，却从未实际测量。
You Have Been LaTeXpOsEd: A Large-Scale Systematic Analysis of Information Leakage in Preprint Archives Using Large Language Models.
本论文聚焦于学术预印本平台中的信息安全问题，特别是通过LaTeX源文件无意泄露敏感信息的风险。预印本作者通常需要上传LaTeX源文件以供排版和编译，但这些源文件中可能残留大量元数据、个人信息、修改痕迹或无效的匿名化内容，例如注释中的姓名/机
Sophon: Non-Fine-Tunable Learning to Restrain Task Transferability For Pre-trained Models.
本文提出了一种名为 Sophon 的新型保护框架，旨在防止预训练模型被恶意微调到不道德或非法的下游任务（如隐私推断、不安全内容生成），同时保持模型在原始任务上的性能。作者将这一目标定义为“非微调学习”（non-fine-tunable le
TagZilla: Automated Owner and Abuse Type Tagging for Indicators of Compromise in Threat Reports
本论文提出并实现了一个名为 TagZilla 的自动化平台，用于在威胁情报（CTI）报告中为失陷指标（IoC）自动添加归属（owner）和滥用类型（abuse type）标签。在网络攻击活动中，IoC 通常包括 IP 地址、URL、文件哈希