Evaluating AI Models' Capability to Automate Voice Phishing Attacks
该研究通过大规模问卷调查（N=4100）和定性访谈（N=12），评估了美国成年人面对AI驱动的语音钓鱼攻击的脆弱性。研究人员利用先进的语音模型（包括Llama Full Duplex、Sesame、Gemini、OAI AVM、Play.A
#LLM
共收录 2152 条相关情报。
← 返回所有主题SMETA-ZSL:Semantic Meta-Alignment for Zero-Shot Threat Classification
本文提出SMETA-ZSL，一种面向网络安全威胁分类的零样本学习方法。传统监督学习依赖大量标注数据，但新出现的威胁类别往往缺乏标记样本。零样本学习通过利用辅助语义知识（如自然语言描述）来识别未见过的类别。大型语言模型可将非结构化的网络威胁情
VEXAIoT: Autonomous IoT Vulnerability EXploitation using AI Agents
该论文提出了一种名为 VEXAIoT 的自主多智能体框架，用于物联网环境中的漏洞发现与利用。IoT 系统因硬件受限、固件过时及默认配置不安全而固有脆弱，亟需可扩展的自适应安全测试方法。尽管最近的大语言模型（LLM）智能体在渗透测试和CTF挑
Leveraging Interpretable Tsetlin Machine for PDF Malware Detection
本文针对PDF文件被广泛用于传播恶意软件的安全问题，提出了一种基于可解释Tsetlin Machine（TM）的恶意PDF检测框架。该框架通过静态分析从PDF文件中提取关键特征，无需执行文件即可进行检测，并利用TM的规则学习机制对良性与恶意
Blockchain-Linked Auditable Decision Management for Telecom/IoT Fraud-Control Requests
该论文研究将电信/IoT欺诈控制重新定义为区块链链接的可审计决策管理问题。传统欺诈控制研究通常止步于检测器级别的分类，而实际部署需要请求级别的策略决策、生命周期可追溯性和可审计性。论文提出一个框架，将每个合成部署记录映射为受管理请求，通过确
Malaika: Understanding Malware through Tri-Grounded Agentic Reasoning
该论文提出了一种名为 Malaika 的多智能体框架，用于解决恶意软件理解中的核心挑战：如何在部分可观测性下，从稀疏、分散的代码证据中重建高级恶意行为，并与良性功能区分。作者将恶意软件理解形式化为一个基于证据的推理问题，并主张可靠的行为重建
SherAgent: Scaling Attack Investigation in the Wild via LLM-Empowered Iterative Query-Filter Backtracking
该论文提出了一种基于LLM的自动化攻击调查系统SherAgent，旨在解决实际企业安全运营中心（SOC）中基于溯源图的攻击调查面临的依赖爆炸和因果链碎片化问题。通过与服务数亿用户的互联网公司SOC合作，作者分析了现有LLM驱动的调查工作流（
SLBench: Evaluating How LLM Agents Follow Logical Relations in Skills
本研究聚焦于LLM代理（如代码助手）在执行技能文件时的安全性问题。技能文件封装了可复用的程序、工具和领域特定工作流，但其中存在复杂的逻辑关系（如前置条件、约束、回退行为），若代理未能正确遵循这些关系，可能导致危险操作。作者首先提出了Skil
Secret Scanner Agent: Extracting Secrets and Access Context from Unstructured Documents
该论文提出了一个名为 Secret Scanner Agent (SSA) 的多智能体大语言模型系统，旨在从非结构化的暴露文档（如电子邮件、聊天记录、工单、事件笔记）中提取泄漏的凭据及其关联的访问上下文（即“门”）。传统的秘密扫描器依赖正则
SeedSmith: LLM-Driven Seed Synthesis for Directed Fuzzing
定向模糊测试旨在将模糊器导向用户定义的目标函数以发现漏洞，但经常在长时间运行后仍无法触发崩溃。本文识别了两个关键挑战：一是间接调用的静态分析不完整，导致基于距离的引导无法发现可达路径；二是缺乏对崩溃前提条件的语义引导，使得盲目变异在合理时间
TRM-Raft: A Byzantine-Resistant Raft Consensus via Integrated Trust and Reputation Model
本论文针对 Raft 共识算法在开放互联网环境（Internetware）中面临拜占庭故障（如选举伪造、日志篡改）时鲁棒性不足的问题，提出了一种名为 TRM-Raft 的拜占庭抵抗增强方案。该方案非侵入式地将基于区块链的信任与声誉模型（B-
TRACE: A Two-Channel Robust Attribution Watermark via Complementary Embeddings for LLM-Agent Trajectories
该论文提出了TRACE，一种针对LLM智能体轨迹的双通道鲁棒属性水印方案。在LLM智能体通过转售商（reseller）分发的场景中，转售商可能篡改开发者智能体的品牌或替换为更便宜的模型。当所有权发生争议时，归属认证依赖于轨迹日志（工具调用、
Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents
该论文针对持久化AI代理（Persistent AI Agents）的安全性提出了一种新的运行时防御框架。与传统单轮对话助手不同，持久化AI代理通过长期运行的软件系统与用户交互，其不安全内容可通过持久化状态、可复用技能和工具中介交互传播，形
From Legacy Documentation to OSCAL: An MCP-Based Agent Pipeline for Threat-Informed Continuous Compliance in Critical Infrastructure
本文针对关键基础设施中操作技术环境无法主动扫描但需要风险评估和合规反馈的挑战，提出了一种基于 MCP（Model Context Protocol）的非侵入式多智能体流水线。该流水线将自然语言系统描述转换为来源可验证的知识图谱和符合 NIS
Simulating the Resident: Generating Executable Smart Home Schedules via LLM Personas
本文针对智能家居人机交互研究中数据集获取困难、成本高昂且侵犯隐私的问题，提出利用大型语言模型（LLM）生成多样化的居民角色（personas），这些角色与模拟智能家居环境交互，产生行为驱动的可执行交互时间表，从而在物理测试床上复现居民行为。
Out of Sight: Compression-Aware Content Protection against Agentic Crawlers
本文针对基于大型语言模型（LLM）的智能代理（如具备推理、总结和记忆能力的代理）对在线内容构成的新型威胁，提出了一种内容保护框架CAPE。传统的防御手段如访问控制易被模拟普通浏览器的代理绕过，而注入式防御往往降低人类可读性。作者重新审视代理
Prismata: Confining Cross-Site Prompt Injection in Web Agents
本文提出 Prismata，一种针对自主 Web 智能体（web agent）的跨站提示注入攻击的防御框架。背景：自主 Web 智能体旨在自动化日常浏览任务，但继承了 Web 最古老的攻击面之一——跨站脚本攻击（XSS）表明混合可信与不可信
Beware What You Autocomplete: Forensic Attribution of Backdoored Code Completions
本文提出 CodeTracer，一个面向大语言模型代码补全系统中后门攻击的取证框架。背景是：代码补全系统（如 Copilot）依赖大型语言模型，但模型可能通过恶意微调数据被植入后门，导致生成恶意代码。现有防御技术难以检测和缓解自适应后门攻击
Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems
该论文研究了基于大语言模型（LLM）的多智能体系统中的故障定位问题。在多智能体系统中，多个LLM驱动的智能体通过协调推理和行动来解决复杂任务，但由于长期交互和智能体行为的紧密耦合，当执行失败时，很难确定哪个智能体负责以及轨迹在哪个点首次变得
Efficient Safety Alignment of Language Models via Latent Personality Traits
大语言模型（LLM）的安全对齐方法容易受到对抗性攻击的威胁，现有的防御手段如隐对抗训练（LAT）虽然有效，但需要大量有害提示数据，且可能损害模型效用。本研究提出了一种名为隐人格对齐（Latent Personality Alignment,