Police suspects Dutch hackers were involved in Odido breach
The Dutch National Police (Politie) says it has found "strong indications" that Dutch hackers have been involved in a Fe
今日共收录 877 条安全情报,包含 71 个 CVE,468 篇安全通告,以及 78 篇研究论文。
← 返回归档列表The Dutch National Police (Politie) says it has found "strong indications" that Dutch hackers have been involved in a Fe
Progress Software is emailing ShareFile customers who use Storage Zone Controllers to immediately shut down their server
The Australian Cyber Security Centre (ACSC) issued an alert about a global exploitation campaign targeting vulnerable co
A PNG hiding a prompt injection could steal your repo's secrets, researchers demonstrate. The technique, dubbed 'Ghostco
该论文提出 SynapseFlow,一种基于状态机引导的自动化模糊测试 harness 生成工具,旨在解决现有大语言模型(LLM)单轮生成方法中因函数粒度过粗和生成流程错位导致的幻觉及覆盖率不足问题。SynapseFlow 的创新包括两点:
该论文提出了一种利用大语言模型(LLM)生成合成智能家居数据的方法,以解决人机交互(HCI)研究中因真实数据收集成本高、周期长且存在严重隐私问题(需长期观察私人空间)的困境。作者设计了一个可配置的模拟家庭框架,涵盖居民数量、技术素养、日程规
本文针对基于大语言模型(LLM)的智能体(Agent)对在线内容构成的新威胁,提出了一种压缩感知的内容保护框架CAPE。现有的防御措施如访问控制易被模拟普通浏览器的智能体绕过,而注入式防御常损害人类可读性。作者重新审视智能体的处理流程,发现
本文提出 CodeTracer,一个面向大语言模型代码补全系统中后门攻击的取证框架。背景是:代码补全系统(如 Copilot)依赖大型语言模型,但模型可能通过恶意微调数据被植入后门,导致生成恶意代码。现有防御技术难以检测和缓解自适应后门攻击
该论文研究了基于大语言模型(LLM)的多智能体系统中的故障定位问题。在多智能体系统中,多个LLM驱动的智能体通过协调推理和行动来解决复杂任务,但由于长期交互和智能体行为的紧密耦合,当执行失败时,很难确定哪个智能体负责以及轨迹在哪个点首次变得
大语言模型(LLM)的安全对齐方法容易受到对抗性攻击的威胁,现有的防御手段如隐对抗训练(LAT)虽然有效,但需要大量有害提示数据,且可能损害模型效用。本研究提出了一种名为隐人格对齐(Latent Personality Alignment,
大型语言模型(LLM)尽管能力强大,但仍极易受到对抗性提示和越狱攻击。现有研究主要通过输入-输出行为或归因方法分析这些失败,对对抗性扰动如何改变模型内部推理机制的洞察有限,导致对不安全或错误行为背后的机制理解不足。本文提出了一种基于内部计算
大型语言模型(LLM)在代码生成领域应用广泛,但其生成的代码往往存在功能缺陷或安全漏洞。现有研究要么分别评估功能性和安全性,要么侧重于生成后查找漏洞,而缺乏同时保证两者的方法。近年来,文本生成领域涌现出多种对齐技术,其中任务向量算术通过线性
本文针对LLM驱动的自动化攻击安全代理在执行任务时可能因越界调用工具而违反客户约定边界、破坏生产环境或导致漏洞赏金失效的问题,提出了预执行门控(pre-execution gating)方案。核心思想是在强代理执行工具调用之前,由一个轻量级
本文提出了一种名为 NARAD(Non-colluding Aggregator-oblivious Record-And-Decrypt)的电子投票架构,旨在在不依赖可信密钥分发中心的前提下,同时保护投票隐私并允许公开验证。每位投票者在浏
大型语言模型(LLM)正越来越多地被部署为自主代理,通过模型上下文协议(MCP)与外部工具和服务交互。MCP作为一种标准化接口,简化了工具集成,但也扩大了攻击面,使得针对多个服务器的通用利用成为可能。尽管已有工作研究恶意MCP服务器,但MC
自进化智能体通过观察技能执行失败来淘汰不良技能,从而保持技能库的质量。然而,当智能体依赖无参考任务的LLM作为评判者时,评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析,理论证明偏见并非简单增加噪声,而是会无声地关闭技能淘汰功能。
本文研究了一种针对智能体化大语言模型(LLM)应用的新型可扩展攻击——对抗性幻觉抢注(Adversarial HalluSquatting)。随着LLM应用越来越多地具备智能体能力(如集成终端、工具调用等),攻击者可通过提示注入(promp
该论文研究了使用工具的LLM智能体在策略许可环境中可能出现的静默策略违反失败模式。当工具执行任何格式正确的调用时,即使对应的状态转换被领域策略禁止,工具本身和智能体的自我报告都不会暴露错误,导致静默的错误状态(如预订取消、乘客数量更改、未经
该论文提出了一种针对网络诈骗中心理操纵的取证模式。现有的网络犯罪分类模式主要捕获联系元数据和金融交易,但忽略了犯罪分子使用的心理操纵技术。作者设计了一个包含4大类、35个问题的取证模式,在已有的取证基础之上增加了11个操纵指标和加密货币证据
该论文针对多智能体LLM系统安全评估中存在的混淆问题,提出了一种五条件对照实验设计,以解构聚合管道效应背后的三种机制:有害意图被重构为合理操作、规划器拒绝或转换请求、以及执行者在暗示已获批准的委托提示下行动。研究基于30个合成有害场景和四个