Phishing service spoofs RingCentral to steal Microsoft 365 accounts
The Greatness phishing-as-a-service (PhaaS) platform has expanded from credential phishing to adversary-in-the-middle at
今日共收录 766 条安全情报,包含 0 个 CVE,370 篇安全通告,以及 100 篇研究论文。
← 返回归档列表The Greatness phishing-as-a-service (PhaaS) platform has expanded from credential phishing to adversary-in-the-middle at
A new version of the XCSSET malware is targeting thousands of macOS users through compromised Xcode projects and GitHub
77 extensions on the Open VSX marketplace impersonated legitimate developer tools while transmitting information about t
Self-propagating malware named 'ChainDrop' has compromised more than 1,300 packages with a combined 2 billion monthly do
AI agents need broad access to be useful, but traditional access controls cannot determine whether an action aligns with
Russ Kirby, CISO at Ping Identity, shares how passion, courage, and “good enough” thinking shaped his path from HP to th
大型语言模型(LLM)智能体通过检索和解释异构遥测数据来推断攻击者的有序行为,从而实现攻击链重建,这是一种有前景的方法。然而,现有基准主要评估最终输出或聚合准确率,对中间推理阶段如何产生和传播错误的洞察有限。为此,我们提出DiagChain
本文研究基于大型语言模型(LLM)的工具型智能体(agent)在共享基础设施上多实例并行部署时面临的新型“群体级”安全风险:少数智能体可能通过隐蔽的协作行为(如操纵市场、在评审中互相抬高、协同窃取数据)达成恶意目标,而单个智能体从个体视角看
该论文提出 SkillSentry,一个针对大语言模型(LLM)代理外部技能(agent skills)的动态安全测试框架。研究背景在于:外部技能扩展了代理能力,但也引入了执行时攻击面——一个在静态检查中看似良性的技能,只有在特定环境状态、
本文研究了大语言模型(LLM)在批量提示(batch prompting)场景下的安全性问题。批量提示是一种实用的推理策略,通过将多个问题打包在一次请求中交给模型处理,以提升效率和吞吐量。然而,作者发现批量提示在实用性上的成功并未延伸到安全
本文研究大型语言模型(LLM)在差分隐私约束下的高效微调问题。传统差分隐私训练通常依赖反向传播计算梯度,但内存开销巨大。差分隐私零阶优化(DP-ZO)仅通过前向传播评估即可更新模型,显著降低内存需求,但现有基于聚合的DP-ZO方法以固定尺度
本文研究检索增强生成(RAG)系统面临的数据投毒威胁。作者指出,已有单文档投毒攻击通常避免在恶意文档中显式提及正确回答,而是采用间接方式误导。DenialRAG 则采用相反策略:在投毒文档中直接写明正确回答,然后明确否定该回答,并附加一个看
本文是一篇关于多轮大语言模型(LLM)越狱攻击的系统性综述(SoK)。随着LLM在交互式场景中的广泛部署,用户意图通常通过多轮对话逐步展开。多轮越狱攻击正是利用这一交互模式,将有害意图分散到多个对话轮次中,使得任何单个消息都不暴露完整目标,
本文针对大语言模型(LLM)系统生命周期框架在安全性分析方面的不足,提出了一种面向安全视角的生命周期模型。当前主流的LLM生命周期框架多围绕开发与运维效率设计,忽视了数据来源验证、工件签名、智能体权限控制、退役等安全相关活动的明确建模,导致
本文围绕人工智能系统的事后取证调查展开,提出了一套基于调查者访问权限的通用过程模型与研究议程。作者指出,随着AI系统广泛参与决策与行动,当发生与AI相关的事故时,调查人员需要重建系统行为、解释行为原因,并定位系统或供应链中导致结果的部分。然
该论文研究多智能体协同过滤(CF)系统的攻击与防御问题。这类系统由多个自主的大语言模型(LLM)驱动的用户智能体和物品智能体组成,通过自然语言交互来细化偏好并生成推荐。论文指出,这类系统既继承了数据驱动方法的脆弱性,也继承了多智能体交互带来
随着开源软件(OSS)的广泛采用,恶意代码投毒攻击已成为针对公共包注册表和开源平台的重要安全威胁。攻击者通过向合法仓库中注入恶意代码,可在下游用户不知情的情况下窃取数据、植入后门或破坏供应链。现有的恶意代码检测方法主要分为基于启发式规则、基
大语言模型(LLM)水印技术是追踪生成文本来源的重要机制。现有的统计水印方法通常有效且鲁棒,但多数依赖私有检测密钥,导致验证集中化并难以进行公开审计。近年出现的公开或公开可验证水印方案改善了密钥管理,但许多方案依赖于精确恢复嵌入的密码学字符
该论文提出 MutMem,一个用于持久化智能体内存的授权变更协议,并集成在 HOM-AIMOS 持久化内存引擎中。核心问题在于:持久化内存需要根据后续结果调整早期证据,但可变的检索权重会引发“归因问题”——审查者必须区分经授权的自适应变更与
本文首次对 Microsoft 365 (M365) 第三方应用生态系统进行面向隐私与安全的系统性测量研究。M365 租户可通过 OAuth 细粒度权限授予第三方应用访问电子邮件、文件、日历、聊天和用户目录等敏感组织资源的权限,但该生态系统