High-quality Data Do not Mean Safe! Poisoning LLMs after Data Selection
该论文研究大语言模型(LLM)微调阶段的数据投毒与安全对齐退化问题,指出现有投毒研究普遍假设被投毒的样本会直接进入下游微调,而忽略了真实训练流水线中普遍存在的基于质量的数据筛选环节(data selection / quality filt
今日共收录 931 条安全情报,包含 128 个 CVE,457 篇安全通告,以及 95 篇研究论文。
← 返回归档列表该论文研究大语言模型(LLM)微调阶段的数据投毒与安全对齐退化问题,指出现有投毒研究普遍假设被投毒的样本会直接进入下游微调,而忽略了真实训练流水线中普遍存在的基于质量的数据筛选环节(data selection / quality filt
该论文针对开源软件(OSS)生态面临的日益复杂的供应链攻击问题,提出了一套基于分类体系对齐(taxonomy-aligned)的大语言模型自动化威胁检测与分类框架。作者指出现有检测手段主要依赖签名匹配工具和规则系统,面对攻击变种和新兴威胁模
该论文研究递归自我改进(RSI)场景下智能体(agent)的安全性问题:当 LLM 编辑器跨代际持续优化可执行的智能体组件时,如何既阻止不安全行为在后续版本中延续,又能在失败发生后实现恢复。作者构建了一个受控测试台,使用有状态的授权(aut
该论文研究 LLM Agent 的 Skill(可复用技能)供应链投毒问题。随着 Agent 越来越多地依赖可复用的 Skill 来完成多步骤复杂任务,Skill 内容成为一种关键攻击面:在用户请求本身完全无害的情况下,被投毒的 Skill
这篇论文关注的是 LLM Agent 在多轮交互场景下所面临的安全威胁。随着 Agent 被部署到越来越复杂的工具调用与环境交互中,攻击者可以把恶意意图拆散到多个对话轮次里,逐步诱导 Agent 走向危险行为,而任何单独一轮的输入看上去都无
该论文关注 LLM 生成代码的来源追踪(provenance)问题, 提出名为 SEW(Style-Encoded Watermarking)的代码水印方案。研究背景是: 现有代码水印大体分为两类路线——一类在模型生成过程中修改 token
这是一篇 cs.AI 方向的论文,聚焦隐私保护机器学习在云端部署时面临的现实困境:当智能系统需要处理机密数据时,全同态加密(FHE)被视为兼顾机密性与可计算性的理想方案,因为它允许云侧直接对密文做计算而不泄露明文。然而要把 FHE 真正用于
本篇论文研究自主网络防御中强化学习(RL)防御智能体的泛化瓶颈:用 RL 训练出的自主防御者通常与其训练所在的网络绑定,一旦网络规模发生变化,策略能力就会下降,往往需要按新规模重新训练。分层强化学习通过把"战略层目标选择"与"战术层动作执行
该条目是先知社区(阿里云安全社区)发布的一则社区活动通知,标题为《决赛直播|第四届阿里CTF安全挑战赛》,发布时间为 2026-10-04。文章性质是赛事决赛的直播预告与观看入口说明,正文摘录为空,因此可提取的技术内容非常有限。阿里CTF(
本条内容为阿里云先知社区发布的招聘宣传帖,标题为《抢先加入AI时代顶尖安全团队!阿里云2027届实习生招聘来了!》,发布于2026-10-04,来源为先知社区(xz.aliyun.com/news/91981),打有 xianzhi、res
# Security Advisory — SiYuan MCP `asset.upload` Reads Arbitrary Absolute File Paths (Workspace Boundary Bypass) | Field
## Summary Using `Database#create_aggregate`, `#create_aggregate_handler`, or `Database#define_aggregator` to define an
Affected version: trigger.dev 4.5.3 (4.5.6 was advertised by the CLI but was not tested). A staging dry-run executed wi
### Summary A cross-tenant SQL injection in the TSQL query compiler lets **any authenticated trigger.dev customer read
## Summary The POST handler for `/realtime/v1/streams/:runId/:streamId` has no authentication. Any entity that knows or
## Summary Self-hosted trigger.dev v4 instances deployed using the provided Docker Compose configuration with default s
## TL;DR The /coordinator Socket.IO namespace mounts on every webapp boot and authenticates with a default secret ("coo
### Summary Pinning a CA certificate via `pinnedPeerCertSha256` can lead to the success of MITM attacks in some cases.
### Summary A WEBHOOK alert channel stores a user-supplied `url`. When an alert fires (deployment/run failure, error gr
### Summary The run replay `action` function at `apps/webapp/app/routes/resources.taskruns.$runParam.replay.ts` has no