推荐 5.5
Conf: 50%
该论文研究大型语言模型(LLM)在域名威胁判定中受到域名自身“自我声称”词汇操纵的现象,作者将其命名为 ClaimMirage:待检域名本身声称自己安全或已获授权。研究构建了品牌仿冒风格的域名集合,覆盖 64 个品牌与 5 个 LLM,共分析 622,080 条判定结果,将十类自我声明词与在长度和连字符数量上严格匹配的对照词进行比较,以排除单纯字符串特征的影响。核心发现是:自我声明既能显著降低告警,也能提高告警,方向取决于具体 LLM 和输入设置。在一种设置中,可注册域名内出现“否认风险”类词汇(如 not-phishing),即便提示中已提供可能被仿冒的品牌及其官方域名作为参照,告警仍下降 45.3 个百分点;而在不提供这些参照时,同一 LLM 中该位置的“背书”类词汇(如 official)反而使告警上升 65.6 个百分点。作者进一步测试了提供参照与域名组件标注两种缓解手段,发现它们能消除部分告警下降,但另一些仍然存在,甚至被放大。该工作揭示 LLM 在域名钓鱼/恶意判定中对名字内自我声称的脆弱性,且攻击者无需显式提示注入指令即可影响结论。论文呼吁在将待检域名视为安全或已授权之前,必须测试模型对自我声明的抵抗能力并寻求独立证据。适合 LLM 安全、钓鱼检测、域名风控与 SOC 自动化研判人员阅读。
💡 推荐理由: LLM 正被用于域名与钓鱼研判,攻击者可在域名本身植入“官方”“非钓鱼”等自我声称,无需提示注入即可压低告警造成漏报。安全团队应警惕判定污染并引入独立证据。
🎯 建议动作: 研究跟进;将自我声明抵抗测试纳入 LLM 域名研判内部评估
排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)