#prompting

共收录 1 条相关安全情报。

← 返回所有主题
👥 作者: Muris Sladić, Veronica Valeros, Eman Alibalić, Sebastian Garcia

该论文研究了如何通过提示设计与监督微调来改进基于本地 LLM 的 SSH 蜜罐的 shell 模拟准确性。研究背景是:现有 LLM 蜜罐通常依赖闭源云模型(如 GPT-3.5)以获得高度真实的 shell 交互体验,但云模型带来部署层面的问题,包括版本不稳定、提供商侧变更、攻击者驱动的使用成本以及模型退役风险。相比之下,本地开放权重模型虽能规避上述问题,但模拟质量通常较差,容易产生格式错误、命令回显、文件系统状态不一致、AI 风格痕迹等暴露蜜罐身份的失误。论文将研究焦点放在如何用提示工程和有监督微调来提升本地模型的 shell 模拟能力。作者共微调并评估了 8 个模型:作为基准的原始微调 GPT-3.5(用于 shelLM)以及 7 个开放权重本地模型,每个均与其基础版本进行对比;同时还测试了提示结构跨模型家族的迁移效果。实验使用 34 个自动化单元测试,在单会话和新会话两类场景下测量 shell 模拟准确性。结果表明:提示设计对模拟质量有显著影响;微调效果取决于数据集覆盖度。使用原始的 112 对话数据集微调并不能提升总体通过率,而基于蜜罐日志扩展得到的新数据集则能明显增强本地模型性能。最终结论是:提示和微调各自都能独立改善本地 LLM 蜜罐,但二者组合并不简单叠加——强规则型提示与有监督适应可能在处理重叠的 shell 行为约束时产生冲突。该研究为构建可靠、可部署的本地 LLM 蜜罐提供了系统性的评估方法和优化路径。

💡 推荐理由: 对安全团队而言,本地 LLM SSH 蜜罐在隐私和成本上更具优势,但模拟质量不足容易暴露身份。本文给出了通过提示和微调提升质量、避免被攻击者识别的实证方案,可指导实际部署与优化。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)