Structural Jailbreaks Generalize but Do Not Compound: A cross-provider and multilingual study of Involuntary In-Context Learning
该研究旨在验证两种独立 LLM 安全削弱因素是否会相互叠加：一是结构化对抗性提示 Jailbreak 类——称为“非自愿上下文学习”（Involuntary In-Context Learning, IICL），即把有害请求包装成一个由模式
#in-context-learning
共收录 4 条相关情报。
← 返回所有主题On Predicting Vulnerability Severity Using In-Context Learning: An Industrial Case Study
本文是一篇来自工业界的案例研究，旨在解决软件漏洞严重性评估的可扩展性与隐私问题。当前安全分析师手动分配CVSS评分的方式难以应对漏洞数量增长，且传统方法常依赖云端LLM服务，存在代码片段泄露的机密性风险。为此，作者提出利用本地可部署的开源L
Membership Inference Attacks Against In-Context Learning.
本文首次提出针对大语言模型（LLM）上下文学习（In-Context Learning, ICL）场景的成员推理攻击（Membership Inference Attack）。ICL作为一种参数高效的适配方法，通过提供少量示例即可让LLM适
Probing Memorization of Tabular In-Context Learning
本文研究了大型表格模型（LTM）在上下文学习（ICL）中的参数记忆化现象。尽管大型语言模型（LLM）已被证实会无意中记忆训练数据，但LTM的记忆化动态尚不完全清楚。为此，作者提出了一个名为ICLMEM的探测框架，旨在区分基于上下文的预测与参