Safeguards Based on Copyable Context Cannot Provide Reliable Safety for LLMs
这篇论文从底层机制上指出了当前大语言模型安全护栏（safeguards）的一个结构性缺陷：模型在尚未看到回答将被如何使用之前，就必须决定是否回答。对于双用途（dual-use）任务，同一个回答既能帮助授权专业人员，也可能被攻击者利用；而攻击
#dual-use
共收录 3 条相关情报。
← 返回所有主题Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
该论文是一篇关于大语言模型（LLMs）和生成式AI（GenAI）在网络安全与隐私领域中双用途风险的综述。研究背景指出，到2025年LLM生成的恶意软件已占检测威胁的50%，而2021年仅占2%，表明AI驱动的攻击自动化正在飞速发展。论文通过
Evaluating calibrated refusal and safe usefulness in dual-use biology settings
该论文针对AI智能体在生命科学工作流中可能带来的双重用途风险，提出了一个用于评估模型安全拒绝行为的基准测试——BioSecBench-Refusal。基准包含61个日常任务（来自已发表文献的合法分析）和46个红队任务（虚构但模拟真实研究场景