From Alignment to Access Control: A Framework for GenAI Policy Enforcement
随着生成式 AI（GenAI）应用的快速普及，用户不仅能用自然语言与大型语言模型对话，还能构建可代表自己执行多种任务的智能体（agent）。然而该领域的能力迭代速度极快，安全与保障机制的建设明显滞后，已经导致真实的安全事件发生。作者指出，“
#genai
共收录 4 条相关情报。
← 返回所有主题Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
本文是一篇关于生成式人工智能（GenAI）工具（如ChatGPT）在工作场景中隐私感知的实证研究。随着ChatGPT等工具在教育培训、医疗健康、IT等众多领域被越来越多地用于工作流程，其在提升效率的同时也引发了显著的隐私担忧。现有研究多关注
Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
该论文是一篇关于大语言模型（LLMs）和生成式AI（GenAI）在网络安全与隐私领域中双用途风险的综述。研究背景指出，到2025年LLM生成的恶意软件已占检测威胁的50%，而2021年仅占2%，表明AI驱动的攻击自动化正在飞速发展。论文通过
Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
该研究系统地展示了如何滥用公开社交媒体数据和生成式AI（GenAI）来自动化、规模化地发起高度个性化且上下文感知的鱼叉式钓鱼攻击。研究者构建了一个模块化框架，涵盖多模态信号提取、沟通风格画像以及七种攻击策略（诱饵、恐吓软件、蜜罐、尾随、冒充