Adversarial Prompting Framework for AI Safety Assessment
本文提出了一种对抗性提示框架（Adversarial Prompting Framework, APF），用于系统性地评估生成式AI模型的安全性。随着生成式AI在各行业的广泛应用，模型面临的新型网络攻击风险（尤其是对抗性提示攻击）日益突出。
#AI安全
共收录 3 条相关情报。
← 返回所有主题Delving into the Temporal Challenges of Unified Video Protection Against Image-to-Video and Fine-Tuning-based Customization
本文聚焦于视频内容保护，以防御图像到视频生成（reference-based）和微调（tuning-based）两种定制化视频生成管线带来的隐私泄露与身份盗窃风险。现有针对图像的保护方法无法直接迁移到视频上，面临三大时序挑战：(1) 逐帧优
Invisible Manipulation Channels in AI-Assisted Financial Advisory: Implications for Market Integrity and Regulatory Design
该论文研究AI辅助金融咨询（如信用评估、投资顾问）中存在的隐蔽操纵通道。作者发现LLM推理的采样层存在一个漏洞，允许攻击者在保持与输出审计机制（包括统计水印）完全兼容的情况下，系统性偏置AI生成的金融意见。这种推理阶段的操纵在统计上难以检测