It Lied to a Doctor to Buy Poison Ingredients: Quantifying Real-World Misuse of Phone-use Agents
本文首次系统研究了Phone-use Agent(手机使用智能体)在实际手机和商业应用中被滥用的安全威胁。Phone-use Agent能够代表用户在真实移动设备上端到端执行复杂任务,其能力远超命令行智能体,因此一旦被恶意利用,危害更大。研
共收录 30 条相关情报。
← 返回所有主题本文首次系统研究了Phone-use Agent(手机使用智能体)在实际手机和商业应用中被滥用的安全威胁。Phone-use Agent能够代表用户在真实移动设备上端到端执行复杂任务,其能力远超命令行智能体,因此一旦被恶意利用,危害更大。研
大型语言模型驱动的Web代理(Web Agent)正越来越多地被部署在真实环境中,它们需要处理不可信的网页内容并执行具有直接后果的操作,因此容易受到提示注入攻击——看似良性的内容中嵌入对抗性指令以操纵代理行为。现有的安全基准采用“攻击中心”
本文提出一种特征对齐的语音水印方法,旨在提高水印对语音重建模型(如现有或未知的编解码器)的鲁棒性。传统音频水印在保真度与鲁棒性之间存在权衡:增加水印能量可提升鲁棒性,但会降低不可感知性。作者利用预训练语音编解码器生成伪语音水印,使其分布与原
随着文本到图像(T2I)扩散模型在创意应用中的广泛使用,模型被未经授权使用的问题日益严重,模型所有权验证(MOV)成为保护知识产权的重要手段。现有基于后门的扩散模型水印方法通常隐含假设验证过程是“忠实”的,即验证者可以查询可疑模型并获得可信
本文提出了 AgenticVBench,一个用于评估多模态 AI 智能体在真实世界视频后期制作任务中表现的全新基准。视频制作工作流需要智能体具备文本、图像、音频、视频的综合理解能力,以及长期规划和工具使用能力。该基准包含来自 20 位平均
该论文类比生物学中的物种起源,探讨了合成信息(如AI生成内容)的溯源问题。核心挑战在于:当代AI模型生成的“后代”数据可能在结构和信号层面与原始来源差异巨大,导致进化谱系难以追踪。受遗传学启发,作者提出一种基于隐写术的谱系追踪机制:在合成信
本文提出了一种名为PEMark的API响应水印方案,旨在解决API数据泄露后的溯源问题。现有水印技术通常需要修改数据库或API响应数据,这会迫使业务系统代码变更,甚至因数据值改变而影响正常业务。作者创新性地利用JSON/XML键值对顺序中固
本文提出一个统一的证据框架,将密码学内容来源、鲁棒统计水印和零知识证明映射到三个法律体系(国际军事行动法、国内诉讼程序、产品监管)的证明要求中。该框架定义了一个五级威胁模型,涵盖从朴素再生、对抗性清洗、跨模型再生、主动水印移除到内部来源伪造
本文提出将集合塑造理论(Set Shaping Theory, SST)作为一种可逆的载荷整形层,用于基于最低有效位(LSB)的图像隐写术。该方法并非要取代现有的隐写嵌入方案,而是作为一个预处理阶段,使现有嵌入方法更容易应用且引入更低的统计
该论文提出了一种针对大视频文件的同时压缩与加密系统(SDCE),旨在解决传统压缩和加密方法计算开销大、处理时间长、不适合实时应用的问题。核心方法是将基于混沌映射的加密与霍夫曼无损编码压缩整合到一个统一框架中:利用逻辑映射生成伪随机混沌序列用