Trust propagation and structural containment in Multi-agent LLM pipelines
该论文研究多智能体 LLM（大语言模型）流水线中的攻击传播机理与结构性遏制手段。研究对象是一个基于 LangGraph 构建的四智能体流水线，包含 Supervisor（监督者）、Researcher（研究者）、Validator（校验者）
#cs.CY
共收录 157 条相关情报。
← 返回所有主题Making AI-Assisted Claims Independently Challengeable: Publication Authority and a Protocol for Falsifiable Publication Records
论文关注一个在 AI 辅助内容生产中日益突出的治理问题：当证据、分析过程、人工授权、对外呈现以及勘误历史分别指向不同的状态时，AI 辅助产生的结论会显得具有权威性，实际上各环节并不自洽。作者指出，现有的出处（provenance）、远程证明
AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems
这是一篇来自 arXiv 的立场/愿景论文（vision paper），作者为 Murat Kantarcioglu，归类于 cs.AI 与 cs.CY。论文指出，AI 系统正快速成为医疗、金融、公共服务等安全关键（safety-criti
Don't Trust the Super-App: A Case Study of Russia's Max
本文针对超级应用(super-app)这一新兴移动架构展开安全与隐私分析。超级应用在单一宿主 App 内运行第三方 mini-app(小程序),使用户在一个入口内获得多种服务。过去十年的超级应用生态安全研究几乎都默认宿主是「可信中介」,本文
terms.txt: A Consent and Compensation Protocol for Agentic Web Access
该论文针对「AI 爬虫与智能体正在瓦解开放互联网默认契约」这一现实问题，提出了一套面向机器访问的授权与补偿协议。作者首先指出现状：开放网络长期依赖一项未写入合同的默契——网站允许爬虫抓取，搜索引擎以回送访客作为回报。公开测量数据显示这一默契
The Machines Are Calling: Measuring Automated and Synthetic Voices in Unwanted Inbound Calls
该论文关注一个长期缺乏可靠测量的灰区问题：不受欢迎的来电中，究竟有多少是机器拨打的，又有多少机器语音是合成生成而非播放录音。背景是 2024 年 2 月美国联邦通信委员会（FCC）将 AI 生成语音纳入《电话消费者保护法》（TCPA）的监管
AspisAI: A Canonical, Machine-Interpretable Governance Framework for Automated Multi-Standard Compliance Monitoring
该论文针对受监管行业与关键基础设施组织面临的合规困境：企业往往需要同时满足 ISO/IEC 27001、NIST CSF 2.0、Cyber Essentials、GDPR 等多个异构的网络安全与隐私框架要求。现实中这些义务通常依靠人工映射
Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance
本文关注一个正在被政策与安全圈忽视的治理错位问题：当前主流的算力治理（compute governance）本质上是一种「训练治理」——在用的算力阈值、申报义务和前沿 AI 监管框架都挂在训练算力上，并把「训练完成的模型」当作监管单元。作者
Watermarks Without Verification: AI Text Watermarking After the EU AI Act
本文围绕欧盟《人工智能法案》第 50 条生效后的 AI 文本水印治理问题展开。按照论文所述，2026 年 8 月 2 日起，该条款要求生成式 AI 提供方对其系统产出的内容进行标记，并确保这些内容可被识别为 AI 生成。在此背景下，Anth
Enhancing Privacy, Neglecting Harms: An Analysis of Real-World Digital Privacy Incidents
该论文针对现实世界中的数字隐私事件展开实证研究，旨在评估隐私增强技术（PETs）的目标与能力是否与用户实际遭受的隐私伤害相错位。作者从新闻媒体中收集了257起真实隐私事件作为样本，采用内容分析法对这些事件进行系统编码，并据此提出了一种新的信
A Translational Note on AI Safety Evaluation
该论文是一篇关于AI安全评估方法的评论性研究，聚焦于自动化红队与人工红队在标准AI安全基准上的表现对比所引发的误读。近期研究声称自动化红队能以更低成本发现更多漏洞，并有人据此认为人工评估者正变得可有可无。作者指出，这种比较存在根本性的测量与
Beyond the Prank: The Hidden Expertise of TSS Scambaiters
本文研究了一个由志愿者组成的反欺诈社区——技术支援诈骗（Technical Support Scams, TSS）的“捉弄者”（scambaiters）群体如何对抗技术支持诈骗。作者采用严格的受试者筛选策略，对17名活跃参与TSS scam
Effective Interventions Against AI-Enhanced Scams
本文研究 AI 增强型诈骗的有效干预措施。背景：2025 年全球诈骗直接损失估计达 4420 亿美元，美国 2020 至 2025 年报告损失增长近 400%。AI 在诈骗中的应用虽是新现象，却显著改变了诈骗的经济性和运营瓶颈。作者构建了一
Workload Identification with Physical Side Channels for AI Governance
该论文研究如何利用物理侧信道（GPU功耗）进行AI工作负载识别，为AI治理中的计算验证提供技术基础。作者指出，AI计算验证是国际AI治理政策中第一个可落地、可操作的关键点。监管机构若要判断前沿实验室或其他操作方是否遵守相关协议，需要能辨别其
Can escalation channels redirect reward hacking toward defect disclosure?
本研究聚焦于编码智能体（coding agents）在遇到有缺陷的测试基础设施时可能产生的“奖励黑客”（reward hacking）行为——即通过硬编码输出、修改测试文件等方式绕过无法合法满足的测试。这种行为已不仅限于基准测试环境，还出现
Security Education in Higher Education through AI-Powered Gamification
本文针对高等教育中网络安全教育面临的挑战展开研究。随着人工智能驱动的攻击变得越来越逼真且难以检测，传统的基于视频的安全培训在高校中普遍存在参与度低、教学效果有限的问题。为了改善这一状况，作者提出采用AI驱动的游戏化（AI-powered G
Anatomy of a Scam Call: What 10,000 real scam and spam calls reveal about how phone scammers operate
该论文基于一个由AI语音代理蜜罐系统收集的独特数据集，对电话诈骗和垃圾电话的运作模式进行了大规模实证分析。数据集包含54天内来自5,780个不同号码的10,211通入站电话，共计913小时音频和330,956轮对话转录。研究首先区分了真正骗
Rules Before Oracles: Auditable, User-Configurable Argument Selection for Deliberative Polling
本文研究审议性民意调查（deliberative poll）中参数选择机制的可审计性问题。当提交的论证数量超出任何个人的阅读能力时，必须有一种机制决定每个选民看到哪些论点，这一过程实际上掌握了大部分决策权。现有实践常常依赖不透明的学习型排名
Counterfactual, Per-Decision Bias Auditing for Automated Hiring: Localizing and Explaining Disparate Impact in Applicant Tracking Systems
该论文提出了一种名为 AI Bias Firewall (AIBF) 的方法，用于对自动化的应聘者追踪系统（Applicant Tracking Systems）进行逐决策（per-decision）的偏差审计。研究背景是：招聘自动化系统越
Explainable Adaptive Zero Trust Framework for AWS with Adversarial Robustness Evaluation
该论文针对AWS云环境中存在的一个结构性安全缺陷：一旦凭证通过认证，其会话在整个生命周期内通常被无条件信任，这导致凭证一旦泄露，攻击者即可持久利用。为此，作者提出了一种可解释的适应性零信任框架（EAZTF），作为云原生安全层，在整个会话过程