Closed-Loop Dynamic Validator Node Scaling in Private Substrate Blockchains Using Takagi-Sugeno Fuzzy Inference
本文针对私有区块链网络中验证节点固定配置无法适应动态工作负载的问题，提出了一种基于Takagi-Sugeno（TS）模糊推理系统的闭环动态缩放控制器。私有区块链通常运行在固定节点配置下，当负载较轻时过多节点浪费资源，负载较重时节点不足导致区
#cs.AI
共收录 1665 条相关情报。
← 返回所有主题Idiobionics: The Unification of Privacy and Intelligent Robotic Prostheses
本文提出了一种名为“idiobionics”的新研究领域，旨在统一隐私保护与智能机器人假肢的发展。随着假肢技术（如仿生肢体）与先进传感器和人工智能控制方法的深度融合，这些设备已演变为半自主可穿戴机器人系统，能够与用户协同适应。然而，这种技术
Beyond Attack-Success Rate: Action-Graded Severity Scale for Tool-Using AI Agents
该论文针对工具型AI智能体的红队测试评估提出了一个关键问题：现有的二元攻击成功率指标（攻击成功或失败）忽略了防御者最需要的信息——即攻击造成的实际危害程度。作者设计了一个基于动作的分级危害量表（Action-Graded Harm Rubr
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
该论文针对差分隐私（DP）合成表格数据中的公平性问题进行了首次系统性基准评估。研究背景是机器学习模型在高风险领域（如金融、医疗）的部署日益普遍，隐私和公平性成为关键关注点。差分隐私已成为隐私保护数据分析的金标准，而公平性机制旨在减轻对弱势群
The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
自进化智能体通过观察技能执行失败来淘汰不良技能，从而保持技能库的质量。然而，当智能体依赖无参考任务的LLM作为评判者时，评判者的偏见可能导致技能淘汰机制失效。本文通过有偏奖励分析，理论证明偏见并非简单增加噪声，而是会无声地关闭技能淘汰功能。
Reason Less, Verify More: Deterministic Gates Recover a Silent Policy-Violation Failure Mode in Tool-Using LLM Agents
该论文研究了使用工具的LLM智能体在策略许可环境中可能出现的静默策略违反失败模式。当工具执行任何格式正确的调用时，即使对应的状态转换被领域策略禁止，工具本身和智能体的自我报告都不会暴露错误，导致静默的错误状态（如预订取消、乘客数量更改、未经
FedCVESA: Taking Away Training Data in Federated Learning via Correlation Value Encoding and Segmented Aggregation
本文研究了联邦学习（FL）中的一种新型攻击：中央化“取走训练数据”（TATD）攻击。传统的TATD攻击利用深度模型的记忆能力存储并恢复训练数据，但在联邦学习环境中，多客户端平均聚合可能会覆盖编码后的数据，使得攻击难以实现。为此，作者提出了F
Operational Reframing and Approval-Framed Delegation in Multi-Agent LLM Safety
该论文针对多智能体LLM系统安全评估中存在的混淆问题，提出了一种五条件对照实验设计，以解构聚合管道效应背后的三种机制：有害意图被重构为合理操作、规划器拒绝或转换请求、以及执行者在暗示已获批准的委托提示下行动。研究基于30个合成有害场景和四个
Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies
该论文是一篇关于大语言模型（LLMs）和生成式AI（GenAI）在网络安全与隐私领域中双用途风险的综述。研究背景指出，到2025年LLM生成的恶意软件已占检测威胁的50%，而2021年仅占2%，表明AI驱动的攻击自动化正在飞速发展。论文通过
When Agents Go Rogue: Activation-Based Detection of Malicious Behaviors in Multi-Agent Systems
该论文关注基于LLM的多智能体系统（MAS）面临的安全挑战。现有防御方法通常假设攻击在语义上显式可识别，并依赖显式的图结构建模MAS拓扑和Agent间交互。然而，实际攻击越来越隐蔽，且MAS执行通常是异步的，不满足图传播模型所需的时间对齐。
Evaluating Fine-Tuning and Metrics for Neural Decompilation of Dart AOT Binaries
该论文系统性地评估了针对 Dart Ahead-of-Time (AOT) 编译二进制的神经反编译任务中，微调策略与评估指标的有效性。神经反编译将二进制代码转换为高级语言源代码，常被视为代码生成问题，但现有评估方法对现代语言支持不足。作者构
PRoVeFL: Private Robust and Verifiable Aggregation in Federated Learning
联邦学习（FL）允许多个客户端协作训练机器学习模型，同时保留数据本地性，从而增强用户隐私。然而，传统的FL框架依赖中心化聚合服务器，并假设客户端是诚实但好奇的，这使其易受服务器端推理和客户端投毒攻击。先前的工作虽然探索了安全且拜占庭鲁棒的F
i-EXAM: Instructable and Explainable Attack Connectivity Graph Modeler
i-EXAM 是一个基于规划（AI planning）的辅助工具，旨在帮助系统管理员为复杂网络创建安全配置文件并执行假设分析（what-if analysis），以识别网络加固策略。该工具利用规划编译技术，提供可靠性和完备性保证，能够自动识
Security and Privacy in Agentic AI: Grand Challenges and Future Directions
本文基于一项前瞻性扫描研究，汇集了来自学术界、工业界和政府的30位国际顶尖专家，通过聚焦讨论和协作练习，系统性地识别并阐述了智能体人工智能（Agentic AI）在安全与隐私方面面临的重大挑战和未来研究方向。研究指出，随着AI系统自主性的不
Beyond Refusal: A Same-Lineage Study of Aligned and Abliterated LLMs for Vulnerability Analysis
本研究聚焦于大型语言模型（LLM）在辅助软件安全分析中的安全状态影响。LLM辅助的软件安全分析处于一个微妙的边界：用于合法代码审查、分类和修复的漏洞分析术语可能与滥用场景下的术语高度相似。现有安全评估常比较不同模型家族，混淆了安全行为与架构
Unicode TAG-Block Concealment of Tool-Metadata Payloads in the Model Context Protocol: An Approval-View Fidelity Gap Across Three Independent Server Implementations
本研究揭示了模型上下文协议（MCP）中的一个安全漏洞：工具元数据在客户端审批视图与注入模型上下文的字节之间可能存在不一致。作者将这种差距定义为“隐藏编码”机制，并聚焦于Unicode TAG块（U+E0000至U+E007F），该块在所有主
The Balkanization of Execution-Security Research for AI Coding Agents: Isolation, Access Control, and Time-of-Check-to-Time-of-Use Vulnerabilities
该论文系统化整理了2023-2026年间关于AI编码代理执行安全性的39篇论文，将其分为17个类别，并直接验证了每个类别与原始来源的一致性。研究背景是AI编码代理可以读取仓库、调用工具和执行shell命令，但缺乏足够的人类监督，因此其执行层
When Agents Remember Too Much: Memory Poisoning Attacks on Large Language Model Agents
本文提出了一种针对大型语言模型（LLM）驱动的个人AI代理的新型攻击向量——GhostWriter，该攻击利用代理的记忆子系统进行投毒。当前的长时记忆代理主要分为对话型和动作规划型两类，而个人助理代理恰好处于两者的交汇点，在处理敏感信息的同
aiAuthZ: Off-Host, Identity-Bound Authorization for AI Agents
本文针对AI Agent在工具调用过程中因依赖不可信文本而面临的安全性问题展开研究。AI Agent通常基于LLM的输出发起工具调用，但攻击者可通过控制上下文（如提示注入）伪装成合法用户执行非授权操作。作者首先评估了15个当代语言模型在8种
Statistical Adversaries: Natural Backdoor-like Features in Vision Datasets
该论文研究了一种新型的视觉模型脆弱性：数据集本身存在的自然统计信号，可以在没有恶意注入的情况下充当类似后门触发器的角色。作者将这种信号称为“统计对手”（statistical adversaries）。与传统的模型特定对抗攻击不同，这些信号