Privacy Leakage Through AI-mediated Analysis of Smartphone Data
该论文来自 arXiv cs.HC 方向，作者为 Sarah Radway、Zoe Robert、Matthew Soto、Julianna Cimillo、Sebastian Diaz、Meg Marco 与 James Mickens（
#LLM
共收录 2152 条相关情报。
← 返回所有主题Ajar: Measuring Open Privilege in Agent Defenses
该论文研究语言模型代理(LM Agent)的权限边界测量问题。Agent 只能通过被赋予的工具行动，而它在完成任务时读取的数据可能改变它对工具的调用方式，这正是间接提示注入的成因。因此近年来出现了一批安全执行技术，部署在 Agent 与工具
ACTS: A multi-tier benchmark evaluating LLM cipher identification under controlled blind conditions
ACTS(Artifacts in Cipher Testing Suite)是一个可复现的多层基准套件, 用于在受控盲测条件下评估大语言模型对密码算法/密文类型的识别能力。其研究动机是回答一个关键问题: LLM 在密码分析类任务上的高分,
A2M: Trace-Optimized Agent Hijacking in the MCP Ecosystem
该论文研究 Model Context Protocol (MCP) 生态中的一类语义供应链风险：使用 MCP 的智能体（agent）在从第三方 MCP 服务器挑选工具时，主要依赖工具名称、描述等元数据与用户意图之间的语义匹配，而元数据和工
Metrics Failure in LLM-Based Code Vulnerability Repair: An Empirical Study and a Change-Aware Screen
该论文针对 LLM 自动修复 C/C++ 安全漏洞这一研究方向，质疑了当前广泛使用的评测指标——"编译率"（compile rate，即生成的补丁能否通过编译）作为单函数漏洞修复进展代理指标的可靠性。作者使用 203 个来自 Big-Vul
Decoding the Legalese: A Scalable and Quantitative Framework for Analyzing Corporate Privacy Policies
隐私政策是组织披露其如何收集、处理与共享个人数据的主要机制，但这类文档往往冗长、法律语言密集，普通用户难以解读，论文作者认为这种难读性可能是刻意设计的结果。更关键的是，目前除了「是否满足监管条文」之外，业界缺乏能够刻画隐私政策关键质量的标准
Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
【研究背景】前沿语言模型近年的能力跃升常被归因于推理能力的提升，但在闭源系统中，原始思维链（CoT）轨迹被隐藏，外界无法验证这一说法，也无法审计模型真实的推理过程。【核心问题】如何在不获取模型内部权重或私有日志的前提下，把闭源模型隐藏的中间
Design and Evaluation of a Controlled Post-Alert Incident Orchestration and Response Subsystem Using a Rule Engine and a Local Large Language Model
该论文提出并评估了一套面向教育信息系统（实验室范围）的“告警后事件编排与响应子系统”，核心目标是在引入本地大语言模型（LLM）辅助分析的同时，保持流程的可控性、可追溯性与可恢复性，避免模型直接触发应急处置动作。架构上明确划分为四个相互解耦的
C-to-Rust Fallacy: Automatic Refactoring != Memory Security
该论文针对当前自动将 C 代码重构为 Rust 的工具开展了系统性实证研究。研究背景是 Rust 凭借内存与类型安全保证成为系统编程的热门语言，但人工把 C 迁移到 Rust 需要深入的领域知识与大量投入；因此业界出现了基于静态分析与大语言
SLED-IFV: Solver-Validated LLM-Guided Decomposition for Scalable Hardware Information-Flow Verification
该论文聚焦于硬件形式化信息流验证（Information-Flow Verification, IFV）在真实 RTL 上难以扩展的问题。IFV 能为「无秘密依赖的时序与控制行为」提供强保证，但在实际设计中，证明往往因求解器规模爆炸而超时。
Evaluating Coding Agents on Kernel Exploit Generation
该论文提出 KEX-bench，一个用于评估编码智能体（coding agents）在真实操作系统内核上生成「利用原语（exploit primitives）」能力的基准。研究动机在于：当前编码智能体已经能在生产软件中发现真实漏洞，但「发现
ZeroGate: Trust-Preserving Fast Paths for Governed AI Agent Runtimes
该论文针对 AI Agent 运行时（runtime）中「把授权前置到调度边界之前」这一常见优化思路提出质疑：把授权提前确实可以缩短 Agent 的调度边界（dispatch boundary），但授权工作本身并没有被消除，反而可能放行一个
SSP-Bench: A Hybrid Data Generation Framework for Safety, Security, and Privacy Evaluation
该论文针对大语言模型（LLM）在安全（safety）、安保（security）与隐私（privacy，合称 SSP）评估中长期依赖静态基准的问题提出改进方案。作者指出，静态基准存在三类结构性缺陷：分数饱和（模型表现趋同、区分度丧失）、数据污
Making Agents More Consistent: Skills Should Form Habits for Repeat Tasks
该论文关注的是「智能体在重复性任务上表现不一致」这一被长期忽视的可靠性问题。作者首先做了量化测量：选取 42 个任务、每个任务重复执行三次，结果显示根据所用模型不同，有 38% 到 74% 的重复执行返回了互相不一致的答案。作者指出，一致性
Feedback Coding Enables Inference-Time Covert Agentic Communication
该论文研究大语言模型（LLM）驱动的智能体在看似正常的对话中隐藏信息传输（隐写/隐蔽信道）的问题。作者指出，现有 LLM 隐写方案大多是白盒的：收发双方必须共享载体（cover）统计信息，通常意味着要能访问模型权重与提示词，部署门槛高；已有
Reasoning Topology Matters: A Controlled Study of LLM-Based Cybersecurity Analysis
该论文针对大语言模型在网络安全分析中的推理结构问题展开研究。背景是：LLM 已被广泛用于网络安全场景，而准确的安全分析往往需要跨复杂、异构数据（如网络流量、威胁情报文本、漏洞描述）进行多步、依赖上下文的推理。现有提示词（prompting）
Attack Success Rate Is Not a Number: On Measurement Validity in Agentic AI Security Evaluation
该论文聚焦 LLM 智能体(agent)安全评测中最常被当作头条指标的“攻击成功率”(ASR),指出 ASR 并非单一数值,而是由六个设计选择共同参数化的一族指标;这些选择在论文中往往不被说明,更从未在整个文献中被统一固定。作者用两项无需专
Beyond Predictable Paths: Redefining AI Security Incident Reporting for Agents
本文聚焦于 AI Agent（智能体）快速落地过程中日益突出的安全事件报告问题。随着 Agent 在真实业务中被广泛部署，针对它们的 AI 特有攻击与相应安全事件不断增多，而现有的安全事件报告框架（如传统漏洞披露、CERT/CSIRT 事件
ActGov: Governing LLM Agent Actions via Policy-Constrained Validation
该论文针对 LLM 智能体在长周期、工具调用型工作流中的授权失控问题提出运行时治理框架 ActGov。研究背景是：智能体通过外部工具执行多步任务时，工具返回的不可信内容（如网页、文档、第三方 API 输出）会作为上下文回流进模型，进而影响后
Forgeable Confirmation in Automated Computer Security Testing: Deterministic Rules versus AI Judges
该论文研究自动化计算机安全测试中「确认（confirmation）」环节的可信性问题。当前 AI 辅助的安全测试工具需要自行判断一次攻击是否成功：由确定性规则通过直接观测确认的结论被当作事实上报，而由大模型判定为「可利用」的结论只被当作意见