#human-factors

共收录 22 条相关安全情报。

← 返回所有主题
👥 作者: Cagri Arisoy, Md Imanul Huq, Amy W. Hays, Nitesh Saxena

该论文从人因与神经生理学角度审视深度伪造(deepfake)对信息真实性与安全的威胁。作者指出,尽管深度伪造已被广泛视为利用人类对视听感知信任的攻击手段,但此前尚不清楚人类及其潜意识层面的神经生理过程能否可靠区分深度伪造视频与真实视频。为此作者提出 DECEIVE 框架(Deepfake Exploitation of Cognitive Engagement and Implicit Visual Evaluation),把深度伪造视频视为“对抗性载荷”,建模其如何通过受众的行为判断与神经生理响应被“验证有效”,并说明攻击者可据此迭代筛选、保留那些能够规避人类识别的操纵样本。该框架与数据集无关,可同时适用于合成媒体与真实媒体,且天然具备双用途属性:具备同等测量能力的行为者也能反向利用同一流程优化攻击;正因如此,作者主张开展公开的防御性评估,以“能骗过人眼的深度伪造”作为攻击者能力的现实上界,用于评估检测工具、来源溯源与水印机制以及面向用户的防护措施。在实例验证部分,作者开展了一项 EEG(脑电)与眼动追踪研究,让被试观看来自 Celeb-DF 数据集及自建名人视频集的真实、深度伪造与长相相似(look-alike)视频,同步记录行为判断与内隐响应。结果显示,与既往基于绘画和钓鱼网站研究提出的“潜意识可区分”预期相反,真实视频与深度伪造视频之间未出现统计上显著的神经生理差异,而长相相似视频则表现出清晰可辨的差异。行为层面,被试将 26.68% 的操纵片段判定为真实,面对熟悉身份时这一比例升至 31.94%,从而在 DECEIVE 框架内证实所研究的深度伪造样本确为有效的对抗性载荷。

💡 推荐理由: 它说明“靠人眼与直觉辨别深伪”在生理层面缺乏可靠依据,且熟悉身份会进一步降低辨识率。这意味着以人工审核或用户自查为核心的防线存在系统性缺口,检测、溯源与水印等自动化手段的必要性被实证强化。

🎯 建议动作: 研究跟进,并纳入内部人因风险评估与内容审核流程评审

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Magdalena Pasternak, Malvika Jadhav, Palavi V. Bhole, Aviva Smith, Elaina Trapatsos, Vincent Bindschaedler, Roshan Peiris, Ersin Uzun, Patrick Traynor, Matthew Wright, Kevin R. B. Butler

该论文关注一个长期被安全与隐私研究忽视的交叉问题:音视频深伪(deepfake)的检测效果如何取决于人的感知能力,尤其是聋人与重听群体(d/Deaf and hard-of-hearing, DHH)。作者指出,音视频深伪大幅降低了欺诈、冒充与虚假信息的成本,但一次深伪攻击能否成功,最终仍取决于人类接收者能否识破;而识破往往需要同时整合听觉与视觉线索,这对不同听力能力的用户天然不对等。为此,研究团队开展了一项线下、混合方法的人因研究,共招募 80 名参与者,分为四组:31 名听力正常者(HP)、15 名重听者(HoH)、17 名聋人、17 名人工耳蜗(CI)使用者。每位参与者需对 30 个短视频/音频片段判断真伪,片段中的篡改类型覆盖文本转语音(TTS)、语音转换(voice conversion)、唇形同步(lip-sync)与换脸(face-swap),既有纯音频篡改、纯视觉篡改,也有视听联合篡改。 核心量化结果有三点。第一,整体准确率上 DHH 群体显著低于听力正常者(76.4% vs. 88.0%,p<.001),且差距的主要来源不是漏检,而是误报——DHH 参与者更倾向把真实片段判为被篡改(假阳性率 29.7% vs. 11.2%)。第二,差距强烈依赖于被篡改的通道:在纯音频篡改条件下,HoH 参与者与 HP 几乎持平(90.0% vs. 90.3%),CI 使用者为 79.4%,而聋人参与者仅 41.2%,说明听觉线索缺失会直接导致该通道检测能力塌陷。第三,当片段包含视听联合篡改时,各组准确率反而收敛到 84%–87% 区间,但仍随具体篡改方法(TTS、语音转换、换脸、唇形同步)而变化,暗示视觉线索在一定程度上补偿了听觉缺口,补偿程度则因操纵方式而异。 论文的主要贡献在于:首次系统性地刻画深伪对不同听力能力人群的差异化影响,量化了误报层面的不对称风险,并据此提出安全防御与检测工具应当具备可访问性与可定制性,而不是默认所有用户都具有完整的视听感知能力。适合人群包括:深伪检测与内容真实性方向的研究者、从事可用安全(usable security)与人因安全的安全工程师、以及负责无障碍与信任安全产品的设计与合规人员。

💡 推荐理由: 深伪防御长期只优化模型指标,忽视终端用户的感知差异。该研究用 80 人实验证明 DHH 群体误报率接近听力正常者的三倍,纯音频篡改下聋人准确率仅 41.2%。这意味着现有检测与告警设计对部分用户群体实际失效,属于被忽略的信任与安全风险面。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Koen T. W. Teuwen, Emmanuele Zambon, Luca Allodi

这篇论文聚焦一个长期被学术界忽视、却对安全运营中心(SOC)日常运转至关重要的环节:基于签名的网络入侵检测系统(如 Suricata)的检测规则工程。作者指出,尽管大量 SOC 依赖 Suricata 这类签名式 NIDS 进行流量侧告警,但“人如何写出规则”这一过程本身缺乏系统性研究,导致管理者难以评估工程师能力、难以设定合理的产能与质量预期。 为此,研究团队做了两件事。第一,他们开发了 SuriCap——一个专为规则工程训练与实验设计的平台,能够记录参与者在编写检测规则时的操作轨迹、迭代过程与产出结果。第二,他们以 CTF(夺旗赛)式工作坊的形式组织实验,共招募 60 名参与者,其中包括受过专业训练的硕士研究生以及具备实战经验的 SOC 从业人员,让他们针对四个给定的检测场景编写 Suricata 规则。 实验结果相当丰富:参与者累计产出了 3146 条通过校验的有效规则,使作者得以对规则编写的方法、表现质量与迭代模式进行定量与定性分析。其中最反直觉的发现是,既有从业经验对规则质量的提升作用有限——经验较少的学生所写规则的质量可与资深 SOC 专家相当。这暗示规则工程的瓶颈可能并不在“专家直觉”,而更多取决于场景信息、测试样本与流程规范。另一个关键观察是:参与者普遍难以把规则从已有的测试样本泛化到更广泛的真实流量上,作者据此强调充足且带标注的数据是提升规则泛化能力的前提条件。 基于上述观察,论文归纳出规则工程普遍存在的三个阶段性环节,并识别出一种贯穿全过程的共性模式,为 SOC 管理者提供了改进流程、合理设定对工程师专业度预期的依据。论文归类为 cs.HC(人机交互),属于以人为中心的实证安全研究,阅读对象主要是 SOC 管理者、检测工程(detection engineering)团队负责人、安全运营流程设计者,以及对安全自动化与人因研究感兴趣的学术研究者。需要注意,本次仅获取到摘要,未包含实验设计细节、四个场景的具体内容、规则质量评价指标定义与统计显著性分析,因此相关结论应视为方向性参考而非可直接落地的量化基线。

💡 推荐理由: 检测规则质量直接决定 SOC 告警的信噪比与漏报率。该研究用 60 人、3146 条规则的大样本实证说明:经验与规则质量弱相关,瓶颈在标注数据与泛化能力,而非专家个人能力。这为团队排班、培训投入和规则评审流程提供了可引用的证据,也提示管理者应把资源投向测试数据建设而非单纯依赖资深人手。

🎯 建议动作: 研究跟进:阅读全文以获取三阶段模型与共性模式的具体定义、规则质量评价指标及统计结论,再评估是否纳入内部检测工程流程改造。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Francis Hahn, Spencer Cherry, Kumar Shashwat, Laura Araujo Buldrini, Daniel Lende, Xinming Ou

该论文关注安全运营中心(SOC)人员培训中长期存在的结构性问题:SOC 普遍依赖“在岗培训”,内容高度绑定具体工具与流程,工具的复杂性往往掩盖了底层的调查推理过程,导致分析员虽能熟练操作界面,却难以形成可迁移的调查能力。作者据此提出“非易腐知识”(non-perishable knowledge)概念,特指不依赖特定工具、可长期保值并跨环境迁移的调查性思维技能,并尝试验证这类能力能否通过专门设计的事件场景被有效传授。 方法上,作者构建了一套场景驱动的培训方法:受训者面对的挑战以工具无关(tool-agnostic)的方式呈现,要求其依靠推理而非工具熟练度推进调查。他们基于真实世界事件设计了两套训练场景,并从某大学学生群体中招募受试者开展民族志(ethnographic)研究,以观察受训者对这一培训形式的接受度及实际表现。数据来自五个场次、25 名受训者、累计 20 小时有记录的培训过程。 分析采用扎根理论(grounded theory)对质性数据编码,归纳出促进或抑制调查性思维技能习得的多种因素,涉及场景真实感、引导方式、认知负荷、团队协作与复盘反馈等维度。论文的贡献在于把场景化培训、民族志研究与技术分析结合起来,为“如何培养业界公认对 SOC 至关重要的推理能力”提供实证依据与教学设计线索,适合 SOC 培训负责人、安全教育研究者与人因安全研究者参考。

💡 推荐理由: SOC 的人才瓶颈往往不在工具操作而在调查推理。该研究提出的“非易腐知识”概念与工具无关的场景化培训范式,为蓝队培训体系设计、分析员能力评估与知识迁移提供了可借鉴的实证框架,直接影响一线响应质量与人员培养效率。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Hamza Khalid, Ronald E. Thompson, Alejandra Sabater, Perucy Mussiba, Kelsey R. Fulton, Daniel Votipka

该论文聚焦生成式 AI 编码助手在软件开发中带来的一个被忽视的环节:开发者对 AI 生成代码的“评估行为”,而非最终产出的代码本身。研究背景是:AI 编码助手(自动补全、对话式工具、AI Agent)正迅速改变开发流程,且已被证实会生成不安全代码。既有工作多测量“AI 辅助开发者最终产出的代码是否安全”,但很少有人系统研究开发者在采纳前如何评估这些建议——他们能否识别其中的漏洞、依据哪些线索做出判断、以及信任程度如何影响其选择。作者认为,无论使用何种形态的 AI 编码工具,这个“人工评估”步骤都是安全开发的基础环节,因此需要先把它单独隔离出来研究。 方法上,作者开展了一项远程观察性研究,共招募 100 名参与者,实验设计刻意切断“写代码”与“评估代码”的耦合:参与者需针对四个 C 语言链表(linked-list)编程任务产出既安全又可用的代码。在每个任务中,参与者可以浏览五条 AI 生成的候选建议,这些建议在“安全性”和“功能正确性”两个维度上被有意设计成不同组合;参与者从中选择一条,并在此基础上编辑成最终提交版本。实验后,所有参与者填写问卷,测量其决策过程、对 AI 生成代码安全性的感知与信任;此外还有 23 名参与者接受了更深入的访谈,用于挖掘其判断依据与推理过程。 主要贡献可概括为:首次以较大样本(100 人)并通过观察 + 问卷 + 访谈三重手段,专门刻画开发者对 AI 生成代码的安全评估过程,识别其使用的判断线索、信任对采纳行为的影响,以及评估能力的局限;研究设置(可循环浏览五条不同安全/功能权衡的建议再选择)也为后续人因安全研究提供了可复用的实验范式。需要注意的是,本条目仅基于论文摘要,摘要未披露具体定量结果(如漏洞识别率、信任与选择之间的相关性方向等),这些结论需查阅全文。适合人群:AI 编码助手研发与产品团队、安全编码培训设计者、软件工程与人机交互(HCI/Security)研究者、以及负责 AI 代码审查流程的 AppSec 团队。

💡 推荐理由: AI 生成代码是否安全,很大程度上取决于开发者能否在采纳前识别其缺陷。该研究直接量化“人工评估”这一常被跳过的环节,对设计 AI 编码工具的安全护栏、代码审查门禁和安全培训有直接参考价值。

🎯 建议动作: 研究跟进:获取全文以了解漏洞识别率、信任与决策的量化关系,并评估是否纳入内部 AI 编码助手的安全培训与代码审查流程设计。

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Nadia Mehjabin, Ji Hyun Kim, Laura Barnes, Koustuv Saha, Henry Kautz, Subigya Nepal

该论文聚焦网络安全从业者高倦怠率与人员流失问题,并指出这一流失本身就是安全风险:SOC 等一线岗位通常对外部研究者封闭,能够触达从业者的研究往往依赖雇主渠道招募,而已经离职或心理脱离岗位最深的人恰恰最不可能认真填写雇主发放的问卷,导致样本存在系统性偏差。作者因此转向公开的在线社区——从业者在这些社区中会主动、公开地讨论自身工作条件。研究方法上,作者将经过临床验证的 Burnout Assessment Tool(BAT)改编为文本标注方案,把它迁移到自然语言语料上,并对来自五个网络安全从业者在线社区的 354,861 条主帖与 296,442 条回复进行标注与统计分析。效度验证使用两名受训标注员对 100 条帖子进行人工编码,结果显示四种倦怠症状的宏平均 F1 为 0.75,检测是否存在任何倦怠信号的 F1 达到 0.98,说明粗粒度信号识别可靠,细粒度症状区分仍有提升空间。主要发现有三点:第一,四种倦怠症状对应的是工作中不同性质的问题,而不是同一问题的不同严重程度;第二,耗竭(exhaustion)几乎出现在任何关于人手不足或工作量的抱怨中,属于最泛化、最不具区分度的信号;心理疏离(mental distance,即对工作是否值得的信念丧失)是唯一与运营层面问题无关的症状,且在只含单一症状的帖子中,其伴随明确离职意向的频率约为其他症状的两倍;第三,同伴回复呈现相反模式——当发帖者表达考虑离职时,回复内容整体向职业建议倾斜,但这种倾斜对心理疏离最小。结论是:与离职关联最强的症状,恰恰是同伴群体响应最少的症状,而用单一倦怠总分进行刻画会同时掩盖上述两种模式。该工作适合人因安全、安全劳动力与组织管理研究者,以及 SOC 管理与安全工作队伍健康度评估方向的安全负责人阅读。

💡 推荐理由: 安全团队人员流失直接削弱防御能力与响应连续性;该研究给出从公开社区语料量化倦怠与离职意向的可复用方法,并揭示团队同伴常对最危险的“心理疏离”信号反应最弱,对 SOC 管理者识别与干预人员流失风险有直接参考价值。

🎯 建议动作: 研究跟进:可作为安全劳动力韧性方向的参考基线,评估其在内部团队语料上的可迁移性与伦理合规边界

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Lea Duesterwald, Anika Jain, Shreya Kochar, Norman Sadeh

该论文研究如何通过个性化策略提升基于大语言模型(LLM)的网络安全助手的回答效果。研究动机来自一个现实矛盾:用户越来越多地向 LLM 咨询网络安全问题,但在获得建议后往往并不真正执行——仅提升回答的技术准确性,并不足以改善用户对安全建议的理解、落实与采纳意愿。因此作者将评估维度从单一的“准确性”扩展到可理解性、可执行性,以及最重要的“激励/推动力”,即回答是否足以促使用户真正采取安全行动。 方法上,作者设计了四种层层递进的个性化策略,从静态的用户画像(如角色、技术水平、组织背景)到基于交互历史的个性化,即依据用户先前的对话内容与行为线索动态调整回答。研究使用两个数据集与评测环境:一个包含 1,045 条真实世界网络安全问题的语料,以及一次为期 7 天的真实部署,共有 57 名参与者提出 1,066 个问题。评测采用双轨制:一是大规模自动化 LLM 评测,二是人工评测,二者都对回答的“感知有用性”和“是否愿意遵循该安全建议”进行成对比较打分。 主要发现是:基于对话/交互历史的个性化在两项指标上持续获得更高评价,优于静态画像等其他策略;更关键的是,LLM 自动评测所呈现的相对趋势与人工评测结果一致,表明在开展昂贵、耗时的真实用户研究之前,可以用 LLM 评测作为一种可扩展的预筛选机制来比较不同个性化策略。作者据此认为,行为驱动的个性化是 LLM 驱动的网络安全助手的一条有前景的演进方向,并强调在个性化语言模型系统的研究中,将 LLM 评测与人工评测结合使用具有重要价值。该工作适合研究 LLM 安全助手、可用安全(usable security)、安全意识与安全建议采纳行为的读者,也适合正在落地企业内部安全问答助手的安全工程与产品团队参考。

💡 推荐理由: 安全建议的执行率长期偏低,而该研究表明基于对话历史的个性化能显著提升用户对安全建议的感知有用性与采纳意愿,并且 LLM 自动评测可低成本替代部分人工用户研究。对计划部署 LLM 安全助手的团队具有直接的方法论与设计参考价值。

🎯 建议动作: 研究跟进:可将其评测方法(LLM 评测与人工评测对齐验证)纳入内部 LLM 安全助手评估流程的设计参考。

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Guy Frankovits, Lior Yasur, Fred M. Grabovski, Yisroel Mirsky

本文针对实时深度伪造(real-time deepfake)驱动的语音与视频冒充攻击,提出了一套名为 DF-CAPTCHA 的主动防御框架。研究背景是:随着实时换脸与语音克隆模型推理延迟不断降低,攻击者已能在通话过程中实时伪装成他人身份,用于 CEO 诈骗、商务邮件诈骗(BEC)、客服冒充等社会工程场景。传统的被动检测思路是搜寻合成媒体留下的伪影(artifacts)或统计特征,但论文指出这类方法在实时通话中既容易被新的生成模型规避,也超出了普通人的辨别能力——用户研究显示,人在无辅助条件下很难把实时深度伪造与真实音视频区分开。 核心方法上,作者把 CAPTCHA(人机区分验证)的思想迁移到实时通话场景:不再被动找破绽,而是由系统主动向呼叫方下发简单、自然的挑战-应答任务(challenge-response),这类任务对真人来说容易完成,但对当前的实时深度伪造系统来说难以在通话时延约束下生成足够可信的响应。验证环节综合四项准则:真实性(合成痕迹与自然度)、身份一致性(响应是否与声称身份相符)、任务完成度(是否真正按要求完成交互任务)、以及响应时间(时延分布是否符合真人特征)。四项准则的组合用于降低单一信号被绕过或误判的风险。 评估方面,论文在音频与视频两种模态上分别开展用户研究与针对真实实时深度伪造模型的实验。结果显示:人类自身的辨别表现较差;而 DF-CAPTCHA 相比被动检测方法显著提升识别性能,并在两种模态上均达到较高准确率。作者据此认为,基于主动挑战的验证是应对下一代实时深伪社会工程攻击的一条实用且鲁棒的防御路径。本文适合从事身份验证、反欺诈、呼叫中心与视频会议安全、以及深度伪造检测方向的研究者与工程团队阅读。

💡 推荐理由: 实时语音/视频深伪冒充是 BEC、高管指令诈骗和客服欺诈的关键使能技术,而被动检测与人工辨别在实时通话中均不可靠。DF-CAPTCHA 提供了可落地的主动验证思路,安全团队可据此重新设计高风险通话的身份核验流程。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Kevin Burk, Fabio Pagani, Christopher Kruegel, Giovanni Vigna

反编译是逆向工程中的核心环节,也是恶意软件分析、漏洞研究等工作的重要前置步骤。虽然自动化反编译器能够将低级指令转换为近似的高级语言,但面对混淆、内联和隐晦的API使用,产出的伪代码经常难以阅读,仍需分析师花费大量精力进行人工梳理。既有研究主要关注如何改进反编译算法,而鲜少有工作从人类认知层次出发,追问为什么有经验的分析师能更快地得出正确结论。本文正是针对这一空缺,研究了人类专家在反编译过程中的真实行为,试图发现其中可学习、可复用的启发式模式。方法上,论文设计了与反编译相关的实验任务,收集参与者在任务期间的交互数据与口头报告(典型的认知任务分析),从中归纳出若干策略。可能的策略包括但不限于:先直觉性地根据字符串、符号表或API习惯建立对代码功能的大致假设,再围绕假设验证关键路径;在遇到复杂控制流时,先梳理数据依赖再还原语义;以及更偏好循环和递归结构的复原,因为这类结构便于建立心智模型。核心贡献包括提出了一个表征人类反编译行为的分类框架,并揭示了这些行为如何映射到对工具的功能期望。基于该框架,作者给反编译工具的交互设计提出了若干建议,例如集成上下文感知的符号提醒、允许分析者在图上记录假设、以及自动将二元结构映射为高层概念。实验部分,作者通过定量指标(如完成时间、准确度)与定性编码相结合,证实了上述策略的有效性差异,并发现某些被新手忽视的细节(如异常处理路径)往往是正确理解代码的关键。文章还讨论了自动化工具与人各自的能力边界,提出混合分析的设想。本文适合安全分析师、漏洞研究员、反编译工具开发者以及安全培训讲师阅读。尽管当前仅见摘要,但论文揭示的'人类如何思考代码'这一黑盒,可能为下一代人机协同的恶意软件分析工作台提供工程与教育方向。

💡 推荐理由: 该研究首次系统剖析人类反编译行为的认知模式。对蓝队而言,理解专家分析师的启发式策略可帮助优化恶意代码分析流程、设计与培训,减少经验差异带来的安全盲区,提升事件响应效率。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Patrawat Samermit, Anna Turner, Patrick Gage Kelley, Tara Matthews, Vanessia Wu, Sunny Consolvo, Kurt Thomas

该论文聚焦于内容创作者(如视频博主、直播主、社交媒体影响者)的数字安全需求与防护实践。研究背景是:创作者因公开曝光而成为网络骚扰、人肉搜索、账号劫持、恶意举报等威胁的高发人群,且现有安全工具往往未针对其特殊场景优化。论文的核心研究问题包括:创作者面临哪些具体的安全威胁?他们在日常工作中采用哪些自我保护措施?这些措施的效果和局限性是什么?以及平台和政策应如何改进支持?虽然摘要未提供,但根据标题中引用的'Millions of people are watching you',可以推断研究者通过访谈或问卷调查收集了大量创作者的一手经验,可能采用了定性与定量结合的分析方法。主要贡献包括:第一,系统性地刻画了创作者的数字安全威胁模型;第二,揭示了创作者安全实践中的常见模式,如使用强密码、双因素认证、忽略陌生消息、将账号设为私密等,同时也指出了因资源不足或工具复杂而未能采取更高阶防护的障碍;第三,为平台设计者提供了以创作者为中心的安全功能改进建议,如简化隐私设置流程、提供反骚扰工具包、建立快速响应机制等。该研究对于安全研究人员、在线平台的产品与安全团队、以及致力于保护公共人物的组织具有重要参考价值。由于仅依据标题生成,详细方法、样本量和具体发现需查阅原文。

💡 推荐理由: 内容创作者是网络暴力和账号窃取的高危群体,理解其安全需求能帮助平台设计更贴合实际的防护功能,也能指导安全团队制定针对性的教育支持。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: David G. Balash, Mir Masood Ali, Chris Kanich, Adam J. Aviv

本论文研究iOS隐私标签(Privacy Label)对用户风险感知和安装意愿的影响。苹果自2020年起要求App Store中的应用提供隐私标签,说明应用收集哪些数据以及数据是否被用于追踪。论文通过用户研究(如调查或受控实验)比较了有无隐私标签、以及不同标签内容(例如是否包含“数据用于追踪”等敏感声明)对用户判断的影响。研究发现,隐私标签显著提升了用户对应用风险的感知,并降低了安装意愿,尤其是当标签中明确显示数据被用于追踪时,用户更倾向于不安装该应用。研究还发现用户对某些标签措辞(如特定标签名称)存在强烈负面反应。该工作为移动应用生态中的隐私披露设计提供了实证依据,并建议开发者、平台设计者和监管者更清晰地传达隐私风险,同时提示隐私标签可能改变用户行为,但需平衡信息透明与用户决策负担。

💡 推荐理由: 对移动安全与隐私合规有直接参考价值:验证隐私标签作为透明度机制能影响真实用户决策,为应用商店政策与安全设计提供实证依据,同时提醒蓝队关注标签滥用或误导风险。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Jonas Hielscher, Markus Schöps, Uta Menges, Marco Gutfleisch, Mirko Helbling, M. Angela Sasse

本研究采取定性访谈方法,深入调查了企业安全管理者在日常工作中所面临的‘摩擦’问题。所谓摩擦,指在推进安全措施、协调部门协作或落实安全策略过程中遇到的阻力与不便。研究发现,安全管理者往往缺乏必要的工具和来自组织层面的支持来有效消除这些摩擦,导致安全工作效率低下、员工合规意愿下降,甚至引发安全盲区。论文基于对多名安全经理的访谈数据,系统梳理了摩擦的主要来源、表现形态及其对安全管理效能的影响,并指出当前安全工具链和团队协作机制在适配真实管理场景方面的不足。研究贡献在于首次从安全管理者主体视角揭示‘修复摩擦’的资源缺口,为安全治理、工具设计与组织流程优化提供了实证依据。适合安全管理者、安全团队负责人、安全工具供应商以及研究安全人因与组织管理的学者阅读。

💡 推荐理由: 提示安全管理中的非技术瓶颈,有助于企业审视安全工具与支持体系是否真正赋能管理者,从而优化安全运营效率。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Smirity Kaushik, Natã M. Barbosa, Yaman Yu, Tanusree Sharma, Zachary Kilhoffer, Jooyoung Seo, Sauvik Das, Yang Wang 0005

该论文介绍 GuardLens 系统,旨在为视觉障碍人士提供更安全的在线浏览体验。视觉障碍用户在浏览网页时常依赖屏幕阅读器等辅助技术,但这些工具往往缺乏针对网络威胁(如钓鱼、恶意链接、诈骗内容)的有效警示机制,导致该群体更容易遭受网络攻击。GuardLens 设想通过集成到浏览器或辅助技术中的安全层,以可访问的方式(如语音提示、触觉反馈或增强的屏幕阅读器输出)向用户实时传递安全信号,帮助其识别和规避潜在风险。论文可能涉及用户研究、系统设计、可用性评估等多方面内容,但当前仅提供题录信息,无法获取详细的方法论和实验数据。该研究填补了网络安全与无障碍交叉领域的空白,提出了面向特定弱势群体的安全防护设计思路。由于没有完整摘要,具体技术实现、实验结论和评估指标均无法确认,建议读者查阅原文获取细节。

💡 推荐理由: 视觉障碍用户在网络安全中常被忽视,GuardLens 关注这一群体的特殊需求,推动安全工具的无障碍设计,有助于提升数字包容性和整体安全性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Smirity Kaushik, Yaxing Yao, Pierre Dewitte, Yang Wang 0005

该研究来自人机交互与隐私领域,探讨人们对“完全自动化决策”(Solely Automated Decision-Making, SADM)的理解与感受。SADM 指在没有人类实质性参与的情况下,由算法或系统独立做出对个人产生法律或类似重大影响的决策,例如信贷审批、招聘筛选、福利发放等。研究者通过质性方法(如访谈或调查)收集了普通公众对 SADM 的看法,重点关注人们如何感知、理解以及如何意识到自己正在被自动化系统决策,尤其当系统并未明确告知用户时。论文提出“How I Know For Sure”这一核心命题,揭示用户往往通过间接线索(如决策结果的突兀性、缺乏解释、无法申诉等)而非系统明示,来推断自己遭遇了自动化决策。研究还结合欧盟 GDPR 第 22 条等法律框架,分析现行法规对 SADM 的规制与实际用户认知之间的差距。主要贡献包括:系统化呈现了公众对 SADM 的认知模式;指出了现有通知与解释机制在实践中的不足;为设计更透明、可理解的自动化决策系统提供了实证依据。该论文适合关注算法公平性、可解释 AI、隐私法律合规的产品设计师、政策制定者及安全合规从业者阅读,以理解自动化决策在真实用户中的感知风险。

💡 推荐理由: 自动化决策已在安全风控、身份认证、访问控制等场景广泛落地,但用户往往无感知。了解人们如何“发觉”自己正被 SADM 影响,有助于蓝队和安全产品人员设计更透明、可审计的自动化系统,降低合规与信任风险。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
INFO
PAPER 2026-08-02

SoK: Social Cybersecurity.

推荐 9.5
Conf: 50%
👥 作者: Yuxi Wu, W. Keith Edwards, Sauvik Das

该论文是一篇关于社会网络安全(Social Cybersecurity)的系统性综述(SoK)。研究背景是:传统网络安全与隐私(S&P)系统在设计时往往忽略用户的社会行为和社会关系,导致用户在实际使用中难以在理想的安全策略与社会互动之间取得平衡。作者系统分析了先前在社会网络安全领域的工作,并基于其与四个S&P相关的社会行为的相关性进行结构化梳理:(1) 协商共享资源的访问权限;(2) 共享与社会化认证;(3) 管理自我呈现(如隐私设置、个人信息展示);(4) 影响他人对S&P的行为。进一步地,论文将社会距离划分为四个尺度——亲密、个人、社交、公共——并指出期望的访问控制策略、认证方法以及隐私和共享偏好会随社会尺度变化而变化。作者通过Ackerman在社交计算系统中提出的“社会-技术差距”视角评估当前研究现状,发现社会行为明显影响S&P偏好和需求,但现有S&P系统在设计时对这些行为缺乏理解。这种不匹配迫使用户不得不在实现理想安全策略和降低社交摩擦之间做出选择。为弥合这一差距,论文提出了一项社会网络安全的研究议程,旨在使安全与隐私目标更好地与社会需求、偏好和行为对齐。主要贡献包括:对社会网络安全文献的分类框架、社会距离尺度的引入、对现有系统不足的评估,以及未来研究方向的建议。该论文适合安全系统设计者、隐私研究员、人机交互(HCI)与安全交叉领域的研究人员阅读,有助于理解安全机制设计中的社会维度。

💡 推荐理由: 帮助蓝队和安全架构师理解:安全机制若不考虑社会语境,会导致用户规避或低效使用,进而削弱整体防护;本综述为设计更贴合用户行为的安全策略提供理论基础。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Shijing He, Yaxiong Lei, Xiao Zhan, Chi Zhang 0084, Juan Ye, Ruba Abu-Salma, Jose Such

该论文通过27个半结构化访谈,深入探讨了中国智能家居产品团队(包括产品/项目经理、软硬件工程师、用户体验设计师、法律/隐私专家、市场/运营专员)的隐私观念、实践及风险缓解策略。研究发现,参与者强调遵守中国数据隐私法律,这些法律通常将国家安全置于个人隐私权之上。此外,中国特有的文化、社会和法律因素也影响了参与者的伦理考量,以及他们在平衡用户隐私与安全及便利性之间的态度。基于这些发现,论文提出了一系列针对智能家居产品团队的建议,以及社会技术和法律干预措施,以解决中国多用户智能家居中的隐私问题,特别是针对风险群体的隐私问题。该研究填补了非西方背景下智能家居产品团队隐私视角研究的空白,为相关从业者和研究者提供了重要参考。

💡 推荐理由: 揭示了非西方背景下智能家居产品团队的隐私实践,强调了文化、法律差异对产品设计的影响,对跨国智能家居企业理解中国市场有重要参考价值。

🎯 建议动作: 纳入内部评估,用于指导中国市场的隐私合规与产品设计。

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: R. D. N. Shakya, C. P. Wijesiriwardana, S. M. Vidanagamachchi, Nalin A. G. Arachchilage

该论文是一篇关于后量子密码学(PQC)在软件系统中实现的系统化知识(SoK)研究。随着量子计算威胁的临近,将现有密码学算法迁移至抗量子算法已成为保护软件系统的关键任务。尽管标准化算法(如CRYSTALS-Kyber、Dilithium等)已发布,但开发者和组织在将其集成到实际软件系统中仍面临重大挑战。现有研究多聚焦于密码学性能和算法安全性,缺乏对影响PQC成功实现的更广泛社会-技术因素的理解。本文从人(Human)、组织(Organisation)、技术(Technology)三个维度系统梳理了PQC实现的方法与挑战。通过综合现有文献,研究发现当前知识体系存在显著不平衡:技术解决方案占据主导地位,而人力和组织层面的考虑(如开发者培训、组织流程调整、成本效益分析等)被严重忽视。进一步分析表明,这些挑战并非孤立存在于单一维度,而是跨HOT维度的相互关联的社会-技术约束,共同影响实现效果。为此,作者提出了PQC-HOT模型,这是一个概念框架,用于解释HOT维度之间的交互如何共同影响PQC实现。该模型将SoK中识别的实现干预措施和挑战整合为一个结构化的框架,支持系统化的决策、规划和组织转型策略。基于这些洞察,论文还指出了未来研究方向,包括如何设计可扩展、可持续的PQC实现方案。本文适合安全架构师、开发团队、风险管理者和政策制定者阅读,帮助他们从全局视角理解PQC迁移的复杂性。

💡 推荐理由: 该研究表明PQC迁移不仅仅是技术替换,更是涉及人员培训、组织流程和协同的系统工程,帮助安全团队避免仅关注算法性能而忽视落地障碍。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Neele Roch, Hannah Sievers, Lorin Schöni, Verena Zimmermann

本文通过定性研究方法,探讨了网络安全领域专家对增强智能(即人机协作的智能系统)在自主性方面的观点。研究采用半结构化访谈,访问了多位安全分析师、渗透测试人员和管理者,旨在理解他们对自动化与人类控制平衡的信任、接受度及期望。核心发现包括:专家们普遍认可增强智能在减轻重复性任务、加速威胁检测方面的潜力,但同时对完全自主决策持保留态度,强调人类监督的必要性;信任的建立依赖系统的可解释性、可靠性及透明度;不同角色(分析师 vs 管理者)对自主性的接受程度存在差异。研究还提出了一个初步框架,用于评估安全场景中自动化与人类决策的合理分配。该工作为设计以人为中心的网络安全增强智能系统提供了实证基础,并指出了未来需要进一步探索的领域,如伦理影响和团队动态。

💡 推荐理由: 该研究为安全团队部署AI辅助工具提供了关键的人员因素洞见,帮助理解专家对自主性的接受阈值,避免过度自动化导致信任破裂或误用。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Goda Cicėnaitė, Thomas Welsh, Helmut Neukirchen

本研究通过问卷调查(N=130)探讨了冰岛公共和私营部门组织(包括关键基础设施提供商)在网络安全中面临的人为因素挑战。研究发现,从管理层视角来看,人为因素被强烈视为安全障碍,包括缺乏充分的培训或安全意识、招聘困难、网络安全文化薄弱以及时间/财务资源限制。基于这些发现,研究提出了缓解人为因素威胁的建议:优先进行针对性培训而非泛化培训以减少员工疲劳、为财务受限组织提供外部政府支持、以及通过围绕共同责任的建设性沟通构建强大的网络安全文化。研究强调了理解人为因素对于确保技术安全控制有效性的重要性。该论文适合关注网络安全中人为因素的研究人员、中小型企业管理者以及政策制定者阅读。

💡 推荐理由: 该研究揭示了冰岛中小企业中人为因素对网络安全的实际挑战,为资源有限的组织提供了提升安全文化的可行建议。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.4)
👥 作者: Valeria Formisano, Danilo Gentile, Gennaro Esposito Mocerino, Michela Ponticorvo, Luigi Gallo, Alessio Botta, Davide Marocco

该论文研究了用户对网络钓鱼攻击的脆弱性,重点关注心理和行为因素。研究基于Spamley数据集,包含1086名参与者在真实钓鱼检测任务中的表现。通过探索性因子分析(EFA),识别出五个潜在因子:经验(Seniority)、专业知识(Expertise)、创造力(Creativity)、稳定性(Stability)和脆弱性(Vulnerability)。行为分析发现,决策速度与自我报告的冲动性呈负相关,且快速决策显著区分了脆弱用户与抗性用户。使用K-Means聚类,基于经验(F1)和创造力(F3)两个维度,揭示了两种用户画像:意识型用户(Aware User)和高风险型用户(High-Risk User)。结果表明,仅靠技术知识不足以保证抗钓鱼能力,操作成熟度、决策速度与认知方法的相互作用才是关键。研究发现大多数用户属于高风险类别,其特点是评估过程仓促且批判性分析能力较低。论文强调需要从“一刀切”的培训转向个性化、适应性的网络安全教育,以应对认知偏差和行为倾向。

💡 推荐理由: 该研究为蓝队和SOC设计针对性钓鱼防御培训提供了实证依据,帮助识别高风险用户群体并优化资源配置。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Hao-Ping (Hank) Lee, Lan Gao 0001, Stephanie S. Yang, Jodi Forlizzi, Sauvik Das

该论文通过半结构化访谈和调查等方法,深入探究了AI产品开发中从业者如何界定隐私工作的范围、驱动动机以及实际操作方式。研究发现,从业者在隐私工作中面临显著的不确定性(例如,对合规性要求理解模糊、缺乏统一实践指南),且动机往往混合了合规压力、道德责任和产品需求。论文揭示了从业者常用的“规避风险”策略,以及组织文化对隐私实践的深刻影响。主要贡献在于为AI产品开发中的隐私工程提供了实证基础,指出了现有隐私框架在实际落地中的缺口,并呼吁建立更具体、可操作的行业标准。适合隐私工程师、AI产品经理、安全合规人员阅读。

💡 推荐理由: AI产品中的隐私问题日益突出,但从业者如何实际执行隐私工作尚不明确。本论文提供了第一手实证,揭示了实践中的痛点和盲区,有助于改进流程和工具。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.6)
👥 作者: Xin Zhang 0146, Xiaohan Zhang 0001, Huijun Zhou, Bo Zhao

该论文针对跨设备认证中的用户信任问题展开可用性研究。跨设备认证(如使用手机辅助笔记本登录)日益普及,但用户对底层信任机制(如设备绑定、证书传递)的认知往往不足。研究通过设计用户实验(包含不同场景的模拟任务),测量用户对认证过程中“信任锚点”(即安全依赖的根实体)的察觉程度、同意操作的清晰度以及对认证流程的控制感。实验招募了不同技术背景的参与者,收集了定量和定性数据。主要发现包括:大部分用户未能意识到跨设备认证中实际信任哪些实体(如第三方服务、本地网络);用户往往盲目点击“同意”而忽略权限含义;当流程中断或出错时,用户缺乏有效的控制恢复手段。基于结果,论文提出了改进用户界面设计的指导原则,强调透明化信任链、提供可撤销的授权机制以及出错时的明确恢复路径。该工作属于安全与人机交互交叉领域,对设计更可用且安全的跨设备认证系统具有直接参考价值。

💡 推荐理由: 跨设备认证已成多设备生态的标配,但用户认知盲区可能导致安全隐患(如误信任恶意设备)。本研究系统揭示了认知-行为鸿沟,为安全工程师优化用户体验同时保障安全性提供了数据驱动的设计方向。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.4)