#chatgpt

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Christoph Nirschl, Magdalena Glas, Gerhard Messmann, Günther Pernul

本文是一篇关于生成式人工智能(GenAI)工具(如ChatGPT)在工作场景中隐私感知的实证研究。随着ChatGPT等工具在教育培训、医疗健康、IT等众多领域被越来越多地用于工作流程,其在提升效率的同时也引发了显著的隐私担忧。现有研究多关注技术本身,而对使用者隐私感知与实际使用行为之间的关系探讨不足,尤其缺乏对组织政策这一调节变量的分析。作者针对不同就业部门的224名在职人员展开用户研究,这些人员的日常工作已整合了ChatGPT。研究通过问卷调查测量了四个关键变量:ChatGPT的使用熟练度(proficiency)、一般隐私关注度(privacy concerns)、组织对GenAI的正式政策(organizational policies)以及实际使用频率和场景多样性。研究发现:(1)组织政策的存在与隐私相关的ChatGPT熟练度呈显著正相关,但总体熟练度水平偏低;(2)较高的隐私关注度会显著降低ChatGPT的使用频率和应用多样性,尤其是在没有GenAI政策的组织中的用户身上;(3)组织政策与个体隐私关注之间存在交互效应,表明制度保障对缓解隐私担忧至关重要。文章从人机交互(cs.HC)和网络社会(cs.CY)视角出发,研究方法上采用了定量统计分析。核心贡献在于揭示了组织层面的政策在调节个体隐私风险感知与实际GenAI工具采用之间的重要作用,并指出了当前用户隐私保护能力的不足。适合隐私政策制定者、企业管理者、安全与合规团队以及从事GenAI人机交互研究的学者阅读。需要注意的是,本文为预印本(arXiv),未经同行评审,且仅基于被试自报数据,存在一定的局限性。

💡 推荐理由: 对安全团队有参考意义:它揭示了组织级GenAI政策的缺失会放大员工隐私顾虑并降低工具合规使用意愿,而政策存在时员工在隐私相关技能上更熟练,这为设计内部AI治理和培训提供了行为学依据。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Zeyan Liu, Zijun Yao 0001, Fengjun Li, Bo Luo

随着ChatGPT等大型语言模型(LLMs)在学术写作中的广泛应用,如何检测LLM生成的内容成为学术界关注的焦点。本文系统研究了ChatGPT生成内容在学术文献中的可检测性,特别是科学论文摘要。作者首先构建了GPABench2基准数据集,包含超过280万对比样本,涵盖人类撰写、GPT生成、GPT补全和GPT润色四种类型的摘要,涉及计算机科学、物理学及人文社会科学三个学科。其次,作者探索了检测方法:评估了现有检测工具和超过240名人类评审者的不佳表现,然后基于手工设计的语言学特征模型作为基线,开发了名为CheckGPT的深度神经网络框架,旨在捕捉ChatGPT写作中微妙的深层语义和语言模式。最后,通过跨学科、跨任务的全面实验验证了CheckGPT框架的有效性,并评估了其迁移性、对提示工程的鲁棒性等。研究结果表明,现有工具和人类难以可靠区分ChatGPT生成内容,而CheckGPT在多种任务上表现更优。这项工作为学术圈制定LLM使用政策提供了数据和方法支持。

💡 推荐理由: ChatGPT在学术写作中的滥用威胁学术诚信,本文提供了大规模基准数据集和高效检测框架,帮助期刊、会议和科研机构识别AI生成内容,维护学术评价体系的公正性。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)